Sekolah Kebangsaan Kalumpang merupakan sekolah yang telah dibina kira-kira 30 tahun yang lepas.Terdapat dua pendapat yang mengatakan mengapa sekolah ini dinamakan Sekolah Kebangsaan Kalumpang.
Pertama sekolah ini telah mendapat nama sempena nama sejenis pokok Kelumpang yang amat banyak dikawasan sekolah sebelum ianya ditubuhkan.Manakala pendapat kedua pula mengatakan sekolah ini dinamakan kalumpang yang bermakna pinggang ( Kalompang dalam bahasa Bajau bererti pinggang) kerana sekolah ini terletak ditengah-tengah di antara Pekan Semporna dan Tawau.Jarak sekolah ini dengan Pekan Semporna kira-kira 50 kilometer.
Pada awal penubuhannya,sekolah ini telah diasaskan oleh
Syarikat Hap Seng yang mengusahakan ladang kelapa sawit di kawasan tersebut.Sekolah ini telah dibuka pada 10 Oktober 1980 dengan jumlah guru seramai 8 orang dan 300 orang murid.Di awal penubuhannya status sekolah ini merupakan Sekolah Rendah Jenis Kebangsaan (SRJK) yang mana segala prasarana disediakan oleh pihak syarikat dan tenaga pengajarnya disediakan oleh pihak kerajaan.Sekolah ini telah berubah statusnya beberapa kali iaitu dari Sekolah Rendah Jenis Kebangsaan (SRJK) kepada Sekolah Rendah Kebangsaan (SRK) dan kemudiannya Sekolah Kebangsaan (SK).
Sekolah Kebangsaan Kalumpang ini telah dirasmikan pada 21 Mei 1983 oleh Datuk Haji Mohd Noor Haji Mansur,Menteri Perancangan dan Pembangunan Kewangan Sabah.