Sekolah Kebangsaan Rompin mula dibuka pada hari Ahad, 29 September 1957, dengan menumpang di SJK(T) Tanah Panjis, Rompin. Bangunan pertama sekolah ini telah dirasmikan oleh Y.B. Encik Mohd Khir Bin Johari (Menteri Pelajaran Malaysia) pada 9 September 1966.

Pada hari ini (2012), Sekolah Kebangsaan Rompin telah berwajah baru dengan adanya bangunan baru, padang dan Pra-Sekolah yang telah dibina pada tahun 2007 dan siap sepenuhnya pada tahun 2009. 

Bangunan 4 tingkat yang dibina atas tapak kantin dan kuarters lama telah menjadi imej sekolah yang semakin maju ke hadapan. Murid yang seramai 364 orang dan 37 orang guru serta 15 orang staf sokongan menjadi penggerak dalam memajukan sekolah ke arah yang lebih cemerlang, gemilang dan terbilang.