Mula beroperasi pada tahun 1988 setelah Sekolah Agama Bukit Zaharah ditutup dan pelajarnya dipindahkan ke sekolah ini. Asalnya bangunan ini digunakan oleh Pejabat Pendidikan Daerah Johor Bahru sebelum ianya berpindah ke Larkin Perdana. Johor Bahru , Setelah perpindahan tersebut, bangunan ini dijadikan Sekolah Agama Bandar Johor Bahru dengan para pelajarnya terdiri daripada anak-anak kakitangan Tenaga Nasional Berhad (TNB), kakitangan Kerajaan serta pelajar yang tinggal di kawasan berhampiran seperti Tarom, Bukit Saujana, Ngee Heng dan sebagainya.
Pembukaan awal bermula dari perpindahan dari bangunan istana johor bukit Zaharah , ke bangunan sekolah Agama Bandar ,Jalan Yahya Awal , Johor Bahru . Pada asasnya bangunan berharga RM 800,000.00 pada tahun 1988 , memliki dua buah blok A dan B . Ianya di bina berhampiran Bangunan TNB , sejajar dengan Sekolah Perempuan Yahya Awal , Convent , Saint Joseph .
Pentadbiran awal di asaskan oleh Ust Abu Bakar , dan seramai 12 orang guru lelaki dan perempuan .
Kini tahun 2010 telah banyak infrastruktur dan prasarana yang telah di laksanakan dan di jayakan dengan jayanya . Dengan kekuatan seramai 19 orang guru akan sekolah memantapkan pentadbiran dan perjalanan sekolah ini .
