SMP Islam Al Azhar 36 Bandung berdiri pada bulan Juli 2014. Sekolah ini merupakan sekolah di bawah naungan langsung Yayasan Pesantren Islam Al-Azhar Jakarta. SMP Islam Al-Azhar 36 Bandung berdiri di atas lahan seluas 5.000 M2, dan luas bangunan seluruhnya 5.000 M2. Memiliki 15 lokal kelas, 2 ruangan guru, 1 ruang Tata Usaha, 2 ruang UKS, 1 ruang Perpustakaan, 1 ruang Koperasi, 17 ruang toilet, 1 ruang gudang, dan 1 Aula yang beralamat di Patuha No. 36 Kelurahan Lingkar Selatan Kecamatan Lengkong Kota Bandung Propinsi Jawa Barat. Lahan tersebut merupakan hibah kerjasama dengan Yayasan Lembaga Pendidikan Muslimin Kota Bandung. 

Jumlah murid pada tahun pertama berjumlah 95 orang dan dibagi ke dalam 4 rombongan belajar yang rata-rata jumlah murid perkelasnya ada 24 orang. Sedangkan jumlah guru dan karyawan saat itu berjumlah 13 orang. Kepala Sekolah pertama saat itu bernama Bapak H. Saprudin, S.Pd, yang pada tahun selanjutnya berganti menjadi Bapak H. Endang Supriatna, S.Ag, dan saat ini Ibu Nurul Intan Septiani, M.Pd, Saat itu SMPIA 36 belum memiliki izin operasional sehingga saat Angkatan 1 akan melaksanakan UNBK ada kemungkinan dilaksanakan di dekolah lain, namun dengan perjuangan kepala sekolah selama berbulan-bulan, alhamdulillah akhirnya izin operasional turun, sehingga murid Angkatan 1 dapat melaksanakan UNBK di sekolah mereka sendiri.

Di tahun-tahun pertama berdiri, sekolah ini belum begitu dikenal baik di kalangan Al Azhar maupun di kota Bandung pada umumnya, dan juga belum banyak prestasi yang dicapai. Namun dibawah kepemimpinan Bapak H. Endang Supriatna, S.Ag dan dilanjutkan Ibu Nurul Intan Septiani, M.Pd, beliau banyak menciptakan inovasi dan kreasi program-program sekolah, baik program untuk murid maupun untuk guru dan karyawan, sehingga sampai detik ini, dalam kurun waktu 9 tahun, banyak sekali prestasi yang telah diraih, baik prestasi dalam bidang akademik maupun non-akademik.