Seiring semakin pesatnya pengajian tersebut maka K.H. Abdusy Syakur Chairy merasakan perlu berdirinya lembaga pendidikan yang formal. Maka pada tahun 1959 berdirinya Daarut Tarbiyatil Islamiyyah atau diIndonesiakan menjadi Rumah Pendidikan Islam ( RPI ). Pendidikan formal yang ada bermula berawal dari Madrasah Ibtidaiyah dan selanjutya Mu’allimin ( Pendidikan Guru Agama 6 Tahun ).
Pada tahun 1979 ada kebijakan dari pemerintah melalui Kanwil Departemen Agama DKI Jakarta bahwa Mu’allimin (PGAP-PGAA) dipusatkan di Pondok Pinang, sedangkan Mu’allimin yang lainnya berubah menjadi Madrasah Tsanawiyah dan Madrasah Aliyah termasuk RPI.
Sejak itulah alumni MTs. RPI sesuai dengan kualitasnya banyak yang melanjutkan pendidikan yang Sekolah Lanjutan Atas (Madrasah Aliyah, SMA, SMK/SMEA) Negeri & Swasta unggulan bahkan ada yang melanjutkan ke luar negeri terutama Timur Tengah.
Para alumni banyak yang berkiprah di masyarakat sesuai dengan bidang dan profesi masing-masing, misalnya ulama, pendidik/guru, dokter, wartawan, broadcasting, pengusaha dan profesi lainnya termasuk di instansi pemerintahan.