Gresik merupakan daerah yang masyarakatnya agamis, sehingga kecenderungan belajar mereka terhadap ilmu-ilmu agama sangat tinggi. Oleh sebab itu, kecenderungan tersebut disambut oleh tokoh mereka dengan pendirian sebuah pondok pesantren yang bernama Pondok Pesantren Ihyaul Ulum.

Dalam perjalanan selanjutnya seiring dengan perkembangan zaman, dimana pendidikan formal dan ijazah merupakan kebutuhan hidup, maka didirikanlah pendidikan formal mulai dari tingkat ibtidaiyah sampai tsanawiyah. Pada tahun 1951, kala itu madrasah tsanawiyah ditempuh selama 5 (lima) tahun.
Perkembangan selanjutnya, madrasah ibtidaiyah tetap ditempuh selama 6 (enam) tahun, sedangkan madrasah tsanawiyah berubah menjadi muallimin muallimat yang ditempuh selama 6 (enam) tahun.

Kondisi ini tidak berlangsung lama, disaat pemerintah membuat kebijakan baru, maka Mualimin Muallimat Ihyaul Ulum dirubah menjadi Madrasah Tsanawiyah yang ditempuh selama 3 (tiga) tahun, dan Madrasah Aliyah juga ditempuh selama 3 (tiga) tahun.

Selanjutnya, Madrasah Tsanawiyah Ihyaul Ulum berkembang dengan pesat, sehingga pada tahun 1976 dapat membangun gedung berlantai 2 (dua), disamping menyiapkan asrama untuk siswa-siswanya yang datang dari luar daerah. Pada tahun 2006, gedung tersebut telah direnovasi lagi dan dibangun menjadi gedung berlantai 3 (tiga).

Jumlah Siswa yang menempuh pendidikan di Madrasah Tsanawiyah Ihyaul Ulum mengalami pasang surut. Sejak berdiri sampai tahun 1992 terus meningkat sehingga mencapai 707 siswa. Tiga tahun berikutnya jumlah tersebut mengalami penyusutan karena banyaknya madrasah tsanawiyah baru berdiri di sekitarnya. Setelah melewati 3 (tiga) tahun masa pasang surut, kondisi jumlah siswa stabil,  sekitar 500 siswa.