Ali Mustafa Yaqub, lahir di Batang Jawa Tengah pada tahun 1952. 12 Beliau hidup dalam lingkungan keluarga yang ta’at beragama, beliau juga termasuk dalam keluarga yang berada dan serba berkecukupan, Ali Mustafa Yaqub kecil tidak pernah merasa kekurangan dalam hal kebutuhan sehari-hari, setiap yang ia butuhkan selalu terpenuhi, namun beliau tidak pernah membanggakan kekayaan keluarganya, Ali dan kakak-kakaknya dididik oleh kedua orang tua mereka untuk belajar hidup sederhana dan tidak berpoya-poya dan hidup mandiri serta taat kepada ajaran agama.
Ayahnya beliau bernama (Mustafa Yaqub) seorang muballigh terkemuka pada zamannya dan imam di masjid-masjid yang ada di Jawa Tengah, misinya “Menegakkan Amal ma’ruf dan memberantas Nahi Mungkar”. Sejak matahari terbit sampai terbenam ayahnya melakukan rutinitas belajar dan mengajar. Mayoritas penduduk dilingkungan rumahnya kebanyakan orang yang belum mengerti agama, baik dari kalangan petinggi pemerintahan, para guru-guru sekolah, masyarakat menengah sampai masyarakat awam (buta agama). Akhirnya ayah dan kakeknya mendirikan sebuah pondok pesantren yang para santrinya adalah penduduk disekitar. Ayah beliau mengajar tanpa pamrih dan hanya mengharap ridho Allah SWT, ayah beliau berjiwa besar dan bersahaja namun tegas dalam membela agama Allah SWT. Ibu beliau bernama Hj. Zulaikha, beliau seorang ustadzah dan Ibu rumah tangga, Ibu beliau ikut membantu perjuangan ayahnya, ibunya
12 Riwayat hidup prof. Dr. K.H. Ali Mustafa Yaqub, MA. Dikitif dari Biografi .beliau yang
meninggal pada tahun1996. Beliau memiliki tujuh saudara, dari tujuh bersaudara tersebut dua diantaranya meninggal dunia, dan yang masih hidup lima bersaudara, salah satu dari kakanya yang bernama K.H. Ahmad Dahlan Nuri Yaqub mengikuti jejak ayahnya sama seperti beliau, dan sekarang kakanya sebagai Pegasuh Pondok Pesantren Darussalam di patang Jawa Tengah.
Kakek dari ayah beliau bernama Joyo Truno, pekerjaannya seorang petani. Nama nenek dari ayah (beliau lupa). Pekerjaan nenek beliau ibu rumah tangga. Beliau menikah pada tahun 1986, nama istri beliau Ibu Hj. Ulfah Uswatun Hasnah, dari pernikahannya dengan Hj. Ulfah, Beliau dikaruniai seorang anak perempuan yang bernama Ziaul haramain yang lahir pada tahun 1991, dan sekarang sedang menduduki pendidikan kelas tiga aliyah di Pondok Pesantren Sunan Pendanaran Yogyakarta.13
Kebanyakan masa kecil beliau dihabiskan untuk belajar agama dengan kakek dan ayahnya, kebetulan ayahnya seorang kiyai. Rumah beliau selalu dipakai untuk pengajian. Ada pengajian Bapak-Bapak dan Ibu-Ibu yang diadakan dua minggu sekali, yaitu setiap malam senin dan kamis. Selain itu juga ayahanda Ali juga membuka pengajaran yang berbentuk kursus yaitu kursus ilmu agama dan Bahasa Arab bagi masyarakat yang ingin mendalaminya. Setiap kali ayahanda atau kakek Ali melaksanakan pengajian, Ali selalu mengikutinya, beliau tiadak pernah absen sehingga ketika beliau belum sekolah, beliau sudah mengetahui pelajaran agama terlebih dahulu selain beliau terkenal anak yang sangat cerdas dan selalu ingin mengetahui apa yang belum ia ketahui, dari sini beliau terkenal anak dan cucu yang sangat cerdas dan cekatan. Akhirnya pada usia Tujuh Tahun,
13 Wawancara pribadi bersama Prof. Dr. KH Ali Mustafa Yaqub,MA(Imam Besar Istiklal dan
beliau disekolahkan oleh kedua orang tuanya di Sekolah Rakyat (SR) pada Tahun 1961-1966.
Setelah tamat dari Sekolah Rakyat (SR), beliau melanjutkan pendidikan di Madrasah Tsanawiyah (MTS) atau dikenal dengan Sekolah Menengah Tingkat Pertama (SMP) pada tahun 1966 sampai dengan tahun 1969, setelah tamat dari Madrasah Tsanawiyah, beliau melanjutkan pendidikan di Pondok Pesantren Tebuireng Jombang Jawa Tengah dengan tujuanya memperdalam ilmu agama seperti belajar kitab-kitab kuning dan bahasa arab.
Ketika beliau duduk dikelas tiga aliyah di Pondok Pesantren Tebuireng Jombang beliau mendapat ujian dari Allah SWT, Ayah beliau dipanggil oleh yang maha kuasa atau meninggal dunia tepatnya dipenghujung tahun 1971. Setelah mendegar kabar bahwa ayah beliau meningal beliau langsung meminta izin kepada para guru atau ustadz disana untuk menemui ayahanda untuk terakhir kalinya, beliau terlihat tenang, tegar dan sabar dalam menghadapi cobaan yang terberat dalam hidupnya, apalagi beliau ditinggal sang ayah pada usia yang masih muda sekali dan belum menamatkan sekolah tingkat aliyahnya. Karena sejak kecil beliau sudah diajarkan hidup mandiri dan sederhana, maka beliau ikhlas melepaskan kepergian ayahnya dan senantiasa berdoa untuk ayahanda tercinta.14
Setelah beliau menamatkan pendidikannya di Pondok Pesantren, beliau langsung kembali kekampung halaman, dengan i’tikad dan niat yang tulus yaitu ingin melanjutkan perjuangan ayahanda dan kakeknya yaitu mengamalkan ilmu-ilmu yang sudah didapatkannya di pondok pesantren kepada masyarakat dikampung halamannya serta
14 Biografi Prof. Dr. Ali Mustafa Yakub,MA. Dikutib dari buku beliau “kritik hadis “ pustaka
mengembangkan pondok pesantren yang telah dibangun oleh kakeknya bersama kakak-kakaknya.
Setelah sekian tahun mengabdikan diri kepada masyarakat, dalam hati nurani beliau bertekad untuk melanjutkan pendidikan ke timur tengah Arab Saudi untuk memperdalam Bahasa Arab, apa boleh buat keinginanya tersebut belum bisa dicapai, karena beliau terbatas oleh biaya untuk berangkat kesana. Akhirnya Beliau merenung dan berpikir mencari jalan keluarnya bagaimana caranya supaya saya bisa melanjutkan pendidikan kejenjang lebit atas atau kuliah, ketika sedang merenung beliau teringat kepada salah seorang kakak kelas beliau yang sedang elanjutkan pendidikan di timur tengah, tidak lama kemudian beliau langsung membuka sebuah buku kenangan dari pondok pesantren yang berisi biodata-biodata para alumni, akhirnya beliau menemukan alamat rumah dan no teleponnya, secepat mungkin beliau langsung mencari alamat rumahnya dan menelponnya, akhirnya beliau mendapatkan banyak sekali informasi bagaimana beliau bisa melanjutkan kuliah disana, karena dari kecil beliau sudah memahami bahasa arab, maka beliau langsung mengajukan beasiswa pendidikan kepada pemerintah arab saudi, akhirnya beliau bisa melanjutkan kuliah di Timur Tengah Arab Saudi tanpa, mengeluarkan biaya sedikitpun.15