Habib Zain lahir di ibukota Jakarta pada 1357/1936. Ayahnya, Habib Ibrahim adalah ulama besar di bumi Betawi kala itu. Selain keluarga, lingkungan tempat di mana mereka tinggal pun boleh dikatakan sangat religius.Guru-gurunya ialah Habib Muhammad bin Salim bin Hafiz, Habib Umar bin Alwi al-Kaf, al-Allamah al-Sheikh Mahfuz bin Salim, Sheikh Salim Said Bukayyir Bagistan, Habib Salim bin Alwi al-Khird, Habib Ja’far bin Ahmad al-Aydrus, Habib Muhammad al-Haddar (mertuanya) dan ramai lagi.
Selanjutnya, pada usia empat belas tahun (1950), ayahnya memberangkatkan
Zain ke Hadramaut, tepatnya kota Tarim. Di bumi awliya’ itu Zain tinggal
di rumah ayahnya yang telah lama ditinggalkan.Menyadari mahalnya waktu untuk disia-siakan, Zain berguru kepada
sejumlah ulama setempat, berpindah dari madrasah satu ke madrasah
lainnya, hingga pada akhirnya mengkhususkan belajar di ribath Tarim.
Di pesantren ini nampaknya Zain merasa cocok dengan keinginannya. Di
sana ia memperdalam ilmu agama, antara lain mengaji kitab ringkasan
(mukhtashar) dalam bidang fikih kepada Habib Muhammad bin Salim bin
Hafidz. Di bawah asuhan Habib Muhammad pula, Zain berhasil menghapalkan
kitab fikih buah karya Imam Ibn Ruslan, “Zubad”, dan “Al-Irsyad” karya
Asy-Syarraf Ibn al-Muqri.
Tak cukup di situ, Zain belajar kitab “Al-Minhaj” yang disusun oleh
Habib Muhammad sendiri, menghapal bait-bait (nazham) “Hadiyyah
as-Shadiq” karya Habib Abdullah bin Husain bin Thahir dan lainnya.
Dalam penyampaiannya, di Tarim beliau sempat berguru kepada sejumlah
ulama besar. Seperti Habib Umar bin Alwi al-Kaf, Syekh Salim Sa’id
Bukhayyir Bagitsan, Habib Salim bin Alwi al-Khird, Syekh Fadhl bin
Muhammad Bafadhl, Habib Abdurrahman bin Hamid as-Sirri, Habib Ja’far bin
Ahmad al-Aydrus, Habib Ibrahim bin Umar bin Agil dan Habib Abubakar
al-Atthas bin Abdullah al-Habsyi.
Selain menimba ilmu, di sana Habib Zain banyak mendatangi majlis para
ulama demi mendapat ijazah, semisal Habib Muhammad bin Hadi as-Seggaf,
Habib Ahmad bin Musa al-Habsyi, Habib Alwi bin Abbas al-Maliki al-Makki,
Habib Umar bin Ahmad bin Sumaith, Habib Ahmad Masyhur bin Thaha
al-Haddad, Habib Abdul Qadir bin Ahmad as-Seggaf dan Habib Muhammad bin
Ahmad as-Syatiri.
Demikianlah. Melihat begitu banyaknya ulama yang didatangi, dapat
disimpulkan, betapa besar semangat Zain dalam rangka merengkuh ilmu
pengetahuan agama, apalagi melihat lama waktu beliau tinggal di sana,
yaitu kurang lebih delapan tahun.
Dirasa ilmu yang didapatkan cukup, salah seorang gurunya bernama Habib
Muhammad bin Salim bin Hafidz menyarankannya pindah ke kota Baidhah,
salah satu wilayah pelosok bagian negeri Yaman, utuk mengajar di ribath
di sana sekaligus berdakwah. Ini dilakukan menyusul permohonan mufti
Baidhah, Habib Muhammad bin Abdullah al-Haddar.
Dalam perjalanan ke sana, Habib Zain singgah dulu di kediaman seorang
teman dekatnya di wilayah Aden, Habib Salim bin Abdullah as-Syatiri,
yang saat itu menjadi khatib dan imam di daerah Khaur Maksar. Di sana
Zain tinggal beberapa saat.
Selanjutnya, Habib Zain melanjutkan perjalanannya. Maka dapat ditebak,
sesampai di Baidhah, Habib Zain pun mendapat sambutan hangat dari sang
tuan rumah, Habib Muhammad al-Haddar. Di sanalah untuk pertama kali ia
mengamalkan ilmunya lewat mengajar.
Habib Zain menetap lebih dari 20 tahun di Rubath Baidha’ menjadi khadam ilmu kepada para penuntutnya. Beliau juga menjadi mufti dalam Mazhab Syafi’e. Setelah itu beliau berpindah ke negeri Hijaz.
Selama 12 tahun Habib Zain telah bersama-sama dengan Habib Salim al-Syatiri menguruskan Rubath di Madinah. Setelah itu Habib Salim telah berpindah ke Tarim, Hadhramaut untuk menguruskan Rubath Tarim.
Habib Zain di Madinah diterima ramai. Keterampilan dan wibawanya terserlah. Muridnya banyak dan terus bertambah. Dalam kesibukan mengajar dan usianya yang juga semakin meningkat, keinginan untuk terus menuntut ilmu tidak pernah pudar.
Beliau mendalami ilmu Usul daripada Sheikh Zaydan al-Syanqiti al-Maliki. Habib Zain terus menyibukkan diri menuntut dengan Al-Allamah Ahmaddu bin Muhammad Hamid al-Hasani al-Syanqiti dalam ilmu bahasa dan Usuluddin.
Habib Zain seorang yang tinggi kurus. Lidahnya basah, tidak henti berzikrullah. Beliau sentiasa menghidupkan malamnya. Di waktu pagi Habib Zain keluar bersolat Subuh di Masjid Nabawi. Beliau beriktikaf di Masjid Nabawi sehingga matahari terbit, setelah itu beliau menuju ke Rubath untuk mengajar. Majlis Rauhah setelah asar sehingga maghrib.
