Habib Salim bin 'Abdullah bin 'Umar asy-Syathiri dilahirkan di Kota Tarim, Hadhramaut pada tahun 1359H. Ayahanda beliau, Habib 'Abdullah adalah pendiri Rubath Tarim yang telah melahirkan ribuan ulama dan santri dari segenap pelosok dunia Islam. Beliau terkenal sebagai seorang ulama yang sholih. Bonda Habib Salim, Syarifah Ruqayyah binti Muhammad bin Hasan Mawla Aidid, adalah seorang wanita yang sholihah yang gemar beruzlah untuk beribadah kepada Allah.Tatkala berusia 3 tahun, Habib Salim menjadi yatim dengan pemergian ayahanda beliau ke rahmatUllah. Namun asuhan dan didikan agamanya tidak pernah terabai, belum pun genap umurnya 11 tahun beliau sudah hafal al-Quran. Beliau telah menimba berbagai ilmu pengetahuan dari sekitar 80 orang ulama-ulama besar Hadhramaut dan Haramain, antara guru beliau adalah:-
1. Habib Muhammad al-Mahdi;
2. Habib Abu Bakar;
3. Habib Hasan bin 'Abdullah asy-Syathiri;
4. Habib 'Alwi bin Syihabuddin;
5. Habib Ja'far bin Ahmad al-'Aydrus;
6. Habib 'Alwi bin 'Abbas al-Maliki al-Hasani;
7. Syaikh Hasan bin Muhammad Masyath;
8. Syaikh 'Abdullah Sa`id al-Lahji asy-Syafi`i;
9. Habib Hasan bin Muhammad Fad`aq;
10. Syaikh Hasan bin Sa`id.Sekembalinya beliau ke Yaman, beliau telah menggunakan masanya untuk berdakwah dan menyebar ilmu. Beliau pernah tinggal 15 tahun di Kota Aden dan menjadi guru dan khatib di Masjid Habib Abu Bakar al-'Adni bin 'Abdullah al-Aydrus. Pada tahun 1403, atas permintaan Habib Zain bin Ibrahim BinSmith dan Habib Muhammad al-Haddar, beliau bermukim di Kota Madinah dan mengasuh Rubath al-Jufri.
Telah banyak santri yang mengambil manfaat dari kedalaman ilmu beliau. Beliau dikenali memiliki keikhlasan yang tinggi, akhlak yang mulia serta sentiasa menjaga sunnah Junjungan Nabi s.a.w. Dakwah dan menyebarkan ilmu tidak menghalang dirinya untuk memperbanyakkan ibadah-ibadah khususiyyah seperti sholat-sholat sunnat. 
Setiap Ramadhan, beliau menambah sembahyang malamnya sehingga 100 rakaat setiap malam. Kini Habib Salim mengabdikan dirinya untuk mengasuh Rubath Tarim yang mempunyai sekitar 500 orang santri dari berbagai negara termasuklah Malaysia. Selain itu, beliau tetap melakukan rehlah dakwah ke berbagai pelosok dunia Islam. Mudah-mudahan Allah memberi kesihatan yang sempurna serta melanjutkan usia ulama yang digelar sebagai "Sulthanul 'Ilmi" ini demi manfaat agama dan umat. Allahumma aamiin.
