Sejak lama, jauh sebelum orang-orang Hadrami bermigrasi, mereka sudah dikenal sebagai pedagang dan pelaut, mirip dengan bangsa Phoenicia kuno (sekarang Lebanon dan Suriah). Karenanya, menurut Natalie Mobini Kesheh, orang-orang Hadramaut dikenal sebagai “orang Phoenicia dari Timur Tengah”.
Perdagangan maritim mereka sudah mulai aktif sejak sekira lima abad sebelum masehi. Sempat mengalami kemunduran, mereka bangkit kembali setelah masuknya agama Islam. Mereka berdagang sembari menyebarkan agama Islam. Rute perdagangan orang-orang Hadrami dengan Nusantara tampaknya telah ada sejak abad ketujuh. Mereka berniaga dan kembali dengan membawa hasil bumi yang akan diperdagangkan di tempat lain.
Situasi politik dan keamanan di dalam negerilah yang mendorong orang-orang Hadrami bermigrasi, yang dimulai dari kalangan sayid alawiyin (keturunan Nabi Muhammad melalui Fathimah dan Ali bin Abi Thalib). Menurut Hikmawan Saefullah, dosen hubungan internasional Universitas Padjadjaran Bandung, pada pertengahan abad ke-8 dan 9, rezim Umayah dan Abasiyah menjadikan kalangan sayid target pembunuhan karena ditakutkan menjadi ancaman politik. Karena terus dikejar dan diintimidasi, mereka melarikan diri ke berbagai penjuru daerah seperti Afrika, Hijaz, Persia, dan India.
“Di antara yang melarikan diri ini, ada yang kabur ke wilayah Arabia Selatan, kemudian meneruskan perjalanannya melalui laut hingga ke wilayah Nusantara,” kata Hikmawan, yang juga seorang keturunan Arab Hadramaut dan lama meneliti sejarah Arab Hadramaut di Indonesia.
Setelah itu, orang-orang Hadrami yang miskin mengikuti jejak. Berbeda dari orang kaya, mereka melakukan perjalanan dengan tujuan terdekat, seperti wilayah Laut Merah dan pesisir Afrika Timur. “Orang-orang kaya mampu melakukan perjalanan panjang dan mahal untuk tujuan seperti India dan Timur Jauh karena memiliki cukup uang untuk biaya perjalanan dan untuk keluarga yang ditinggalkan,” tulis Frode F. Kacobsen dalam Hadrami Arabs in Present-day Indonesia.
Mereka yang bermigrasi ke Afrika Timur dan India bisa kembali ke tanah air lebih mudah dan lebih sering daripada yang bermigrasi ke Nusantara. Pasalnya, kapal layar Arab melakukan perjalanan dagang setiap tahun antara India, Arab, dan Afrika Timur. “Sebelum jalur kapal uap didirikan di Samudra Hindia, berlayar ke Hindia Timur lebih memakan waktu, butuh berhenti di tengah perjalanan untuk menunggu angin muson selama hampir setahun,” tulis Linda Boxberger dalam On the Edge of Empire Hadhramaut.
Karenanya, banyak Hadrami menetap di Nusantara secara permanen. “Bahkan setelah perjalanan dengan kapal uap lebih mudah, karena alasan keluarga atau bisnis, mereka jarang pulang akibat biaya dan lamanya perjalanan,” tulis Boxberger.
Menurut LWC van den Berg, seorang pejabat pemerintah Hindia Belanda, sejumlah kecil orang Arab yang datang dari berbagai negeri di luar Hadramaut jarang menetap. Kalaupun menetap, mereka berbaur dengan orang Arab dari Hadramaut. Sebagian besar adalah petualang yang dalam waktu singkat menghilang secepat mereka datang.
Van den Berg menjelaskan secara khusus mereka yang datang dari Mekkah. Jumlahnya relatif besar, dan beberapa di antaranya berasal dari lapisan masyarakat paling bawah. “Kedatangan mereka hanyalah bertujuan mencari sumbangan dengan segala cara, atau berkaitan dengan ibadah haji; seringkali keduanya digabungkan,” tulis van den Berg dalam Orang Arab di Nusantara. Mereka menjadi pemandu atau penerjemah bangsawan atau rombongan orang-orang bumiputera yang beribadah haji.
Praktis, sebagian besar orang-orang Arab yang bermukim di Nusantara berasal dari Hadramaut.