Nabi resmi menjadi pemimpin penduduk kota itu saat tiba dan diterima penduduk Yatsrib (Madinah). Pada periode Madinah, Islam, merupakan kekuatan politik Nabi SAW bukan hanya mempunyai kedudukan sebagai kepala agama, tetapi juga sebagai kepala Negara. Periode ini mengembangkan Islam lebih ditekankan pada dasar-dasar pendidikan masyarakat Islam dan pendidikan sosial kemasyarakatan.

Nabi Muhammad SAW meletakan dasar-dasar kemasyarakatan Islam di Madinah yaitu mendirikan masjid, mempersaudarakan kaum Anshar dan Muhajirin, perjanjian saling membantu antara sesama kaum Muslimin dan orang Yahudi dan Nasrani serta meletakan dasar-dasar politik, ekonomi, sosial untuk masyarakat.

Karena mempunyai musuh yang membenci Islam, Nabi Muhammad sebagai kepala pemerintah mengatur siasat dan membentuk tentara. Umat Islam diizinkan untuk berperang dengan 2 alasan yaitu untuk mempertahankan diri dan melindungi hak miliknya serta menjaga keselamatan dalam penyebaran dakwah dari orang-orang yang menghalanginya.

Pada 2 istilah yang digunakan untuk mengungkapkan perang yang terjadi pada masa Nabi SAW yaitu Ghazwah berarti perang yang dipimpin langsung oleh Nabi dan Sariyah yaitu perang yang dipimpin oleh sahabat atas penunjukan Nabi SAW. Selama 10 tahun perjuangan menegakkan Islam di Madinah, Nabi telah memimpin 9 perang besar. Seperti perang Badar Al-Kubra, perang Uhud, perang Khandaq, perang Bani Quraidhah, perang Bani Musthaliq, perang Khaibar, perang Fath Makkah, perang Hunain, dan perang Tabuk.

Ketiga, menjalin kerja sama dengan kaum yang tidak beragama Islam, seperti kaum Yahudi dan kaum Nasrani. ikatan hubungan itu terwujud dalam perjanjian yang disebut Piagam Madinah. Piagam Madinah berfungsi sebagai undang-undang kemasyarakatan bagi semua kalangan yang ada di kota. Di dalamnya tertuang aturan-aturan yang berkenan dengan orang-orang Muhajirin, Anshar, dan Yahudi yang bersedia hidup berdampingan dengan kaum muslimin.

Saat Nabi sudah sampai di Yatsrib, pertama, Nabi membangun masid Nabawi untuk menjadi tempat ibadah dan digunakan sebagai pusat kegiatan lain seperti belajar, memutuskan perkara yang muncul di masyarakat, musyawarah, dan pertemuan. Kedua, menegakan ukhuwah islamiyah (persaudaraan Islam) antara Muhajirin dan Anshar. Untuk menegakan ukhuwah Islamiyah ini, Nabi mempersaudarakan orang-orang Muhajirin dengan orang-orang Anshar. Kebanyakan mereka memang bukan berasal dari kalangan berada. Kondisi orang-orang Muhajirin ini telah digambarkan dalam Al-Qur'an (QS. al-Hasyr/59:8). Dalam kondisi seperti ini, kalangan Anshar menyambut kedatangan mereka dengan tangan terbuka. Hal ini Allah menggambarkan Anshar di Al-Qur'an (QS. al-Hasyr/59:9).

Saat proses perjalanan hijrah ke Yatsrib, Rasulullah memilih waktu keluar Mekkah di siang hari di bawah terik matahari dengan menutup muka, membeli 2 binatang kendaraan perjalanan 4 bulan sebelumnya, dan keluar rumah Abu Bakar tidak melalui pintu yang biasanya. Sementara Asma ' binti Abu Bakar membantu menyiapkan bekal. Rasulullah menugaskan Abdullah ibn Abu Bakar sebagai pengumpul informasi, menunjuk Abdullah Ibn Uraiqith sebagai pemandu terpercaya, menggunakan jalur perjalanan yang tidak bias dilalui manusia, dan menjadikan Gua Tsur sebagai tempat transit.

Nabi Muhammad saw. telah melaksanakan dakwah selama 10 tahun di Mekkah dan mendapatkan sambutan yang kurang baik. Lalu setelah 13 tahun Rasulullah SAW berjuang di Mekkah, turunlah izin dari Allah kepada Nabi untuk hijrah ke Yatsrib (Madinah). (QS. an-Nahl/16:41-42).