Peygamber efendimiz sallallahü aleyhi ve sellem Medîne’yi teşrif ettiklerinde ilk iş olarak Eshâbını yetiştirecek, cemâatla namaz kılacak bir mescidin yapılmasını arzu ediyorlardı. Bu sırada Cebrâil aleyhisselâm gelip; “Yâ Resûlallah! Allahü teâlâ sana, kendisi için taştan ve kerpiçten bir beyt (mescid) yapmanı emrediyor” dedi. Habîb-i ekrem efendimiz, hemen devesi Kusvâ’nın Medîne’ye geldiklerinde çöktüğü yeri sahiplerinden satın almak istediler. Sahipleri; “Yâ Resûlallah! Biz, onun bedelini ancak cenâb-ı Hak’tan bekleriz. Orayı size, Allah rızâsı için hediye ederiz” diyerek bağışlamayı çok arzu ettiler. Buna rağmen Efendimiz kabul buyurmayıp, fazlasıyla ücretini ödediler.
Bir taraftan arsanın tesviyesi yapılıp düzeltilirken, diğer yandan kerpiçler kesiliyor ve taşlar çekiliyordu. Nihâyet her hazırlık yapıldıktan sonra temel atılmak üzere toplanıldı. Temele ilk taşı, Muhammed Mustafâ sallallahü teâlâ aleyhi ve sellem efendimiz, Mübârek elleriyle koydular. Sonra sıra ile; “Ebû Bekr, taşını, benim, taşımın yanına koysun! Ömer, taşını Ebû Bekr’in taşının yanına koysun! Osman, taşını, Ömer’in taşının yanına koysun! Ali, taşını Osman’ın taşının yanına koysun” buyurdular. Emirleri yerine geldikten sonra oradaki Eshâb-ı kirâmına; “Siz de taşlarınızı koyunuz” buyurdular. Onlar da koymaya başladılar.
Mescidin yapılmasında, başta sevgili Peygamberimiz olmak üzere bütün Eshâb-ı kirâm durmadan dinlenmeden çalıştılar. Mübârek sırtlarında taş ve kerpiç taşıdılar. Taş ile temeli bir buçuk metre yükseltip, üzerini kerpiçle ördüler. Resûlullah sallallahü aleyhi ve sellem efendimiz bir gün, kerpiç yüklenmiş götürüyordu. Eshâbından biri huzûr-ı şerifine varıp, fevkalâde bir edeble; “Yâ Resûlallah! Kerpici benim taşımama müsaade eder misiniz?” dedi. Hâtem-ül-enbiyâ efendimiz, ona, daha büyük bir nezâketle, kendisinin sevâb kazanmaya daha çok muhtaç olduğunu bildirip kerpici vermediler. Onun da gidip taş getirmesini tavsiye buyurdular.
Mescid-i Nebî’nin inşâsında en çok çalışanlardan biri de Resûlullah efendimizdi. En ağır kayaları yüklenerek, mübârek göğüsleri darala darala ustaların yanına götürürlerdi. Bu taşları ve kerpiçleri taşırken yapılan işin kıymetini, kavuşulacak nîmetleri müjdeleyerek Eshâbını gayrete getirirdi.
Efendimizin bu gayretini gören müslümanlar, büyük bir aşkla çalışıyorlardı. Hattâ Ammâr bin Yâser, herkes birer kerpiç taşırken, o; birini Peygamber efendimiz, birini de kendisi için olmak üzere iki kerpiç götürürdü. Bu hâli Resûlullah efendimiz gördüklerinde, yanına vardılar. Mübârek elleri ile Hazreti Ammâr’ın arkasını sığayıp; “Ey Sümeyye’nin oğlu! Senin iki, başkalarının bir ecri var” buyurdular. Mescidin duvarları kısa zamanda bitirildi ve üzeri örtüldü. Ayrıca mescide bitişik, Resûlullah efendimiz için kerpiçten iki oda yapıldı. Bunların üzerleri de hurma kütüğü ve dalları ile örtüldü. (Bu odalar zamanla dokuza kadar çoğaltıldı.) Mescidin inşâsı bittikten sonra. Peygamber efendimiz, Hazreti Hâlid bin Zeyd’in evinden, kendisi için yapılan eve taşındılar.
İbn Sa’d, et-Tabakât, I, 239