و يقال إن عمر هدمه سنة إحدى و تسعين ه و أن البناء كان بالحجارة المنقوشة، و قصة بطن نخل و عمله بالفسيفساء و هى ألوان من الخرز يركب فى حيطان البيوت و المرمر، و عمل سقفه بالساج، و ماء الذهب، و جعل عمد المسجد من حجارة حشوها عمد الحديد و الرصاص، و يقال إن عمر لما صار إلى جدار القبلة دعا مشيخة من أهل المدينة من قريش و الأنصار و العرب و الموالى، فجعل لا ينزع حجرا إلا وضع مكانه حجرا، فكانت زيادة الوليد من المشرق إلى المغرب ست أساطين، و زاد إلى الشام من الأسطوانة المربعة التي فى القبر أربع عشرة أسطوانة. و مكث فى بنائه ثلاث سنين.

كما روى أن عمل القبط كان مقدم المسجد، و كانت الروم تعمل ما خرج من المسجد جوانبه و مؤخره، فقال سعيد بن المسيب عن القبط: عمل هؤلاء أحكم.

و يروى أن عثمان مات و ليس فى المسجد شرفات و لا محراب، و أن أول من أحدث المحراب و الشرفات عمر بن عبد العزيز، و أنه هو الذي عمل الميازيب التي من الرصاص، و لكن روى من طريق آخر أن الذي عمل الشرفات هو عبد الواحد بن عبد اللّه و هو وال على المدينة سنة أربع و مائة. و عمر توفى سنة ١٠١ و لما احترق المسجد جددت له شرفات سنة ٧٦٧ فى أيام الأشرف شعبان بن حسين بن محمد صاحب مصر. أما مناراته «مآذنه» فأحدثها عمر أيضا و يشهد لهذا ما رواه ابن إسحاق و أبو داود و البيهقي أن امرأة من بنى النجار قالت: كانت بيتى من أطول بيت حول المسجد و كان بلال يؤذن عليه الفجر كل غداة، فيأتى بسحر، فيجلس على البيت، لينظر إلى الفجر، فإذا رأى تمطى، ثم قال: اللهم إنى أحمدك و أستعينك على قريش أن يقيموا دينك، قالت: ثم يؤذن.

القبر: حين رزى‌ء المسلمون بموت النبيّ (عليه الصلاة و السلام) اختلفوا فى مكان دفنه، ثم روى لهم أنه يدفن حيث مات، فاهتدوا، و كان أبو عبيدة يضرح- و الضرح هو الشق فى وسطه القبر- و أبو طلحة يلحد- و اللحد: الشق يعمل فى جانب القبر، فيميل عن وسطه- فقال الصحابة: نستخير ربنا، و نبعث إليهما، فأيهما سبق تركناه، فأرسل إليهما، فسبق أبو طلحة، فلحدوا للنبى كما ورد فى مسند أحمد و سنن ابن ماجة و غيرهما.