وقال بعض الذين عملوا الفسيفساء: إنا عملناه على ما وجدناه من صور شجر الجنة وقصورها، وكان عمر إذا عمل العامل الشجرة الكبيرة من الفسيفساء وأحسن عملها نقده ثلاثين درهما، قالوا: وكانت زيادة الوليد بن عبد الملك من المشرق إلى المغرب ستة أساطين، وزاد إلى الشام من الأسطوانة المربعة إلى القبر أربع عشرة أسطوانة منها عشرة في الرحبة وأربع في السقائف الأُوَل التي كانت قبل، وزاد من الأسطوان التي دون المربعة إلى المشرق أربع أساطين، وأدخل بيت النبي -صلى الله عليه وسلم- في المسجد وبقي ثلاث أساطين في السقايف وجعل للمسجد أربع منارات في كل زاوية منارة، وكانت المنارة الرابعة مطلَّة على دار مروان، فلما حج سليمان بن عبد الملك أذن المؤذن فأطل عليه، فأمر سليمان بتلك المنارة فهدمت إلى ظهر المسجد.
قالوا: وأمر عمر بن عبد العزيز حين بنى المسجد بأسفل الأساطين، فجعل قدر سترة اثنين يصليان إليها، وقدر مجلس اثنين يستندان إليها، وقالوا: ولما صار عمر إلى جدار القبلة دعا مشايخه من أهل المدينة من قريش والأنصار والموالي والعرب، فقال لهم: تعالوا احضروا بنيان قبلتكم لا تقولوا عمر غير قبلتنا فجعل لا ينزع حجرا إلا وضع حجرا، قالوا: ومات عثمان بن عفان رضي الله عنه، وليس للمسجد شرافات ولا محراب، فأول من أحدث الشرافات والمحراب عمر بن عبد العزيز، قال: وكتب عمر بن عبد العزيز الكتاب الذي في القبلة عن يمين الداخل من الباب الذي يلي دار مروان بن الحكم حتى انتهى إلى باب علي رضي الله عنه كتبه مولى لحويطب بن عبد العزى اسمه سعد، والكتاب "أم القرآن" ومن أول سورة: {وَالشَّمْسِ وَضُحَاهَا} إلى خاتمة: {قُلْ أَعُوذُ بِرَبِّ النَّاسِ} ، وعمل الميازيب من رصاص ولم يبقَ منها إلا ميزابان: أحدهما في موضع الجنائز، والآخر على الباب الذي يدخل منه أهل السوق يقال له باب عاتكة، وعمل المقصورة من ساج، وهدم بيت فاطمة بنت رسول الله -صلى الله عليه وسلم- وأدخله في المسجد، وكان ذلك في سنة إحدى وتسعين ومكث في بنيانه ثلاث سنين.
وكتب عمر في القبلة في صحن المسجد في الفسيفساء ما نسخته: "بسم الله الرحمن الرحيم: لا إله إلا الله وحده لا شريك له، محمد عبده ورسوله أرسله بالهدى ودين الحق؛ ليظهره على الدين كله ولو كره المشركون، أمر عبد الله أمير المؤمنين الوليد بتقوى الله وطاعته والعمل بكتاب الله عز وجل وسنة نبيه محمد -صلى الله عليه وسلم- وبصلة الرحم وتعظيم ما صغر الجبابرة من حق الله سبحانه وتصغير ما عظموا من الباطل وإحياء ما أماتوا من الحقوق وإماتة ما أحيوا من العدوان والجور وأن يطاع الله سبحانه، ويعصى العباد في طاعة الله فالطاعة لله سبحانه ولأهل طاعته لا طاعة لأحد في معصية الله يدعو إلى كتاب الله سبحانه وسنة نبيه -صلى الله عليه وسلم- وإلى العدل في أحكام المسلمين والقسم بالسوية في فيئهم ووضع الأخماس في مواضعها التي أمر الله سبحانه بها لذوي القربى واليتامي والمساكين وابن السبيل".