خمس سواري وبنى منارته بالحجارة، وهو أول من عمل المقصورة ونقل دار الإمارة إِلَى قبلة المسجد، وكان بناؤه إياها لبن وطين حَتَّى بناها صالح بْن عَبْد الرَّحْمَنِ السجستاني مولى بني تميم في ولايته خراج العراق لسُلَيْمَان بْن عَبْد الملك بالآجر والجص وزاد فيه عُبَيْد بْن زياد وفي مَسْجِد الكوفة، وقال: دعوت اللَّه أن يرزقني الجهاد ففعل، ودعوته أن يرزقني بناء مسجدي الجماعة بالمصرين ففعل، ودعوته أن يجعلني خلفا من زياد ففعل.
وقال أَبُو عُبَيْدة معمر بْن المثنى: لما بنى زياد المسجد أتى بسوارية من جبل الأهواز، وكان الَّذِي تولى أمرها وقطعها الحجاج بْن عتيك الثقفي وابنه فظهر له مال فقيل حبذا الإمارة ولو عَلَى الحجارة فذهبت مثلا، قَالَ وبعض الناس يقول: أن زيادا رأى الناس ينفضون أيديهم إذا تربت وهم في الصلاة فقال: لا آمن أن يظن الناس عَلَى طول الأيام أن نفض الأيدي في الصلاة سنة، فأمر بجمع الحصى وإلقائه في المسجد فاشتد الموكلون بذلك عَلَى الناس وتعنتوهم وأروهم حصى أنتقوه، فقالوا: ايتونا بمثله عَلَى مقاديره وألوانه وارتشوا عَلَى ذلك فقال القائل: حبذا الإمارة ولو عَلَى الحجارة، وقال أَبُو عُبَيْدة: وكان جانب المسجد الشمالي منزويا لأنه كانت هناك دار لنافع بْن الحارث بْن كلدة فأبى ولده بيعها، فلما ولى معاوية عُبَيْد اللَّه بْن زياد البصرة قَالَ عُبَيْد اللَّه لأصحابه: إذا شخص عَبْد اللَّهِ بْن نافع إِلَى أقصى ضيعته فاعلموني ذلك، فشخص إِلَى قصره الأبيض الَّذِي عَلَى البطيحة، فأخبر عُبَيْد اللَّه بذلك فبعث الفعلة فهدموا من تلك الدار ما سوى به تربيع المسجد، وقدم ابن نافع فضج إليه من ذلك فأرضاه بأن أعطاه بكل ذراع خمسة أذرع وفتح له في الحائط خوخة إِلَى المسجد فلم تزل الخوخة في حائطه حَتَّى زاد المهدي أمير الْمُؤْمِنِين في المسجد فأدخلت الدار كلها فيه، وأدخلت فيه أيضا دار الإمارة في خلافة الرشيد رحمه اللَّه.