فإني وجدت هذا الأمر لا يصلح إلا بهم، كما لا يصلح العجين إلا بالملح. فبعث معه أنس بن مالك في نفر من الأنصار. فخرج أبو موسى حتى قدم البصرة، فنزل المربد وبعث بكتاب عمر إلى المغيرة بن شعبة وفيه: ثكلتك أمك! إذا نظرت في كتابي هذا فاقدم أنت والنفر الذين سميت معك. فلما جاء الخبر إلى المغيرة أن أبا موسى قد نزل المربد قال: ما جاء الأشعري زائراً ولا تاجراً. ثم أحسن أبو موسى في أمره، ثم رحل أبو موسى النفر الذين يشهدون عليه حتى قدموا على عمر. وقد كان المغيرة أرسل إلى أبي موسى حين قدم عليه بجارية من مولدات الطائف يقال لها عقيلة، وقال: إني رضيتها لك فاتخذها لنفسك.
لما قدم المغيرة والشهود على عمر سألهم، فشهد ثلاثة فأثبتوا الشهادة، وتقدم الرابع وهو زياد بن عبيد - وكان آخرهم - فشهد، فزعموا أن عمر قال: إني لأرى وجه رجل لا يخزي الله به رجلاً من أصحاب رسول الله صَلَّى اللهُ عَلَيْهِ وَسَلَّمَ، وقد قال رسول الله صَلَّى اللهُ عَلَيْهِ وَسَلَّمَ: ادرؤوا الحدود ما استطعتم. فقال زياد لما فحصه عمر: وكع قليلاً، فكبر المغيرة وقال لأبي بكرة حين أثبت عليه الشهادة: لقد حرصت على النظر! قال أبو بكرة: أجل والله، أي عدو الله! على أن يخزيك الله بعملك الخبيث، وقال لعمر: والله لكأني أنظر إلى بثر في فخذ المرأة؛ فسأل عمر زياداً عن شهادته فقال: لقد رأيت منظراً قبيحاً ونفساً عالياً، وما رأيت الذي فيه ما فيه الأمر. فكبر عمر وجلد أبا بكرة ونافعاً وشبلاً. فقال أبو بكرة: أما والذي بعث محمداً بالحق لقد رأى زياد مثل الذي رأيت، ولكنه كتم الشهادة، وإن المغيرة لزان. فأراد عمر أن يعيد عليه الحد مرة أخرى، فقال له علي: يا أمير المؤمنين! إذن تكمل شهادته أربعة ويحل على صاحبك الرجم. فتركه وكتب إلي