أمرهم عبد الله بن وهب ، وبعد شخوص أبي موسى للحكومة ، فقال ابن وهب : إن هؤلاء القوم قد خرجوا لإمضاء حكمهم حكم الضلال ، فأخرجوا بنا رحمكم الله إلى بلدة نبعد بها عن مكاننا هذا ، فإنكم أصبحتم بنعمة ربكم أهل الحق . فقال شريح : فما تنتظرون ؟ أخرجوا بنا إلى المدائن لننزلها ونبعث إلى إخواننا من أهل البصرة فيوافونا . فأشار عليهم زيد بن حصين أن لايعتمدوا دخول المدائن ، وأن يخرجوا وحداناً مستخفين لئلايرى لهم جماعة فتتبع ، وأن ينزلوا بحصن المدائن ، فعملوا على ذلك وكتبوا إلى من بالبصرة من إخوانهم يستنهضونهم ، وبعثوا بالكتاب مع رجل من بني عبس . وخرج زيد بن حصين وشريح بن أوفى من منزلهما على دابتيهما . وخرج الناس وترافدوا بالمال والعتاق ، وخرج عتريس بن عرقوب الشيباني صاحب عبد الله بن مسعود ، مع الخوارج فاتبعه صيفي بن فسيل الشيباني في رجال من قومه ، فطلبوه ليردوه فلم يقدروا عليه .

قالوا : كان أول من خرج شريح بن أوفى صلاة الغداة ، وهو يتلو : رَبَّنَا أَخْرِجْنَا مِنْ هَذِهِ الْقَرْيَةِ الظَّالِمِ أَهْلُهَا . فخرج قومه من المسجد ليمنعوه فقال : والله لا يعرض لي أحد منكم إلا أنفذت رمحي فيه ! فقالوا : أبعدك الله إنما أشفقنا عليك !

وخرج زيد بن حصين وهو يقرأ : فَاخْرُجْ إِنِّي لَكَ مِنَ النَّاصِحِينَ . فَخَرَجَ مِنْهَا خَائِفًا يَتَرَقَّبُ قَالَ رَبِّ نَجِّنِى مِنَ الْقَوْمِ الظَّالِمِينَ . فلما عبر الفرات قرأ : وَلَمَّا تَوَجَّهَ تِلْقَاءَ مَدْيَنَ قَالَ عَسَى رَبِّى أَنْ يَهْدِيَنِى سَوَاءَ السَّبِيلِ .

ثم تتابعوا يخرجون . وخرج القعقاع بن نفر الطائي فاستعان عليه أخوه حكم بن نفر بن قيس بن جحدر بن ثعلبة برجال فحبسوه . وحكم هذا جد الطرماح الشاعر ابن حكيم بن حكم ، فقال :

وإني لمقتاد جوادي فقاذف * به وبنفسي اليوم إحدى المتالف

فيا رب إن كانت وفاتي فلا تكن * على شرجع تعلوه خضر المطارف

ولكن أَحِن يومي شهيداً بعصبة * يصابون في فج من الأرض خائف

ليصبح لحدي بطن نسر مقيله * بجوّ السماء في نسور عواكف

يوافون من شتى ويجمع بينهم * تقى الله نزالون عند التزاحف .