يكن في تلك الأيام يشرب النبيذ، فصرف إليه الفضل بن يحيى في خمسين ألف رجل، فانهزم يحيى بن عبد الله.
وفي سنة ١٧٧، ولي أفريقية الفضل بن روح بن حاتم، ولاه أمير المؤمنين الرشيد عليها، وكتب بعزله نصر بن حبيب، وأن يقوم بأمر الناس المهلب بن يزيد إلى أن يقدم الفضل. فكان قدومه في محرم من هذه السنة. ولما قدم الفضل ولى ابن أخيه المغيرة تونس، وكان غير ذي تجربة ولا سياسة للجمهور فستخف بالجند وسار بهم سيرة قبيحة، فاجتمعوا وكتبوا كتابا لعمة الفضل يخبرونه بما صنع المغيرة فيهم وقبح سيرته، فتثاقل الفضل عن جوابهم فقالوا (كل جماعة لا رأس لها لا ينجح سعيهم ولا مطالبهم) فقال بعضهم: (أشير عليكم بعبد الله بن عبد ربه بن الجارود فانطلقوا إليه وقالوا له: (قد رأيت ما فعل بنا المغيرة، وقد خاطبنا عمه، فلم يصلنا جوابه وأنت المنظور إليه، والمعمول في الأمور عليه، ونحن نصير أمرنا إليك، ونعتمد فيه عليك.) فقال لهم: (ليس لي من الجواب ألا النصيحة لي ولكم، وأنا أخاف على نفسي وأقنع بالعافية؛ وإن كان أمر، وكنت فيه كأحدكم) فقالوا له: (وما لك من هذا بد!) فقال لهم (أعطوني من بيعكم ما أثق به) فبايعوه وأطاعوه.
وفي سنة ١٧٨ ثار الجند على أمير أفريقية الفصل بن روح بن حاتم، وقدموا ابن الجارود بتونس. ثم ساروا إلى المغيرة، وهو بدار الإمارة؛ فقالوا له: (الحق بصاحبك أنت ومن معك!) وكتب للفضل بن روح: (من عبد الله بن الجارود. أما بعد، فأنا لم نخرج المغيرة خروجا عن الطاعة، ولكن لأحداث أحداثها فينا، ظهر فيها فساد الدولة. فعجل لنا من ترضاه يقوم بأمرنا؛ وإلا نظرنا لأنفسنا!) وكتب الفضل إلى عبد الله بن الجارود: (أما بعد، فإن الله يجري فضاءه على ما أحب الناس أو كرهوا، وليس اختياري أن أولى عليكم! فاختاروا لأنفسكم! ولكن أوجه إليكم عاملا.) فوجه عبد الله