الجارود جماعة من أصحابه أن: ((لن) تتركوا الفضل يدخل طرابلس لئلا يقوم الناس معه ويرجع القيروان، فنادى مناديه (من كان من طاعة ابن الجارود فلينعزل!) فانعزل الناس ولم يبق مع الفضل أحد فردوه إلى القيروان، بعدما خلو عن المهلب وجميع الناس الذين كانوا مع الفضل إلا محمد بن هشام والفضل بن يزيد، فانطلقوا بهما حتى جعلوا في الدار معه. ثم قُتِلَ الفضل بن رَوح في شعبان من سنة ١٧٨، فكانت ولايته سنة واحدة وخمسة أشهر، فكانت دولة المهالبة بأفريقية ثلاثا وعشرين سنة، وثار بن الجارود في جمادى الآخرة من سنة ١٧٨، فكانت له مع البربر وقائع عظيمة، ثم أمنه الرشيد، فأجاب إلى الطاعة.
وفي سنة ١٧٩، كتب ابن الجارود المتغلب على أفريقية إلى يحيى بن موسى وهو بطرابلس، أن: (أقدم القيروان: فإني مسّلم لك سلطانها!) فخرج يحيى بن موسى بمن معه، في محرم، فلما بلغ قابس، تلقاه بها عامة الجند من القيروان، ومعهم النظر بن حفص، وعمرو بن معاوية، فخرج ابن الجارود من القيروان، واستخلف عليها المفرج بن عبد الملك، فكانت أيلم ابن الجارود سبعة أسهر.
وأقبل يحيى بن موسى والعلاء بن سعيد متسابقين إلى القيروان، فسبقه العلاء إليها فقتل بها جماعة من أصحاب ابن الجارود، فبعث إليه يحيى بن موسى أن يفرق جموعه إن كان في الطاعة. فأمر من كان معه أن ينصرفوا إلى مواضعهم. ورحل العلاء إلى طرابلس، وكان ابن الجارود قد وصل إليها قبل وصول العلاء، فلقي بها يقطين بن موسى، فخرج معه سائرا إلى المشرق فلقوا هرثمة بن أعين قد وصل بولاية أفريقية. وقد كان العلاء كتب إلى هرثمة يعلمه بأنه هو الذي أخرج ابن الجارود من أفريقية فأجازه بجائزة سنية، وكان يحيى بن موسى قدمه هرثمة ابن الجارود، سيره إلى أمير المؤمنين الرشيد.