وقتل مروان بن محمد ، وزالت دولة بنى أمية ، وعبد الرحمن أمير على إفريقية ، وهرب جماعة من بنى أمية عند قتل مروان خوفا من بنى العباس ومعهم حرمهم ، فتزوج عبد الرحمن وأخوته فيهم ، وكان فيمن قدم ابنان للوليد بن يزيد بن عبد الملك ، يقال لأحدهما القاضى والآخر المؤمن وكانت ابنة عمهما تحب إلياس بن حبيب فأنزلهما عبد الرحمن بدار شبيبة بن حسان ، وكانت معهما عجوز فى الدار ، فدّس إليها عبد الرحمن بن حبيب أن توصله إلى موضع تسمعه منه كلامهما ، فقالت له : «إن البيت الذى هما فيه سقفه غرّة ، فإن شئت فأنا اوصلك ليلا إلى ظهر البيت حتى تطلع عليهما ولا يعلمان» ، فقال : «افعلى». فلما كان فى الليل اطلع عليهما ، وهما على نبيذ لهما ، ومولاهما يسقيهما ، إذ قال القاضى : «ما أغفل عبد الرحمن أيظن أنه يتمنى معنا ولاية ونحن أولاد الخليفة» ، فلما سمع هذا منهما نزل وانصرف ثم دعا القاضى والمؤمن ، فسلّما مع الناس فأظهر لهما عبد الرحمن بشرا ولم يبد عليه شىء من التجهّم ، حتى أتاهما من أخبرهما أن عبد الرحمن سمع كلامهما الذى تكلما به ، فحذرا منه وعزما على الهرب وخافا ، فلما كان أول الليل ركبا جملين خصيين ، وركب مولاهما جملا ثالثا ، وخرجوا هاربين على طريق مجّانة ، فاستبطاهما عبد الرحمن من الغد ، فأرسل إلى منزلهما ، فوجده خاليا ففّرق الخيل والنجب على كل طريق فجاءه البشير بأنهما أدركا بطريق مجّانة ، فخرج إلى تونس واستخلف على القيروان ابن عم له يقال له عمر بن نافع ، وخرج إلى تونس وأمره أن يضرب أعناقهما ويعتق مولاهما ، فلما قدم بهما أمر عمر بن نافع بقتلهما ، وقتل مولاهما فقتلوا. وكانت ابنة عمهما عند إلياس ، فقالت له : «إنه قد قتل أخيك تهاونا بك ، وجعل العهد من بعده لحبيب ابنه ، وأنت صاحب حربه ، وسيفه الذى يصول به» ، ولم تزل تغريه عليه.

وذكر أشياخ من أهل القيروان : أن مروان بن محمد الجعدى حين بلغه أن عبد الرحمن يقتل كل من ورد عليه خوفا من الرواية التى أخبره بها الحنفى ، أنه يقتلك أخوان فجاءه كتاب مروان : لا تقتل الناس فإنما أصحابك أخواك إلياس وعبد الوارث. فهمّ أن يبعث إليهما ثم بدا له فبعث إلى مولى لهم يقال له «برد» ، فأتاه فرمى إليه كتاب مروان فقرأه ،