فكتب إليه الحجاج: إنك كتبت إلي كتاب امرئ يحب الهدنة، و يستريح إلى الموادعة، لعمرك يا ابن أم عبد الرحمن، إنك حين تكف عن ذلك العدو تظنني سخي النفس عمن أصيب من المسلمين، و قد رأيت أنه لم يحملك على ما رأيت إلا ضعفك، فامض لما أمرت به من الإيغال في أرضهم، و قتل مقاتليهم، ثم أردفه كتابا آخر: أما بعد، فمر من قبلك من المسلمين أن يحرثوا و يقيموا، فإنّها/ دارهم حتى يفتحها اللَّه عز و جل عليهم. ثم أردفه كتابا آخر: أما بعد، فامض لما أمرت به و إلا فخل ما وليت لأخيك إسحاق.

فدعا الناس و قال: إن الّذي رأيت وافقني فيه أهل التجارب و رضوه رأيا، و كتبت بذلك إلى الحجاج فجاءني منه كتاب يعجزني و يأمرني بتعجيل الإيغال في البلاد التي هلك فيها إخوانكم بالأمس، و إنما أنا رجل منكم أمضي إذا مضيتم، و آبى إذا أبيتم، فثار إليه الناس، و قالوا: لا بل نأبى على عدو اللَّه و لا نطيعه.

فقام عامر بن واثلة الكناني، فقال: إن الحجاج لا يبالي بكم فإن ظفرتم أكل البلاد، و إن ظفر عدوكم كنتم الأعداء البغضاء فاخلعوه و بايعوا للأمير عبد الرحمن، و إني أشهدكم أني أول خالع. و قام عبد المؤمن بن شبث بن ربعي، فقال: إن أطعتم الحجاج جعل هذه البلاد بلادكم، فبايعوا أميركم و انصرفوا إلى عدو اللَّه الحجاج فانفوه عن بلادكم. فوثب الناس إلى عبد الرحمن فبايعوه، فقال: تبايعونني على خلع الحجاج و النصرة لي و جهاده معي حتى ينفيه اللَّه من أرض العراق، فبايعه الناس، و لم يذكر خلع عبد الملك، و أمر عبد الرحمن الأمراء، و بعث إلى رتبيل فصالحه على أنه إن ظهر فلا خراج عليه أبدا، و إن هزم و أراده ألجأه عنده.

و بعث الحجاج إليه الخيل، و جعل ابن الأشعث على مقدمته عطية بن عمرو العنبري، فجعل لا يلقى للحجاج خيلا إلا هزمها، ثم أقبل عبد الرحمن حتى مرّ بكرمان، فبعث عليها خرشة بن عمرو التميمي، فلما دخل الناس فارس اجتمع بعضهم إلى بعض، فقالوا: إنا إذا خلعنا الحجاج عامل عبد الملك فقد خلعنا عبد الملك، فاجتمعوا إلى عبد الرحمن و بايعوه، فكان يقول لهم: تبايعونني/ على كتاب اللَّه عز و جل و سنة نبيه محمد صلى اللَّه عليه و آله و سلم، و خلع أئمة الضلالة، و جهاد المحلين، فإذا قالوا: نعم بايع.