وضجت الرهبان بكلمة كفرهم فقال شرحبيل بن حسنة: اللهم أن هؤلاء إليك بلا إله إلا أنت وأن محمدا عبدك ورسولك إلا ما نصرت هذا الدين على اعدائك المشركين ثم حملوا حملة واحدة فلم يكن للروم ثبات مع العرب فولى المشركون الأدبار وركنوا إلى الفرار فلما حطوا داخل المدينة اغلقوا الأبواب وتحصنوا بالاسوار ورفعوا الصلبان وعولوا أن يكتبوا للملك ليمدهم بالخيل والرجال قال عبد الله بن رافع فلما تحصنوا رجعنا عنهم وافتقدنا اصحبانا فوجدنا قد قتل منا مائة وثلاثون فارسا وقتل من الأعيان بدريان قال: وغنم المسلمون الأموال وصلى خالد على الشهداء وأمر بدفنهم فلما كان الليل تولى الحرس عبد الرحمن بن أبي بكر الصديق ومعمر بن راشد ومائة من جيش الزحف فبينما هم يدورون حول العسكر وإذا بروماس صاحب بصرى قد اقبل عليهم وقال لهم: أين خالد بن الوليد فاخبروه واتوا به إلى خالد فلما رآه رحب به فقال: أيها الأمير بعد أن فارقتك طردني قومي واقلوا الزم قصرك وإلا قتلناك فلزمت قصري وهو ملاصق للسور ولما وقع لهم ما وقع وانهزموا تحصنوا فلما جن الليل أمرت غلماني بحفر السور وفتحوا فيه بابا فأتيتك فارسل معي من تعتمد عليه من أصحابك تستلمون المدينة فلما سمع خالد هذا الكلام أمر عبد الرحمن بن أبي بكر أن يأخذ مائة من المسلمين ويسيروا مع روماس قال ضرور بن الأزور وكنت ممن دخل المدينة فلما صرنا في قصر روماس فتح لنا خزانة السلاح فلبسنا من سلاحهم وقسمنا أربعة اقسام كل جانب خمسة وعشرون رجلا وقال لنا عبد الرحمن إذا سمعتم التكبير فكبروا فلما سرنا حيث امرنا أخذنا أنفسنا بالحملة على القوم.
قال الواقدي: بلغني ممن أثق به من الرواة أن عبد الرحمن لما فارق أصحابه لبس سلاحه هو وروماس يطلبون الدرج الذي عليه الديرجان وسار معهم ضرار ورافع وشرحبيل بن حسنة فقال: لا اهلا ولا مرحبا بك ومن الذي معك قال معي صديق لك ومشتاق إلى رؤياك قال: ويحك ومن هو يا روماس قال هذا بن أبي بكر الصديق فلما سمع الديرجان ذلك هم أن يقتله فلم تطاوعه نفسه فحمل عليه عبد الرحمن وهز سيفه في وجهه وضربه على عاتقه فتجندل صريعا يخور في دمه وعجل الله بروحه إلى النار قال: وكبر عبد الرحمن فأجابه روماس وسمع أصحابه التكيبر فكبروا من جوانب بصرى قال: واجابتهم الأحجار والاشجار قال: وكبر المسلمون من جوانب بصرى ووضعوا السيف في الروم وسمع خالد التكبير فصرخوا وإذا لغلمان روماس واولاده قد فتحوا لهم الأبواب فعبر خالد ومن معه من المسلمين فلما نظر أهل بصرى إلى الأبواب وقد فتحت بالسيف قهرا ضجوا بأجمعهم يقولون.