ابوايّوب با ديدن بدعتهايى كه مروان،- حاكم مدينه- مى‌گذاشت، با او مخالفت مى‌ورزيد.
روزى مروان به ابوايّوب انصارى گفت: چه چيزى تو را به مخالفت با ما واداشته است؟
ابوايّوب پاسخ داد: من رسول خدا را ديده‌ام كه نماز مى‌گزارد، پس اگر آن‌گونه خواندى، با تو همراه خواهيم بود و اگر با رسول خدا مخالفت كردى، با تو در خواهيم افتاد. «١» با اين وصف، ابوايّوب تابع امام خويش بود و به خوبى مى‌دانست كه اكنون هنگام قيام نيست و حتى بايد براى مصالح اسلام، حكومت را در جنگهايى كه مى‌كند، يارى داد. از اين رو، ابوايّوب، اين پيرمرد نستوه و مجاهد خستگى‌ناپذير، در برخى جنگهايى كه با دشمنان خارجى اسلام در مى‌گيرد، شركت مى‌كند. «٢» در مجلس معاويه‌ روزى ابوايّوب انصارى نزد معاويه آمد. معاويه نيز براى كسب وجهه در پيش بزرگان شام- كه در اطراف او نشسته بودند- ابوايّوب را بر تخت كنار خود نشاند و از خاطرات گذشته خود با ابوايّوب سخن گفت. «٣» ابوايّوب همچنان سكوت كرده بود تا آنكه معاويه خواست او را نيز در صحبت خود وارد كند، پس رو به ابوايّوب كرد و از او پرسيد: چه كسى فلان روز آن سوار را كه بر آن اسب خاكسترى مى‌تاخت، كشت؟ ابوايّوب هنگامى كه ديد معاويه مى‌خواهد با گرم گرفتن با او از شخصيت او در جهت منافع خود نزد بزرگان شام سوء استفاده كند، با يك جمله چنان ضربه سياسى- روانى محكمى بر او وارد كرد كه آبروى معاويه نزد بزرگان شام ريخته شد و آن جمله اين بود: آرى، من او را كشتم، در حالى كه تو و پدرت بر شتر سرخ مويى سوار بوديد و پرچم كفر را در دست داشتيد! «٤» شركت و وفات ابوايوب در جنگ با روميان‌ در حدود سال پنجاه هجرى، لشكر اسلام براى جنگ با روميان حركت كرد. ابوايّوب‌