بعد از جنگ نهروان امام دوباره تصميم به جنگ با معاويه گرفت و مردم را به جهاد فرا خواند. حضرت پرچم فرماندهى ده هزار نفر را به امام حسين عليه السلام سپرد و ده هزار نفر را به عهده قيس بن سعد گذاشت و فرمانده ده هزار نفر ديگر ابو ايوب انصارى شد. و در حاليكه قصد بازگشت به صفين را داشت، هفته به پايان نرسيده بود كه به شهادت حضرت انجاميد و در نتيجه سپاهيان به كوفه بازگشتند. «١» پس از شهادت حضرت على (ع) امام حسن (ع) لشكر بزرگى را براى جنگ با معاويه فراهم كرد. در آن لشگر بزرگانى از جمله ابوايوب انصارى حضور داشتند «٢» اما با توطئه و فتنه هايى كه شد، اقدامات حضرت ناتمام ماند و امام مجبور شد تن به صلح تحميلى دهد و پس از صلح، حضرت به مدينه بازگشت و ابو ايوب نيز پس از ايشان به مدينه رفت.
تهديد حاكم مدينه‌ ابو ايوب با ديدن بدعتهايى كه به وسيله حاكم مدينه (مروان) انجام مى گرفت با اومخالفت مى ورزيد و اين مسئله بر مروان هم روشن شده بود به طورى كه روزى مروان به ابو ايوب انصارى گفت:
چه چيزى تو را به مخالفت با ما وا داشته است؟
ابوايوب كه خود تاريخ زنده اسلام بود به مروان گفت:
من ديده ام رسول خدا چگونه نماز مى گزارد پس اگر چنان خواندى باتو همراه خواهيم بود و اگر با رسول خدا مخالفت كردى با تو در خواهيم افتاد. «٣»