بينه وبين مصعب بن عمير، وشهد بعد ذلك مع علي بن أبي طالب الجمل وصفين، ثم سكن دمشق، فلم يزل يغزو الروم حتى قبض في غزوة غزاها مع يزيد بن معاوية، ودفن في أصل حصن القسطنطينية سنة اثنتين وخمسين، وقد شهد فتح مصر.
وروى عنه من الصحابة جماعة منهم: المقدام بن معد يكرب والبراء بن عازب وجابر بن سمرة وأبو أمامة، وعبد الله بن يزيد الخطمي.
وقد روى أبو أيوب عن رسول الله (١١- ظ) صلى الله عليه وسلم حديثا.
أخبرنا أبو الفتوح نصر بن أبي الفرج الحصري- كتابه إلينا من مكة- قال:
أخبرنا الحافظ أبو محمد عبد الله بن محمد بن علي الأشيري قال: أخبرنا أبو الوليد يوسف بن عبد العزيز بن ثابت قال: أخبرنا أبو عمر يوسف بن عبد الله بن عبد البر قال: خالد بن زيد بن كليب بن ثعلبة، أبو أيوب الأنصاري النجاري، من بني غنم بن مالك بن النجار، غلبت عليه كنيته، أمه هند بنت سعد بن عمرو بن امرئ القيس بن مالك بن ثعلبة بن كعب بن الخزرج بن الحارث بن الخزرج الأكبر، شهد العقبة وبدرا وسائر المشاهد، وعليه نزل رسول الله صلى الله عليه وسلم في خروجه من بني عمرو بن عوف، حين قدم المدينة مهاجرا من مكة، فلم يزل عنده حتى بنى مسجده في تلك السنة، وبنى مساكنه، ثم انتقل صلى الله عليه وسلم الى مسكنه، وآخى رسول الله صلى الله عليه وسلم بينه وبين مصعب بن عمير.
قال أبو عمر: حدثنا سعيد بن نصر قال: حدثنا قاسم بن أصبغ قال: حدثنا ابن وضاح قال: حدثنا أبو بكر بن أبي شيبة قال: حدثنا يونس بن محمد عن الليث بن سعد عن يزيد بن أبي حبيب عن أبي الخير عن أبي رهم السماعي أن أبا أيوب الأنصاري حدثه قال: نزل رسول الله صلى الله عليه وسلم في بيتنا الاسفل وكنت في الغرفة فأهريق (١٢- و) ماء في الغرفة فقمت أنا وأم أيوب بقطيفة نتبع الماء شفقة أن يخلص إلى رسول الله صلى الله عليه وسلم، ونزلت إلى النبي صلى الله عليه وسلم وأنا مشفق، فقلت: يا رسول الله إنه ليس ينبغي- أن نكون فوقك، انتقل الى الغرفة، فأمر النبي صلى الله عليه وسلم بمتاعه أن ينتقل، ومتاعه قليل، وذكر تمام الحديث.