ولما حضرته الوفاة ، وتهيأت روحه للرحيل ، وكان أول المهاجرين وفاة بالمدينة ، وأول من دفن من المسلمين في البقيع وذلك بعد رجوعه من بدر بثلاثة أشهر ، وقد شهد بدرا مع رسول الله صلى الله عليه وآله .
وقد أكب رسول الله صلى الله عليه وآله على جبينه يقبله ، ويعطره بدموعه التي هطلت من عينيه . وقال صلى الله عليه وآله وهو يودعه :
إذهب يا أبا السائب ، فقد خرجت منها ولم تلبس منها شيئا .
وقال صلى الله عليه وآله : رحمك الله يا أبا السائب ، خرجت من الدنيا وما أصبت منها ، وما أصابت منك .
وقال صلى الله عليه وآله : نعم السلف لنا هو عثمان بن مظعون .
وأمر رسول الله صلى الله عليه وآله بتجهيزه ، فلما وضع في قبره وأهيل التراب عليه ، علم على قبره بحجارة ، وكان يزوره .
وعن ابن عباس ، قال : لما دفن عثمان بن مظعون قالت امرأته : هنيئا لك الجنة ، فنظر إليها رسول الله صلى الله عليه وآله بغضب ، وقال : ما يدريك ؟ ؟ قالت : يا رسول الله ، فارسك وصاحبك ؟ فقال صلى الله عليه وآله : إني رسول الله ، وما أدرى