أبا ذر أولا إلى الشام، ثم استقدمه إلى المدينة لما شكا منه معاوية، ثم نفاه من المدينة إلى الربذة لما عمل بالمدينة نظير ما كان يعمل بالشام.
أصل هذه الواقعة، أن عثمان لما أعطى مروان بن الحكم وغيره بيوت الأموال، واختص زيد بن ثابت بشئ منها، جعل أبو ذر يقول بين الناس وفي الطرقات والشوارع: بشر الكافرين بعذاب أليم، ويرفع بذلك صوته ويتلو قوله تعالى: (والذين يكنزون الذهب والفضة ولا ينفقونها في سبيل الله فبشرهم بعذاب أليم)، فرفع ذلك إلى عثمان مرارا وهو ساكت.
ثم إنه أرسل إليه مولى من مواليه: أن انته عما بلغني عنك، فقال أبو ذر: أو ينهاني عثمان عن قراءة كتاب الله تعالى، وعيب من ترك أمر الله تعالى فوالله لان أرضى الله بسخط عثمان أحب إلى وخير لي من أن أسخط الله برضا عثمان.
فأغضب عثمان ذلك وأحفظه، فتصابر وتماسك، إلى أن قال عثمان يوما، والناس حوله: أيجوز للامام أن يأخذ من المال شيئا قرضا، فإذا أيسر قضى؟ فقال كعب الأحبار:
لا بأس بذلك فقال أبو ذر: يا بن اليهوديين، أتعلمنا ديننا!
فقال عثمان: قد كثر أذاك لي وتولعك بأصحابي، الحق بالشام. فأخرجه إليها.
فكان أبو ذر ينكر على معاوية أشياء يفعلها، فبعث إليه معاوية يوما ثلاثمائة دينار، فقال أبو ذر لرسوله: إن كانت من عطائي الذي حرمتمونيه عامي هذا أقبلها، وإن كانت صلة فلا حاجة لي فيها، وردها عليه.
ثم بنى معاوية الخضراء بدمشق، فقال أبو ذر: يا معاوية، إن كانت هذه من مال الله فهي الخيانة، وإن كانت من مالك فهي الاسراف. وكان أبو ذر يقول بالشام والله لقد حدثت أعمال ما أعرفها، والله ما هي في كتاب الله ولا سنة نبيه صلى الله عليه وسلم،