وتولى في عهد عثمان بيت المال في الكوفة في إمارة سعد بن أبي وقاص. وبدأت الأزمة مع عثمان، لما ولي الوليد بن عقبة، حيث استقرض من بيت المال، فلما جاء الأجل، رجع إليه ابن مسعود، فراح يتهرب من الأداء، فأصر عليه ابن مسعود، فشكاه الوليد إلى عثمان، وكتب عثمان إلى ابن مسعود:
(إنما أنت خازن لنا، فلا تعرض الوليد فيما أخذ من بيت المال) فغضب ابن مسعود، واعتزل، وكانت تلك بداية الخلاف بين الرجلين. وحيث إن ابن مسعود اعتزل إلى التعليم والتدريس، وكان له مصحفه الخاص. فإن عثمان كان قد طلب منه مصحفه ليحرقه. وقد رفض ابن مسعود بدعة عثمان في حرق المصاحف ككل، واعتماد مصحفه الوحيد. وابن مسعود كان يرى نفسه أحفظ لكتاب الله وأعلم به من عثمان وعصابته، والسيرة تشهد له بذلك. فأبى أن يسلم مصحفه، ونعى ذلك على عثمان. ولما كتب الوليد إلى عثمان بخصوص ابن مسعود وطعنه فيه، طلب منه إحضاره إلى المدينة. فلما رآه عثمان وكان يخطب من على المنبر، قال: ألا إنه قد قدمت عليكم دويبة سوء من يمشي على طعامه يقئ ويسلح. فقال ابن مسعود: لست كذلك، ولكني صاحب رسول الله صلى الله عليه وآله يوم بدر ويوم بيعة الرضوان. ونادت عائشة أي عثمان أتقول هذا لصاحب رسول الله صلى الله عليه وآله ثم أمر عثمان به فأخرج من المسجد عنيفا، وضرب به الأرض فدقت ضلعه. فلامه علي (ع) على ذلك، وقال له: تفعل هذا بصاحب رسول الله صلى الله عليه وآله عن قول الوليد، فقال عثمان: ما من قول الوليد فعلت هذا، ولكني أرسلت زبير بن كثير فسمعه يحل دمي. قال علي: زبير غير ثقة.
بقي ابن مسعود غاضبا على عثمان حتى مات وأمر أن لا يصلي عليه، فدفن سرا، وقام بجنازته عمار بن ياسر كما سبق أن ذكرنا. وكان عثمان قد قطع العطاء عن ابن مسعود حتى لما مر بابن مسعود أحس عثمان بالذنب، أتاه يطلبه، قال:
ما تشتهي، قال له ابن مسعود: رحمة ربي. قال عثمان: هل أحضر لك طبيبا، قال ابن مسعود: الطبيب أمرضني. فقال له عثمان: أرد عليك عطاءك، فقال: حبسته عني حين احتجت إليه، وترده إلي حين لا حاجة لي به، فقال عثمان: يكون لأهلك. فقال ابن مسعود: رزقهم على الله. قال