پس از فتح مدائن، در آغاز حذيفة بن يمان به طور موقت حاكم مدائن شد سپس خليفه دوم- با توجه به شايستگى سلمان، با صلاح‌ديد حضرت على (ع)- سلمان را براى فرمان‌روايى مدائن برگزيد.
سرگذشت و جزئيات فرمان‌روايى سلمان در مدائن به شكل زمان‌بندى شده در تاريخ نيامده، بلكه فرازهايى از آن به طور جسته و گريخته ذكر شده كه از آنها مى‌توان چنين نتيجه گرفت كه اساس حكومت وى بر عدالت، زهد، ساده‌زيستى، رعايت دقيق حقوق اقشار مختلف و قاطعيت در اجراى حدود الهى استوار بوده است. شيوه فرمان‌روايى او براساس شيوه حكومت امير مؤمنان على (ع) تنظيم شده بود. «١» براى اين كه تا حدودى به شيوه حكومت‌دارى سلمان در مدائن پى ببريد، مى‌توانيد به نامه اعتراض‌آميز خليفه دوم به نحوه زندگى ساده سلمان و پاسخ قاطع او در تغيير ندادن شيوه زندگيش مراجعه كرد. وى در فرازى از آن نامه مى‌نويسد: «اين را بدان كه من به سوى مدائن براى تدبير امور مردم، و اقامه و اجراى حدود الهى در ميان آنها نيامدم مگر اين كه براساس ارشادات و راهنمايى انسان آگاه [حضرت على (ع)] رفتار كنم و تا در ميان مردم مطابق راه و روش و برنامه او زندگى كنم.» «٢» ٤. نقش سلمان در تشيع ايرانيان‌ مهم‌ترين آرمان سلمان، به حاكميت رسيدن تشيع راستين بود و در اين راستا از هيچ كوششى دريغ نورزيد. وى تا در مدينه بود در هر فرصتى به تبليغ از على (ع) به عنوان امام حق مى‌پرداخت و پس از آن كه با اجازه على (ع) در زمان عمر حاكم مدائن پايتخت پيشين ساسانيان گرديد، هم‌وطنان خويش را با گفتار و رفتار به اسلام ناب و تشيع «٣» راستين دعوت مى‌كرد، و مى‌توان گفت يكى از عوامل مهم گرايش ايرانيان به تشيع، وجود سلمان در مدائن و عملكرد