همان‌گونه كه از كلام امام (ع) پيداست، فلسفه زهد او، همدردى با بيچارگان و در غم آنها شريك شدن است و مانند ضعيف‌ترين آنها زيستن است. امام (ع) اين نوع شيوه زندگى را بهترين وظيفه خويش مى‌داند و رفاه‌طلبى و خودپرورى و غفلت كردن از ديگران را نوعى زندگى حيوانى مى‌پندارد. اگر مستضعف خود را در كنار افرادى مرفّه و دنياپرست ببيند كه مى‌خورند و قهقهه مستانه مى‌زنند و فقط تماشاگر صحنه هستند و درد جامعه را درك نمى‌كنند و از خدا و سراى‌واپسين بى‌خبرند، برايش بسيار دشوار و جانكاه‌است. و در اينجاست كه انسان آگاه و زاهد، در عين حالى كه با مستضعف و بيچاره همدردى مى‌كند، وظيفه دارد كه پرخورى ستمگر و گرسنگى مظلوم را در جامعه دگرگون سازد و چنين زهدى در زندگى على (ع) عاليترين مرتبه را داشته و يكى از انگيزه‌هايش در پذيرش حكومت نيز همين بود:
«... لَوْلَا حُضُورُ الْحَاضِرِ وَقِيَامُ الْحُجَّةِ بِوُجُودِ النَّاصِرِ، وَ مَا اخَذَ اللَّهُ عَلَى الْعُلَمَاءِ أَلَّا يُقارُّوا عَلَى كِظَّةِ ظَالِمٍ وَلَا سَغَبِ مَظْلُومٍ، لَالْقَيْتُ حَبْلَهَا عَلَى غَارِبِهَا ...» «١»؛ ... و اگر خدا به علما نفرموده بود كه در برابر پرخورى ظالم و گرسنگى مظلوم خشنود نباشند، ريسمان خلافت را برگردنش مى‌نهادم ...
از آنجا كه همدردى و شركت در غم ديگران در مورد پيشوايان امّت كه چشمها به آنان دوخته شده است، اهميت بسزايى دارد، بر همين اساس زهد على (ع) در دوران خلافتش بيش از هر مرحله ديگر زندگيش به چشم مى‌خورد، اگر چه او در تمام مراحل زندگىِ خود، زاهدى واقعى بود. امام (ع) در عين حالى كه قدرت رسيدن به تمام امكانات زندگى را داشت، همدرد بيچارگان بود:
«... وَلَوْ شَئِتُ لَاْهْتَدَيْتُ الطَّرِيقَ إِلَى مُصَفَّى هَذَا الْعَسَلِ وَ لُبابِ هَذَا الْقَمْحِ وَنَسَائِجِ‌هَذَاالْقِزّ، وَلكِنْ هَيْهاتَ أَنْ يَغْلِبَنِى هَوَاىَ وَ يَقُودَنِى جَشَعِى إِلَى تَخَيُّرِ الْأَطْعِمَةِ. وَلَعَلَّ بِالْحِجازِ أَوِ الَيمامَةِ مَنْ لاطَمَعَ لَهُ فِى الْقُرْصِ وَ لاعَهْدَ لَهُ بَالشَّبَعِ، أَوْأبِيتَ مِبْطَانَا وَ حَوْلِى بُطُونٌ غَرْثَى وَ أكْبَادٌ حَرَّى ...» «٢»؛