قام أبو مسلم الخولاني إلى معاوية بن أبي سفيان وهو على المنبر فقال: يا معاوية، إنما أنت قبر من القبور. إن جئت بشيء كان لك شيء، وإلا فلا شيء لك. يا معاوية، لا تحسب أن الخلافة جمع المال وتفريقه، إنما الخلافة القول بالحق والعمل بالمعدلة، وأخذ الناس في ذات الله، يا معاوية، إنا لا نبالي بكدر الأنهار ما صفا لنا رأس عيننا، يا معاوية، وإياك أن تميل على قبيلة من العرب فيذهب حيفك بعدلك. قال: ثم جلس فقال له معاوية: يرحمك الله يا أبا مسلم، يرحمك الله يا أبا مسلم.
دخل أبو مسلم الخولاني على معاوية بن أبي سفيان فقال: السلام عليك أيها الأجير. فقال الناس: الأمير يا أبا مسلم، ثم قال: السلام عليك أيها الأجير. فقال الناس: الأمير. فقال معاوية: دعوا أبا مسلم فهو أعلم بما يقول. قال أبو مسلم: إنما مثلك مثل رجل استأجر أجيراً فولاه ماشيته، وجعل له الأجر على أن يحسن الرعية، ويوفر جزازها وألبانها، فإن هو أحسن رعيتها ووفر جزازها حتى تلحق الصغيرة، وتسمن العجفاء، أعطاه أجره وزاده من قبله زيادة، وإن هو لم يحسن رعيتها وأضاعها حتى تهلك العجفاء، وتعجف السمينة ولم يوفر جزازها وألبانها غضب عليه صاحب الأجر فعاقبه ولم يعطه الأجر. فقال معاوية: ما شاء الله.
كان أبو مسلم الخولاني يقول: مثل العلماء في الأرض مثل النجوم في السماء، إذا بدت لهم اهتدوا وإذا خفيت عليهم تحيروا.
قال: ومثل الصالحين مثل الأميال في الأرض، ينجو بها السالك من الضلالة. وكان يقول: يا معشر القراء، استقيموا فقد سبقتم سبقاً بيناً بعيداً. وإن أخذتم يميناً وشمالاً فقد ضللتم ضلالاً بعيداً. قال: وكان يقول: كلمة العالم الذي لا يعمل بها تزل عن القلب كما يزل القطر عن الصفا.
قال أبو مسلم الخولاني: العلماء ثلاثة؛ رجل عاش في علمه وعاش الناس فيه، ورجل عاش في علمه ولم يعش معه فيه أحد، ورجل عاش الناس في علمه وكان وبالاً عليه.