أربعين سنة وأنا صبي، والذي أكرمك بالخلافة، وورثك ميراث النبوة ما قلت شعراً من أكثر من عشرين سنة إلا في زهدٍ أو عتاب صديق فقال له: اجلس فجلس، فناوله قدح نبيذ كان في يده وقال له: اشرب فأرعد وبكى، وأخذ القدح من يده وقال: والله يا أمير المؤمنين ما غيرت الماء بشيء قط مما يختلف في تحليله فقال: لعلك تريد نبيذ التمر والزبيب، فقال: لا والله يا أمير المؤمنين ما أعرف شيئاً منها، فأخذ القدح من يده وقال: أما والله لو شربت شيئاً من هذا لضربت عنقك، ولقد ظننت أنك صادق في قولك كله، ولكن لا يتولى القضاء أبداً رجل بدأ في قوله بالبراءة من الإسلام. انصرف إلى منزلك وأمر علوية فغير هذه الكلمة وجعل مكانها:
حرمت مناي منك إن كان ذا الذي
وقد رويت هذه القصة لغير الخلنجي وذكر أنها لعمر بن أبي بكر المؤملي. وسيأتي ذكره.
قال علي بن محمد بن الفرات: لما تولى الخلنجي قضاء الشرقية كثر من يطالبه بفك الحجر، فدعا بالأمناء وقال لهم: من كان منكم في يده مال ليتيم فليشتر له منه مراً وزبيلاً يكون قبله، وليدفع إليه ماله. فإن أتلفه عمل بالمر والزبيل.
قال داود بن علي: سمعت بعض شهود الخلنجي يقول: ما علمت أن القرآن مخلوق إلى اليوم.. فقلت: وكيف علمت! أجاءك وحي؟ قال: سمعت القاضي يقول..
توفي الخلنجي سنة ثلاث وخمسين ومئتين.