لا يشك أنه أيضاً في قبة، فقيل له: إنه كان بين يديه يسير على ظهر دابته منذ أول الليل إلى الساعة، فلما تقلد عبيد الله بن يحيى الوزارة المرة الثانية، حفظ له ذلك، وقلده الديار البكرية وإرمينية.
قال محمد بن علي القنبري الهمذاني من ولد قنبر مولى علي بن أبي طالب عليه السلام يمدح عبيد الله بن يحيى بن خاقان: من البسيط
إلى الوزير عبيد الله مقصدها ... أعني ابن يحيى حياة الدين والكرم
إذا رميت برحلي في ذراه فلا ... نلت المنى منه إن لم تشرقي بدم
وليس ذاك لجرم منك أعلمه ... ولا لجهل بما أسديت من نعم
لكنه فعل شماخ بناقته ... لدى عرابة إذ أدته للأطم
قال المبرد: أنشدني عاصم بن وهب البرجمي: من الطويل
نظرت إلى يحيى بن خاقان مقبلاً ... فشبهته في الملك يحيى بن خالد.
ومر عبيد الله يشبه جعفراً ... فأكرم بمولود وأكرم بوالد
جمعت بذا المعنى معان كثيرة ... ولم أفسد المعنى بطول القصائد
قيل: إن عبيد الله بن يحيى بن خاقان لعب في الميدان مع خاتم له يقال له: رشيق، فصدمه فسقط عبيد الله عن فرسه، ومات من يومه، وصلى عليه الموفق، ومشى في جنازته في ذي القعدة سنة ثلاث وستين ومئتين، وقيل توفي سنة ست وستين ومئتين.