وقيل: ولد سنة خمس ومئتين، وتوفي سنة ثلاث وتسعين ومئتين في بخارى. وقيل سنة أربع وتسعين. وكان يطنز كما يكون في البغداديين.
كان ببخارى رجل حافظ يلقب بجمل، فكان صالح وهذا الحافظ يمشيان ببخارى، فاستقبلهما جمل عليه وقر جَزر، فأراد ذلك الحافظ أن يخجل صالحاً فقال: يا أبا علي، ما هذا الذي على البعير، فقال له صالح: أما تعرفه؟! قال: لا. قال: هذا أنا عليك، أراد: جزر على جمل.
قال إسحاق بن عبد الرحمن القاري: أعطاني صالح الحافظ الملقب جزرة جزءاً، فكنت أكتبه، فرأى الجزء في يدي أبو ذر القاضي، فقال لي: اشتر لي قليلَ فستق، وأعطاني ثمنه. فلما ذهبت أخذ الجزء، غير فيه أشياء. ولما جئت إلى صالح قرأت عليه الجزء رأى موضعاً فأصلح، وموضعاً آخر فاصلح. فلما كان الثالث تغير وقال: أما سمعت بي؟! أما عرفتني؟! قلت: يا سيدي، أنا لا أعلم شيئاً من ذلك، فقال: إلى مَن دفعتَ الجزء؟ فقلت: أخذ مني الجزءأبو ذر القاضي، فقال: هذا من فِعل ذلك العيّار. أرادأن يُجرِّبني.
قال أبو بكر عبد الله بن محمد بن مسلم الأسفراييني: كنا على باب أبي حاتم الرازي إذ خرج وفي يده كتاب فقال: هذا كتاب أخينا أبي علي صالح بن محمد البغدادي، ولا يزال يضحكنا شاهداً وغائباً، يقول فيه: أعظم الله أجرك في محمد بن يحيى الذهلي، فقد مات، وقعد مكانه محمد بن يزيد، ويعرف بمخمس.