وقد ترك الذهبي أولادا ثلاثة كانوا من العلماء، وهم:
١- ابنته أم سلمة: سمعت مع أبيها من عيسى بن عبد الرحمن بن معالي بن حمد، أبي محمد الصالحي السمسار ومطعم الأشجار، المتوفى سنة "٧١٩هـ١٣٢٠م"، قال الحافظ الذهبي في "معجم شيوخه الكبير" "٢/ ٨٦": "قلت: وسمعه معي ولداي عبد الله وأم سلمى". وقد أجاز لها ولوالدها شيخ المستنصرية الإمام العالم المحدث الصادق الخير رشيد الدِّيْنِ أَبُو عَبْدِ اللهِ مُحَمَّدُ بنِ عَبْدِ اللهِ بنِ عُمَرَ بنِ أَبِي القاسم البغدادي، المتوفى سنة "٧٠٧هـ-١٣٠٧م" كما قال الحافظ الذهبي في "معجم شيوخه الكبير" "٢/ ٢٠٤" أجاز لنا مروياته غير مرة أولها في سنة خمس وتسعين وستمائة "٦٩٥هـ-١٢٩٦م" وأجاز لبنتي أم سلمة وقد كان انفرد بأجزاء عوالي الأول الكبير من المخلصات، وجزء ابن كرامة، وتاسع الجعديات، والأطعمة للدارمي، والأول من عوالي ابن البطر، وجزء ابن محمش، وجزء ابن بالويه، والخامس والسادس من حديث ابن صاعد، وجزء ابن المنذر، ودرجات التائبين، ولمع ابن السراج في التصوف.
٢- ابنه أبو هريرة، عبد الرحمن: قرأ هو ووالده على عمة الحافظ الذهبي: ست الأهل بنت عثمان بن قايماز بن عبد الله، أم محمد المتوفاة سنة "٧٢٩هـ١٣٢٩م" كما قال الحافظ الذهبي في "معجم شيوخه الكبير" "١/ ٢٨٥".
وسمع هو ووالده الحافظ الذهبي من عبد المحسن بن إبراهيم بن خولان الصالحي، المتوفى سنة "٧٢٢هـ" كما قال في "معجم شيوخه الكبير" "١/ ٤١٦".
وسمع مع أبيه من فاطمة بنت الإمام القدوة عز الدين إِبْرَاهِيْمُ بنُ عَبْدِ اللهِ بنِ مُحَمَّدِ بنِ أَحْمَدَ الصالحية الحنبلية، قال الحافظ الذهبي في "معجم شيوخه الكبير" "٢/ ١٠٢": "روت لنا نسخة أبي مسهر، وجزء الفراتي، سمعهما معي ابني عبد الرحمن".
وسمع مع أبيه من محمد بن أحمد الزراد الحريري الصالحي، المتوفى سنة "٧٢٦هـ-١٣٢٦م". قال الحافظ في "معجم شيوخه الكبير" "٢/ ١٧٠": سمعت منه مع ولدي عبد الرحمن جزء ابن عرفة، وجزء ابن فيل، والبطاقة والجمعة ونسخة إبراهيم بن سعد، وجزء الفراتي، ونسخة أبي مسهر، وجزء الكسائي، ومعه من الذكر لابن فارس، وفضائل معاوية، وفوائد نصر، وجزء ابن الفرات، والعلم لأبي خيثمة.