وكان الشيرازي يقدمه على جماعة كثيرة من أصحابه، مع صغر سنه، لعلمه بزهده، وحسن سيرته، واشتغاله بما يعنيه.
ثم ترك كل ما كان فيه من المناظرة وخلا بنفسه، واشتغل بما هو الأهم من عبادة الله تعالى، ودعوة الخلق إليها، وإرشاد الأصحاب إلى الطريق المستقيم «١» .
نزل مرو وسكنها، وخرج إلى هراة وأقام بها مدة، ثم سئل الرجوع إلى مرو في آخر عمره، وخرج منها متوجها إلى هراة ثانيا، وعزم إلى الرجوع إلى مرو في آخر عمره، وخرج منها متوجها إلى مرو، فأدركته منيته ب:" ياميين" بين" هراة" و" بغشور" «٢» ، في شهر ربيع الأول، سنة خمس وثلاثين وخمسمائة، ودفن، ثم نقل بعد ذلك إلى مرو «٣» .
وقال غير السمعاني: قدم يوسف الهمذاني بغداد في سنة خمس عشرة وخمسمائة، وحدّث بها، وعقد بها مجلس الوعظ بالمدرسة النظامية، وصادف بها قبولا عظيما من الناس.
قال أبو الفضل صافي بن عبد الله الصوفي الشيخ الصالح: حضرت مجلس شيخنا يوسف الهمذاني في النّظاميّة، وكان قد اجتمع العالم، فقام فقيه يعرف بابن السقاء، وآذاه، وسأله عن مسألة؟، فقال له الإمام يوسف:" اجلس فإني أجد من كلامك رائحة الكفر! ". ولعلك تموت على غير دين الإسلام!.
قال أبو الفضل: فاتفق أنه بعد هذا القول بمدة، قدم رسول نصراني من ملك الروم إلى الخليفة، فمضى إليه ابن السقاء وسأله أن يستصحبه، وقال له: يقع لي أن أترك دين الإسلام