فانتقل من حياكة الثياب إلى حياكة الشعر ونسجه، وترك دمشق إلى حمص، ومدح بني عبد الكريم الطائيين وغيرهم من سراتها اليمنيين، وتعرض لخصومهم يهجوهم. ونراه يرحل إلى مصر، وينزل في الفسطاط، ويعيش من السقاية بمسجدها الجامع الكبير، ويرتوي ما في هذا المسجد من حلقات العلم والدرس، ويساجل الشعراء المصريين، ويمدح عَيَّاش بن لهيعة عامل الخراج، ويهجوه حين لا يجد عنده ما يؤمله. وفي كتاب الولاة والقضاة للكندي أشعار له نظمها بين سنتي ٢١١و ٢١٤ وهي تشير إلى الفترة التي قضاها بمصر، وهي فترة لم يلق فيها ما كان يرجوه من نجاح مادي؛ غير أنها كانت عظيمة الأثر في شعره، لما تمثله من المعارف والثقافات، ولما دار بينه وبين الشعراء المصريين من منافسات، ورجع إلى موطنه دمشق يمدح، ويهجو من يمدحهم؛ لأنهم لا يعرفون له قدره. وحاول المثول بين يدي المأمون في إحدى زياراته للشام، ولكن الأبواب أوصدت في وجهه، فتحول إلى الموصل وتنقل بينه وبين وطنه ويظهر أنه زار أرمينية فمدح واليها خالد بن يزيد الشيباني، وأجزل له في العطاء.
ويتوفَّى المأمون سنة ٢١٨ للهجرة، فيولِّي وجه نحو بغداد، وتقبل عليه الدنيا؛ إذ يقربه المعتصم، ويصبح أكبر شاعر يتغنى بأعماله وأحداث خلافته من مثل فتح عمورية والقضاء على ثورة بابك الخرَّمي وقتل الأفشين. ويتهاداه رجال الدولة الممتازين من مثل محمد بن عبد الملك الزيات وزير المعتصم والواثق، وأحمد بن أبي دؤاد القاضي وغيرهما من كبار القواد والعُمَّال أمثال أبي سعيد محمد بن يوسف الثغري، وأبي دلف العجلي، وجعفر الخياط ومالك بن طَوق، والحسن بن رجاء، والحسن بن وهب. ونال حظوة الواثق بعد المعتصم، ونراه يرحل إلى خراسان -وربما كان ذلك عقب نزوله بغداد- ليمدح عبد الله بن طاهر حين استقل بها، وفي أثناء رجوعه مرَّ بهمذان، فأكرمه أبو الوفاء بن سلمة، وحبسه الثلج هناك مدة طويلة، فانكب على خزانة كتبه، ولم يلبث أن فكر في تأليف مجاميع من الشعر، فألف خمسة كتب أهمها الحماسة التي دَوَّت شهرتها. وعاد إلى بغداد وتتوثق الصلة بينه وبين الحسن بن وهب كاتب