من الأزد، وقد كان موسى وجه به في جيش كثير يستنفر من بالجزيرة والشأم ومصر والمغرب، ويدعو الناس إلى خلع هارون، فمن أبى جرد فيهم السيف، فسار حتى صار إلى الرقة، فأتاه الخبر بوفاة موسى.
وأخذ موسى يحيى بن برمك، فحبسه وأشرف عليه بالقتل عدة مرار، فحدثني بعض المشايخ عن يحيى بن خالد قال: حبسني موسى بسبب الرشيد، وتربيتي إياه، ومكاني معه، وكان الرشيد دفع إلينا مولودا في الخرق، فغذته ثدي نسائنا، وربي في حجورنا، فقال: بلغني أنك ترضى هارون للخلافة، ونفسك للوزارة، والله لآتين على نفسه ونفسك قبل ذلك! وحبسني في بيت ضيق لا أقدر أن أمد رجلي فيه، فأقمت أياما، فأنا ليلة في حبسي على تلك الحال، إذا بالأبواب تفتح، فقلت: تذكرني، فأراد قتلي! وسمعت كلام الخدم، فارتعت لذلك، ففتح علي الباب، وأنا أتشهد، فقيل لي: هذه السيدة، يعنون الخيزران، فخرجت، فإذا بها واقفة على الباب، فقالت:
إن هذا الرجل قد خفت منذ الليلة، وأحسبه قد قضى، فتعال أنظره! فازداد جزعي وطامتي وقالت كما أقول، فجئت، فوجدته محول الوجه إلى الحائط، وقد قضى، فمضيت إلى هارون حتى أخرجته من الموضع الذي كان فيه محبوسا، فأصبح القواد، فبايعوا، وأصبحت أدبر الملك.
وكان الغالب على موسى الفضل بن الربيع، وعلى شرطه عبد الله بن خازم التميمي، ثم عزله وولى عبد الله بن مالك الخزاعي، وعلى حرسه علي بن عيسى ابن ماهان، وحاجبه الفضل بن الربيع، وكانت خلافته أربعة عشر شهرا، وتوفي لأربع عشرة ليلة خلت من شهر ربيع الأول سنة 170، وهو ابن ست وعشرين سنة، وصلى عليه أخوه هارون، ودفن بعيساباذ.
وكان له من الولد الذكور سبعة: جعفر، وإسماعيل، وعبد الله، وسليمان، وعيسى، وموسى الأعمى، وولد له بعده العباس، وأقام الحج للناس في ولايته سنة 169 سليمان بن أبي جعفر.