العزيز بن مروان صاحب مصر لانقطاع كان منه إليه فتوجه عبد العزيز مع موسى إلى الشام فوفدا على عبد الملك فأغرمه عبد الملك مائة ألف دينار فغرم عنه عبد العزيز نصفها وعاد مع عبد العزيز إلى مصر فولاه منها أفريقية.
فأول فتوحه قلعة غزوان ونواحيها وبينها وبين القيروان مسيرة يوم كامل وبنواحي غزوان قبائل بربر بعث إليهم موسى خمسمائة فارس ففتحها الله فبلغ سببهم عشرة آلاف وهو أول سبي دخل القيروان في ولاية موسى ثم وجه ابناً له اسمه عبد الله إلى بعض نواحي أفريقية فأتى بمائة ألف رأس من السبي ثم وجه ابنه مروان فأتى بمثلها فكان الخمس يومئذ ستين ألفا فكتب موسى إلى عبد العزيز يعلمه بالفتح ويعلمه أن الخمس بلغ ثلاثين ألفا وكان ذلك وهماً من الكاتب: كتب ثلاثين ألفا بدلا من ستين ألفا فلما قرأ عبد العزيز بن مروان الكتاب وأن الخمس من السبي ثلاثون ألفا استكثر ذلك ورأى إنه وهم من الكاتب لكثرته فكتب إلى موسى يقول له: (إنه قد بلغني كتابك تذكر أن خمس ما فاء الله عليك ثلاثون ألف رأس فاستكثرت ذلك وظننته وهماً من الكاتب فاكتب بالحقيقة) فكتب إليه موسى (قد كان ذلك وهماً من الكاتب على ما ظنه الأمير والخمس أيها الأمير ستون ألف رأس ثابتاً بلا وهم) فلما بلغه الكتاب عجب كل العجب وامتلئ سروراً وقد كان عبد الملك كتب إلى أخيه عبد العزيز (قد بلغ أمير المؤمنين ما كان من رأيك في عزل حسان وتوليه موسى وقد أمضى لك أمير المؤمنين ما كان من رأيك وولاية من وليت) فكتب عبد العزيز إلى أخيه يعلمه بالفتح وكتاب موسى ثم وجه عبد الملك رجلاً إلى موسى ليقبضن ذلك منه على ما ذكر فدفع موسى إليه مثل ذلك وزاد ألفا وكان موسى عند وصوله إلى أفريقية لما صار في الجيش الأول أتى عصفور حتى نزل على صدره فاخذ به موسى وذبحه ولطخ بدمه صدره