يزيد در سال ٦٤ بود، ابتدا عبيدالله بن زبير و سپس جعفر بن زبير و آنگاه عبيدة بن زبير و سرانجام مُصْعب بن زبير حکومت اين شهر را عهده دار بودند. به جز اينها، کسان ديگري نيز مدت هاي کوتاهي از طرف عبدالله بن زبير براين شهر حکومت کردند. آخرين آنها طلحة بن عبدالله بن عوف بود که تا سال ٧٢، که در آن سال حجاز به تصرف بني اميه درآمد، بر اين شهر حکومت کرد. در دوره مروانيان، ابتدا شخصي با نام طارق بن عمرو از موالي عثمان و سپس حَجّاج بر مدينه و مکه حکومت کرد. با رفتن وي به عراق، مدينه در اختيار افرادي از خاندان اموي از جمله ابان بن عثمان بن عفان، هشام بن اسماعيل بن وليد بن مغيره و عمر ابن عبدالعزيز در آمد که اين آخري از سال ٨٧ تا ٩٣ بر اين شهر حکومت کرد. در همين دوره بود که مسجدالنّبي(صلي الله عليه وآله) و بسياري از مساجد کوچک ديگر اين شهر به دستور وليد بازسازي شد. شهر مدينه تا سال ١٣٠ در اختيار امويان بود. در اين سال که خوارج قدرت يافتند، شهر مدينه در اختيار چند تن از خوارج مانند ابوحمزه خارجي اباضي و مفضل اباضي خارجي قرار گرفت. امويان در سال ١٣١ بر مدينه چيره شدند، اما سلسله آنان در سال ١٣٢ هجري ساقط شد. مدينه در دوره عباسيان عباسيان در شهر کوفه قدرت را به دست گرفتند و در دوره منصور، بغداد را ساختند و خلافت را به آنجا انتقال دادند. نخستين امير آنان در مدينه، از خاندان عباسي يحيي بن جعفربن تمام بن عباس بود که از سوي سفّاح منصوب شد. پس از وي، داود بن علي بن عبدالله و سپس موسي بن داودبن علي به همين ترتيب اين شهر مهم، همانند ساير شهرهاي بزرگ در اختيار عباس زادگان بود، گرچه به ندرت افراد غير عباسي، براي مدتي کوتاه به امارت اين شهر مي رسيدند.