عثمان بن عفان فى العام ٢٧ بتوسعة الميدان ، وفى العام ٦٣ الهجرى عندما جرت محاصرة يزيد المهرطق المتمرد فى مكة بواسطة عبد الله بن الزبير ، ابن أخت السيدة عائشة ، جرى تدمير الكعبة عن طريق الحرق ، هناك من يقولون إن ذلك كان من قبيل المصادفة ، وهناك أيضا من يقول مؤكدا إن ذلك حدث عن طريق المنجنيق الذى وجهه إليها يزيد من فوق جبل قبيص الذى اتخذ منه موقعا له. بعد طرد يزيد ، قام ابن الزبير بتوسعة محيط السور عن طريق شراء المزيد من المنازل من المكيين ، وإضافة أرض هذه المنازل بعد هدمها ، إلى السور كما قام ابن الزبير أيضا بإعادة بناء الكعبة على نطاق كبير ، وزاد ارتفاعها من ثمانية عشر رمحا (ارتفاع الكعبة فى زمن القرشيين) إلى سبعة وعشرين رمحا ، أو إلى ما يقرب من ارتفاعها الذى كانت عليه فى زمن إبن قصى. فتح ابن الزبير بابين فى الكعبة ، وكان البابان فى مستوى سطح المنطقة ، كما أنشأ للكعبة سقفا مزدوجا ، محمولا على ثلاثة أعمدة بدلا من ستة أعمدة. كان طول الكعبة الجديد يقدر بخمسة وعشرين قدما أما عرضها فكان عشرين قدما من أحد الأجناب وإحدى وعشرين قدما من الجانب الآخر. فى داخل الكعبة ، كانت البئر الجافة المسماة بير أهسف ، لا تزال موجودة ، وكان يجرى فيها الاحتفاظ بالكنوز والهدايا ، وبخاصة الأوعية والأوانى الذهبية التى جرى تقديمها للكعبة ، الذى يقال إنه مشتق من كعب ، بمعنى مكعب ، وهو الشكل الذى عليه الكعبة فى الوقت الحاضر. كان اسم الكعبة قبل ذلك (بيت الله) ، أو البيت العتيق ، وهو لا يزال يطلق على الكعبة.

بعد عشرين عاما من التاريخ سالف الذكر ، قام الحجاج بن يوسف الثقفى ، الذى كان حاكما على مكة فى ذلك الزمان ، والذى لم تعجبه توسعة الكعبة ، بتقليل أبعاد الكعبة إلى ما كانت عليه فى زمن قريش ، بأن اقتطع من طولها ستة رماح ، كما أعاد الحجاج الجدار الذى يسمونه الحجر ، الذى كان ابن الزبير قد أضافه إلى المبنى. كان الحجم الذى عليه المبنى فى ذلك الوقت هو الحجم الذى هو عليه فى الوقت الراهن ، وأصبح يجرى الالتزام به فى الإصلاحات والترميمات التى جددت بعد ذلك.