كانت اليمن تابعة للنجاشي ملك الحبشة. وقام والي اليمن (أبرهة) ببناء كنيسة عظيمة، وأراد أن يغيّر وجهة حجّ العرب. فيجعلهم يحجّون إلى هذه الكنيسة بدلا من بيت الله الحرام. فكتب إلى النجاشي: إني قد بنيت لك أيها الملك كنيسة لم يبن مثلها لملك كان قبلك, ولست بمنته حتى أصرف إليها حج العرب. إلا أن العرب أبوا ذلك، وأخذتهم عزتهم بمعتقداتهم وأنسابهم. فهم أبناء إبراهيم وإسماعيل، فكيف يتركون البيت الذي بناه آباءهم ويحجّوا لكنيسة بناها نصراني! وقيل أن رجلا من العرب ذهب وأحدث في الكنيسة تحقيرا لها. وأنا بنو كنانة قتلوا رسول أبرهة الذي جاء يطلب منهم الحج للكنيسة.
فعزم أبرهة على هدم الكعبة. وجهّز جيشا جرارا، ووضع في مقدمته فيلا مشهورا عندهم يقال أن اسمه محمود. فعزمت العرب على تقال أبرهة. وكان أول من خرج للقاءه، رجل من أشراف من اليمن يقال له ذو نفر. دعى قومه فأجابوه، والتحموا بجيش أبرهة. لكنه هُزِم وسيق أسيرا إلى أبرهة.
ثم خرج نفيل بن حبيب الخثعمي، وحارب أبرهة. فهزمهم أبرهة وأُخِذَ نفيل أسيرا، وصار دليلا لجيش أبرهة. حتى وصلوا للطائف، فخرج رجال من ثقيف، وقالوا لأبرهة أن الكعبة موجودة في مكة –حتى لا يهدم بيت اللات الذي بنوه في الطائف- وأرسلوا مع الجيش رجلا منهم ليدلّهم على الكعبة! وكان اسم الرجل أبو رغال. توفي في الطريق ودفن فيها، وصار قبره مرجما عند العرب. فقال الشاعر:
وأرجم قبره في كل عام * * * كرجم الناس قبر أبي رغال
وفي مكان يسمى المغمس بين الطائف ومكة، أرسل أبرهة كتيبة من جنده، ساقت له أموال قريش وغيرها من القبائل. وكان من بين هذه الأموال مائتي بعير لعبد المطلب بن هاشم، كبير قريش وسيّدها. فهمّت قريش وكنانة وهذيل وغيرهم على قتال أبرهة. ثم عرفوا أنهم لا طاقة لهم به فتركوا ذلك .
وبعث أبرهة رسولا إلى مكة يسأل عن سيد هذا البلد, ويبلغه أن الملك لم يأت لحربهم وإنما جاء لهدم هذا البيت, فإن لم يتعرضوا له فلا حاجة له في دمائهم! فإذا كان سيد البلد لا يريد الحرب جاء به إلى الملك. فلما أخب الرسول عبد المطلب برسالة الملك، أجابه: والله ما نريد حربه وما لنا بذلك من طاقة. هذا بيت الله الحرام. وبيت خليله إبراهيم عليه السلام.. فإن يمنعه منه فهو بيته وحرمه, وإن يخل بينه وبينه فوالله ما عندنا دفع عنه.