Ketika Nabi Ibrahim as bersama putranya Nabi Ismail as diperintah
Allah SWT untuk meletakkan dasar bagi pendirian “masjid pertama” sebagai
lambang keagungan dan kebesaran-Nya, tempat semua umat-Nya dapat
beribadah dengan baik. Bangunan dasar untuk pendirian “Rumah Allah”
inilah yang sekarang dikenal sebagai Ka’bah.
Untuk membentuk bangunan Ka’bah yang lebih nyata terutama dalam
ukurannya, maka Nabi Ibrahim meletakkan batu khusus di bagian sudut
timur. Batu ini menurut kisahnya mula-mula berwarna putih bersih, tetapi
kemudian sejalan dengan perjalanan hidup manusia yang selalu bersimbah
dosa dan kesalahan, batu itu lama kelamaan menjadi hitam, sehingga
dinamakan Hajar Aswad.
Selama pembangunan Ka’bah berlangsung, Nabi Ibrahim berdiri di atas
sebuah batu agar dapat melihat bagaimana bentuk bagian atas Ka’bah
secara nyata. Batu bekas berdiri Nabi Ibrahim yang terletak di bagian
timur Ka’bah, dikenal kemudian dengan nama Maqam Ibrahim. Pada tersebut
tampak cetakan kaki sedalam 10 cm.
Pada zaman Nabi Ibrahim tinggi Ka’bah mencapai 4,5 meter, berbentuk
segi empat memanjang dengan bagian ujung membulat. Ada pintu di bagian
dasarnya, dan tidak beratap.
Setelah Nabi Ibrahim wafat, Ka’bah jatuh ke tangan kaum Jurhum yang
telah lama bermukim di lembah Mekah. Selama beribu tahun Ka’bah berada
di bawah kekuasaan kaum ini, sebelum akhirnya jatuh pula ke dalam
kekuasaan kaum Kuzzah selama 300 tahun. Pada saat itu kedudukan Ka’bah
sangat labil karena lembah Mekah sering dilanda banjir, dan pada suatu
ketika benar-benar bangunan Ka’bah hancur oleh terjangan banjir dan
tanah longsor. Tetapi Ka’bah kemudian dibangun dan diperbaiki kembali
oleh Qusay ibn Kilab sesuai bentuk aslinya, kecuali di bagian atas, yang
olehnya diberi atap.
Banjir dan longsor besar kemudian menghancurkan Ka’bah kembali. Kaum
Quraisy lalu membangun Ka’bah kembali dengan biaya yang tidak tercampur
dengan “riba” atau sumber lain yang haram. Ini dimaksudkan agar
pembangunan kembali Ka’bah akan tetap utuh dan langgeng sampai akhir
zaman.
Pada 8 H atau 630 M, Nabi Muhammad SAW mengambil alih dan menetapkan
Ka’bah, di samping sebagai tempat ibadah juga menjadi kiblat umat.
Segala jenis patung berhala atau gambar dan tulisan di dalam dan di luar
Ka’bah yang tidak ada kaitannya dengan Islam disingkirkan. Maka sejak
saat itu Ka’bah bebas dari kehadiran gambar-gambar dan boneka/patung
pemujaan.
Pada 1630 M, kembali Lembah Mekah tempat Ka’bah berada dilanda banjir
besar. Ka’bah mengalami rusak berat. Sultan Murad kemudian
memerintahkan untuk membangunnya kembali dari bahan-bahan asalnya. Baru
pada 1957 M pada saat Kerajaan Arab dipimpin oleh Ibnu Saud, bangunan
Ka’bah kembali berwujud seperti yang terlihat sekarang ini, dengan
bentuk dan sifat yang sama seperti sebelumnya.