Ide awal pendirian Bayt Al-Qur'an muncul dari Dr. H. Tarmizi Taher pada tahun 1994 ketika ia menjabat sebagai Menteri Agama RI. Pada suatu ketika ia mendampingi Presiden H.M. Soeharto menerima hadiah sebuah Al-Qur'an besar dari Pondok Pesantren Al-Asy'ariyah, Kalibeber, Wonosobo, Jawa Tengah. Satu tahun kemudian, tepatnya pada 1995, pada peringatan 50 tahun kemerdekaan RI, Presiden meresmikan Mushaf Istiqlal yang telah selesai dikerjakan sejak tahun 1991. Mushaf Istiqlal merupakan sebuah mushaf ukuran besar yang ditulis dengan khat yang indah, dilengkapi dengan hiasan (iluminasi) dari ragam hias 27 provinsi di Indonesia. Pada waktu itulah tercetus ide untuk mendirikan Bayt Al-Qur'an (berarti “Rumah Al-Qur'an”) sebagai tempat untuk menghimpun, menyimpan, memelihara, dan memamerkan mushaf Al-Qur'an dari berbagai macam bentuk dan jenis, yang tersebar di seluruh penjuru Nusantara. Ide ini kemudian langsung mendapat dukungan Ibu Tien Soeharto yang langsung mewakafkan tanah seluas satu hektar di kompleks Taman Mini Indonesia Indah, Jakarta Timur, tepatnya di sebelah kanan pintu masuk utama TMII.

Setelah melalui tahapan perencanaan, gagasan untuk memperluas fungsi Bayt Al-Qur'an muncul terutama selepas penyelenggaraan Festival Istiqlal kedua pada tahun 1995. Pada penyelenggaraan festival tersebut telah banyak dihimpun benda-benda koleksi budaya Islam Nusantara yang pada saat itu belum terpikirkan akan ditempatkan di mana. Ide yang pada awalnya hanya untuk menghimpun naskah-naskah Al-Qur'an, kemudian diperluas untuk menghimpun, memamerkan, dan mengkaji sejarah serta budaya Islam Nusantara. Sejak saat itulah, timbul rencana untuk menggabungkan ide pendirian Bayt Al-Qur'an dengan pendirian Museum Istiqlal. 

Bayt Al-Qur'an dan Museum Istiqlal dimaksudkan untuk menjadi dua lembaga yang memiliki kesatuan utuh, dengan perannya masing-masing. Keduanya menyatu dalam upaya meningkatkan kecintaan, pemahaman, dan pengamalan Al-Qur'an. Melihat kedudukan dan fungsinya, Museum Istiqlal tidak dapat dipisahkan dari Bayt Al-Qur'an. Bayt Al-Qur'an menggambarkan fungsi Al-Qur'an sebagai petunjuk manusia, dan Museum Istiqlal merupakan perwujudan pelaksanaan petunjuk Allah dalam kehidupan dan budaya umat Islam Nusantara. Lebih dari sekadar tempat untuk menyimpan dan memamerkan  Al-Qur'an dari berbagai tempat di Indonesia, Bayt Al-Qur'an & Museum Istiqlal juga merupakan wadah kajian dan pengembangan ilmu yang berkaitan dengan Al-Qur'an dan budaya Islam.

Akhirnya pada tanggal 20 April 1997 Bayt Al-Qur'an & Museum Istiqlal diresmikan pembukaannya oleh Presiden RI H.M. Soeharto, sebagai tonggak perkembangan dan kebesaran Islam di Indonesia: menyiarkan kegemilangan dari masa lalu, masa kini dan masa yang akan datang.