عَنِ ابْنِ عَبَّاسٍ قَالَ: "صَلُّوا فِي مُصَلَّى الأَخْيَارِ وَاشْرَبُوا مِنْ شَرَابِ الأَبْرَارِ"، قِيلَ لابْنِ عَبَّاسٍ: مَا مُصَلَّى الأَخْيَارِ؟ قَالَ: "تَحْتَ الْمِيزَابِ". قِيلَ: وَمَا شَرَابُ الأَبْرَارِ؟ قَالَ: "مَاءُ زَمْزَمَ" رواه الأزرقي في أخبار مكة.
إن الكعبة المشرفة كانت بدون سقف إلى السنة الخامسة قبل النبوة، ولما بنت قريش الكعبة وسقفها اقتضت الحاجة لتصريف مياه السطح عند غسل السطح أو نزول الأمطار فوضعت قريش الميزاب من الخشب لأول مرة، وهو الجزء المثبت على سطح الكعبة في الجهة الشمالية، والممتد نحو الحِجْر.
قال الأزرقي في خبر بناء قريش للكعبة: "وجعلوا ارتفاعها من خارجها من أعلاها إلى الأرض ثمانية عشر ذراعًا منها تسعة أذرع زائدة على طولها حين عمرها الخليل عليه السلام، واقتصروا من عرضها أذرعًا جعلوها في الحِجْر لقصر النفقة الحلال التي أعدوها لعمارة الكعبة عن إدخال ذلك فيها، ورفعوا بابها ليدخلوا من شاءوا ويمنعوا من شاءوا، وكبسوها بالحجارة وجعلوا في داخلها ست دعائم في صفين، ثلاث في كل صف من الشق الذي يلي الحجر إلى الشق اليماني. وجعلوا في ركنها الشامي من داخلها درجة، يصعد منها إلى سطحها، وجعلوه سطحًا، وجعلوا فيه ميزابًا يصب في الحجر".
ثم لما بناها عبد الله بن الزبير رضي الله عنهما وضع لها ميزابًا وجعل مصبه على الحِجْر كما فعلت قريش.
وقد جاء عن الحسن البصري في رسالته المشهورة لأهل مكة أن الدعاء يستجاب تحت الميزاب.