آب انبار مسجد جامع کبیر که در شمال جلوخان مسجد جامع قرار دارد، کهن ترین آب انبار موجود در شهر قزوین است. این بنا در سال ۱۰۹۳ هجری قمری و در زمان سلطنت شاه سلیمان صفوی بنا شده است. سردر آب انبار دارای طرحی ساده و فاقد هرگونه تزئین است. راه شیر آب انبار دارای ۳۷ پله سنگی و مخزن آن گنجایش ۱۸۰۰ مترمکعب آب را دارد. جنس دیواره های آن از شفته آهک و به قطر ۴۰/۲ متر است. در وسط آب انبار سقف مشبکی قرار دارد که از این طریق عملیات تهویه صورت می گیرد.
در جنب مسجد کتیبه ای به خط نستعلیق بر روی سنگ مرمر به چشم می خورد که در آن تاریخ ساخت آب انبار (۱۰۹۳ هـ.ق) درج شده است.