现在的喀山圣母大教堂所在地以前是一座不大的木质教堂。十七世纪,在下诺夫哥罗德展开了修建石制建筑的风潮,木质教堂也被新的石制建筑代替。
1687年,旧教堂被拆除。取而代之的是一栋以喀山圣母大教堂为名的新教堂。教堂是商人安菲娜•奥丽莎出资建立的。教堂是为了纪念1612年到1613年的农民起义而建的。教堂的最大价值是喀山圣母玛利亚画像,这是俄罗斯人非常珍视的艺术品。十九世纪六十年代,教堂旁边增建了有救世主画像的小礼拜堂—是尼古拉二世为庆祝自己幸免于革命者德米特里•卡拉克佐娃刺杀而建造的。也许这个故事预示着教堂日后的悲惨命运。1935年教堂被拆除。新的喀山圣母大教堂是21世纪重新建造的,新教堂2012年10月3日才重新运转。