五大堂の起源は平安時代初期にまで遡ります。大同2年(807年)、征夷大将軍・坂上田村麻呂が東征の折、毘沙門堂を建立したのが始まりとされています。
その後、天長5年(828年)に慈覚大師円仁が延福寺(現在の瑞巌寺)を開いた際、大三輪明神の導きによって五大明王像を安置したことから「五大堂」と呼ばれるようになりました。伝承によると、円仁が明王像を祀ったところ、それまで祀られていた坂上田村麻呂の毘沙門天が一夜にして沖合の島(現在の兜島)へ飛び去ったという不思議な伝説も残されています。
現在の建物は、関ヶ原の戦いを経て仙台城下を築いた伊達政宗が、瑞巌寺本堂の復興に先駆けて慶長9年(1604年)に再建したものです。伊達文化の粋を集めた豪壮かつ華麗な彫刻が施されており、桃山建築の風格を今に伝える貴重な遺構となっています。