当山は、真言宗善通寺派の大本山であり、弘法大師より8代目の弟子にあたる仁海僧正の開基にして、一条天皇の正暦二年(西暦991年)奏請して、この地を賜り一寺を建立されました。古くは牛皮山曼荼羅寺と称されました。仁海僧正一夜の夢に、亡き母が牛に生まれ変わっていることを見て、その牛を鳥羽のあたりに尋ね求めて、飼養しましたが、日なくして死に、悲しんでその牛の皮に両界曼荼羅の尊像を画き本尊にしたことに因んでいます。

牛尾山は仁海僧正が牛の尾を山上に埋めて、菩堤を弔ったと伝えられています。

又、仁海僧正は深く宮中の御帰依を受け、勅命により、神泉苑(京都御池大宮西)に請雨の法を9回おこない、その度に霊験があって雨が降ったので、雨僧正とも称されました。

その後、第五世、増俊阿闍梨の時に、曼荼羅寺の子房として、隨心院を建立し、ついで第七世、親厳大僧正が、寛喜元年(西暦1229年)後堀河天皇より、門跡の宣旨を賜り、以来隨心院門跡と称されています。堂舎も次第に整備され、七堂伽藍は壮美を誇っていましたが、承久應仁の兵乱にあってことごとく灰となってしまいました。

その後、慶長四年(西暦1599年)に本堂が再建され、以後九条二条両摂家より門跡が入山し、両摂家の由緒をもって寄進再建されました。