当寺は古代の神山信仰に起源する。「牛尾山」は、山並みで連なる日吉大社神山と同名で古事記の山神「大山咋神」(おおやまくいのかみ)を連想、山科の人々に稲作のための水の恵みを弥生時代からもたらしてきた
神祭祀の場所は、山頂にあった「音羽山権現社」で垂仁天皇から「国土守護・国民豊楽」の祈念所とされた
天智天皇2(663)年、朝鮮半島での「白村江の戦い」の後、我が国は国防の時代となる 大津京に遷都された天智天皇は北九州から瀬戸内に築城され都の砦となる牛尾山にも参詣された
そして仏教からは観音信仰を招来、現世利益を願われて、のちに当寺に遷される「観音菩薩」を御手彫りされたと伝わる
奈良時代、小島寺の「延鎮上人」が霊夢により金色に光る水源地に辿りつき牛尾山に入山された
宝亀元(770)年、この地で「行叡居士」と出会い、光仁天皇勅許を賜り 宝亀9(778)年、当寺創建となる
平安時代には「弘法大師空海」や「智証大師円珍」たちにより密教が伝来し、当地も修行の場所となる
当寺の歴史を伝える古文書
「都名所図会」や「雍州府志」、「京師巡覧集」など江戸時代の文献に本尊十一面観音菩薩が天智天皇御作になることや、延鎮上人と行叡居士の御縁と開山、天台宗寺門派の智証大師円珍による曼荼羅書写、さらに清水寺奥之院としての当寺の縁起が記録されている
音羽山については、多くの滝や行叡、空海に関する旧跡、修行の窟が記される
「都名所図会」
牛尾山法嚴寺は七曲りの上にあり真言宗にして本尊は十一面観音なり、天智天皇の御作
脇士は不動毘沙門天、又 行叡居士 延鎮上人の像を安置す
天智帝の社 神明社あり
不動の滝 天狗杉は鐘楼の傍らにあり
黒泥巖金生水は堂前にあり
智証大師 此両品を以て紺帋金泥(こんしきんでい)の曼荼羅を書写し給ふとぞ
当寺は昔 延鎮沙門 音羽川の水上を尋て行叡居士の沓(くつ)を拾い 大悲の化現なることを智せる霊場なり
洛陽清水寺の縁起に委し 此沓 当寺の什宝なり