新西国霊場第２６番札所。本山修験宗。山号は大谷山。
６４５年、法道仙人を開基とし、孝徳天皇の勅願により建立されたのをはじまりとする。大谿寺（だいけいじ）と称していたが、１６８１年に後西上皇の勅により仏陀伽耶（ブダガヤ）に因む寺号、伽耶院と改めた。

平安中期には堂宇数１０、坊塔１３０余坊と記され、花山上皇の行幸を得るなど隆盛を極めていたが、秀吉による三木城攻めの兵火とその後の失火により全山焼け落ち、現在の諸堂はそれ以後の建立である。
中世以降は聖護院末の修験寺院として活動を続け、江戸時代には天台系山伏を統率する四院家の一つに数えられ、その伝統は今も１０月の体育の日の採燈大護摩として伝えられて、各地から２００余名の山伏が参集し、近畿地方では最大規模の採燈大護摩が行われる。

自然に恵まれ、夏には前の小川でホタルが乱舞し、秋は全山紅葉で壮観である。
本堂横の池にはヒカリモの生息が確認されている。ヒカリモとは、球形の単細胞生物で黄緑色の色素で光合成をする。光を反射して暗所で光る。
伽耶院前の川岸には断層が露出し名所になっている。