일제강점기 31본산(本山) 중 하나로 7개 군 34개 사찰을 관장하였던 대본산(大本山)이었다. 신라 중기에 법심(法深)이 창건하였다는 설과 신라 애장왕 때의 고승 구업조사(具業祖師)가 창건하여 구업사(具業寺)라 하였다는 설이 있다. 그 뒤 신라 말에 이름이 알려지지 않은 한 승려가 서역(西域)으로 수도차 갔다가 돌아오는 길에 패엽경(貝葉經)을 갖고 귀국하여 이 절에 보관하였기 때문에 절 이름을 패엽사로 고쳤다고 한다.
그러나 1400년대 초기에 대화재를 입어 절이 황폐해지자, 신균(信均)·천오(天梧) 등의 승려들이 합심하여 황폐한 이 절을 복구하였다. 근세에 이르러서는 하은화상(荷隱和尙)이 대중창을 이룩하였는데, 그가 중창의 서원(誓願)을 세우고 당우(堂宇)를 복원할 때 아무도 도와주는 이가 없어, 혼자 힘으로 역사(役事)를 감당하여 오늘의 모습으로 가꾸었다는 일화가 전한다.
또한 이 절이 있는 구월산은 우리나라 4대 명산의 하나로서 단군(檀君)이 말년에 입산하여 산신(山神)이 되었다는 전설을 간직하고 있으며, 패엽사 경내에는 단군유적과 삼성전(三聖殿)이 있다.
산내 말사로는 월정사(月精寺)·도솔암(兜率庵)·월출암(月出庵)·지장암(地藏庵)·달마암(達磨庵)·봉림암(鳳林庵)·칠성암(七星庵)·백련암(白蓮庵)이 있다. 산외 말사로는 해주군의 신광사(神光寺)·북암(北庵)·운수암(雲水庵)·안양암(安養庵)·보발암(寶鉢庵)·정각사(正覺寺)·은적암(隱寂庵)·안수사(安壽寺)·동고사(東皐寺)·우명사(牛鳴寺) 등과 신천군의 묘각사(妙覺寺)·낙산사(洛山寺)·자혜사(慈惠寺), 장연군의 쌍계암(雙溪庵), 송화군의 수증사(壽增寺)·운흥사(雲興寺)·화장사(華藏寺), 은율군의 정곡사(停穀寺)·진봉암(鎭鳳庵)·원정사(圓井寺), 안악군의 고정사(高井寺)·연등사(燃燈寺)·수도암(修道庵), 재령군의 묘음사(妙音寺)·현사(懸寺) 등이 있다.