묵사(墨寺)라고도 하였다. 창건연대는 미상이며, 고려 말기에 충렬왕이 중창하고 원당(願堂)으로 삼았다. 충렬왕은 1282년부터 1308년까지 26년 동안 이 절을 18차례 방문한 것으로 『고려사』에 기록되어 있다.
특기할 만한 것으로는 1282년 6월 공주가 아팠을 때 이 절에 행차하였고, 1285년 7월 13일에는 우란분재(盂蘭盆齋)를 열었으며, 1295년 정월 16일에는 이 절에서 선제(先帝)의 천도를 기원하였다. 또, 1296년 정월에는 선제의 대상(大祥:죽은 지 두 돌 만에 지내는 제사)을 이 절에서 치렀고, 5월 25일 공주와 함께 행차했을 때는 연등을 모두 주옥으로 치장하였는데 화려함이 비교할 것이 없었다고 한다.
그리고 1297년 7월에는 이 절에서 공주의 복을 빌었고, 1303년 9월 21일원나라 세조의 기일(忌日)에 행차하였으며, 1308년 7월 13일에는 충렬왕이 이 절에 와서 죽었다. 충선왕도 다섯 차례에 걸쳐서 이 절에 행차하였다.
1308년 5월에는 안평공주(安平公主)의 소상(小祥:사람이 죽은 지 1년 만에 지내는 제사)을 이 절에서 치렀고, 같은 해 7월 15일에는 우란분재를 열었으며, 10월에는 선왕의 백일재를 열었다. 1342년(충혜왕 복위 3)에는 이 절의 등촉향도(燈燭香徒)들이 왕의 축수재(祝壽齋)를 열었는데 왕이 직접 재의 앞자리에 앉아 참여하였다.
1349년(충정왕 1)에는 이 절의 법사 수공(修公)이 불사(佛事)를 위한 계의 일종인 상주(常住)를 설치하였는데, 이 때 이곡(李穀)은 「신효사신치상주기(神孝寺新置常住記)」를 지었다. 이에 의하면 이 절의 웅장한 규모와 충렬왕과의 관계 등을 알 수 있다. 1350년 정월 15일에는 충정왕이 부왕의 기일에 행차하였으며, 1356년(공민왕 5) 3월 24일에는 공민왕이 충숙왕의 기신도량(忌辰道場)을 이 절에서 열었다.
그 뒤의 자세한 역사는 알 수 없으나, 조선 초기까지는 존립하고 있었으며, 그 후에 폐허가 되어 1945년 전에는 동서 약 70칸, 남북 약 50칸의 터에 주춧돌과 기와 조각 등이 산재해 있었다고 한다.