841년(신라 문성왕 3) 진감혜소(眞鑑慧昭)가 창건하였다고 하나 근거가 없다. 『신증동국여지승람(新增東國輿地勝覽)』 청양현 항목에 정련사(淨蓮寺)가 보인다. 권상로의 『한국사찰사전』에 의하면, 『신증동국여지승람』에 정혜사(淨慧寺)가 보이고 나중에 정혜사(定慧寺)로 바뀌었다고 하는데 이는 사실과 다르다. 엄연히 정련사로 나와 있다. 또한 ‘정혜사(定慧寺)’는 칠갑산(七甲山)에 있는 반면, 정련사는 백월산(白月山)에 있다고 하였다. 정련사의 창건 연대는 고려시대까지 소급할 수 있지만, 정혜사는 『신증동국여지승람』 이후에 생겨난 것으로 추정된다. 1930년 불상을 개금한 기록에 의하면 이때 절 이름이 ‘정혜사(定慧寺)’였다고 한다. 정련사가 절의 기능을 못 하자 칠갑산 장곡사(七甲山 長谷寺) 부근에 정혜사를 창건한 것으로 추정된다.