대한불교조계종 제6교구 본사인 마곡사(麻谷寺)의 말사이다. 창건연대 및 창건자는 미상이나 삼한시대에 창건되었다는 설과 약 800년 전에 창건되었다는 설이 전한다. 원래 이 절은 묘각사(妙覺寺)라 하였으나 중암대사(中庵大師)가 거처한 이후 중암사로 명명하였다고 한다.
그러나 절의 역사는 거의 전래되지 않고 있다. 다만, 이 절에 서산대사(西山大師) · 사명당(四溟堂) · 영규(靈圭)의 영정을 모신 삼충사(三忠寺)가 있었으나 한말에 계룡산 갑사(甲寺)로 이전하였으며, 당우들도 1932년에 주지의 실화로 소실되었다. 화재 전에는 불교강원(佛敎講院)이 있었는데, 50∼60명의 학인들이 모여 공부하였다고 한다.
현재의 건물은 그 뒤 다시 지은 것으로 대웅전 · 산신각 · 요사채 등이 있다. 유물로는 넓은 반석 위에 있는 6기의 부도가 1989년 대전광역시 문화재자료(현, 문화유산자료)로 지정되었으며 선교양종대찰지비(禪敎兩宗大刹之碑) · 돌절구 · 떡돌판 · 시식대(施食臺) 등이 있다. 6기의 부도 중 5기에는 각각 추월당(秋月堂) · 한월당(漢月堂) · 천봉당(天峯堂) · 홍파당(泓派堂) · 한수당(漢水堂)의 각자가 있는데, 이들은 모두 조선 후기의 고승으로서 절의 사격(寺格)을 암시하여준다. 또, 임진왜란 때의 승장 영규가 금산전투에서 왜군의 총탄에 복부관통상을 입자, 이 절에 이르러 갑옷과 창검을 벗어놓고 갑사 청련암으로 가서 입적하였다고 한다. 민족 항일기에는 영규의 유물과 투구 · 고둥, 『화엄경』 1질, 『법화경』 1질, 『공신록』 4권이 보존되어 있었으나 광복 이후 모두 분실되었다고 한다.