대한불교조계종 제5교구 본사인 법주사(法住寺)의 말사이다. 879년(헌강왕 5) 도선(道詵)이 창건하였다고 전하나, 그 뒤의 역사는 자세하지 않으며, 고려 초에 대경 국사가 중건하였다.
이어서 1096년(숙종 1) 혜소(惠昭)국사가 중건하였고, 1653년(효종 4) 송계(松溪)선사가 중창하였다. 1920년에는 호암이 중수하였으나 한국전쟁으로 요사 등 건물 일부가 소실되었고 여러 중요 유물도 함께 없어졌다.
1956년 월하(月何)가 삼성각과 요사를 중건하였으며, 1990년 광복이 선원을 지었다. 함현이 1997년에 삼성각을, 1998년에 응진전을 각각 복원하여 오늘에 이르고 있다. 현존하는 당우로는 대웅전과 칠성각 · 요사채 등이 있으나 모두가 최근에 세워진 건물이다.
응진전 안에는 일반적인 격식과는 달리 관세음보살을 주존불로 봉안하고, 좌우에 3구씩의 나한상(羅漢像)을 안치하고 있으며, 석가 후불탱화(後佛幀畫)는 1980년대 후반에 없어졌다. 제천 고산사 석조나한상군은 1998년 충청북도 유형문화재(현, 유형문화유산)로 지정되었다.
우리나라에서는 석조 나한상이 드문 편이므로 고산사 나한상은 중요한 자료가 된다. 그 밖에도 이 절에는 신중(神衆) · 나한(羅漢) · 칠성(七星) · 산신(山神) · 독성(獨聖) 등의 탱화가 봉안되어 있다.