이 사찰은 고려 건국 초인 918년에 숭복사(崇福寺)라는 이름으로 건립되었는데, 1125년 왕명에 의해 흥성사(興聖寺)로 명칭이 변경되었다. 고려 말에는 공민왕비인 노국공주(魯國公主)가 공덕주가 되어 새롭게 불사를 일으켰다.
흥성사의 원래 이름은 숭복사로 영통사 북쪽에 있었다. 918년에 고려 태조가 왕위에 오르자 정화공주(貞和公主, 공주가 아니라 정화왕후가 맞음)의 부친 보육(寶育)이 자신의 집을 절로 만들고 이름을 숭복사라고 하였다. 정화왕후는 고려 태조 왕건의 조부인 작제건의 모친으로서, 고려 세계는 ‘보육-정화왕후(당 숙종과 혼인)-작제건-용건-왕건’으로 이어진다. 1125년(인종 3)에 왕이 숭복사에 행차하여 이름을 숭복원에서 흥성사라 바꾸고 낙성을 축하하면서 신료들과 함께 낙성연을 베풀었다. 1152년(의종 6) 2월에 왕이 영통사(靈通寺)와 흥성사에 행차했다. 이듬해 3월에도 왕이 이 절에 행차했다. 그 뒤 전란으로 불타 없어졌는데, 공민왕비 노국공주가 중창하고 대장경을 봉안해 원당으로 삼았다. 특히 공민왕은 후비들에게 이곳이 정화왕후가 거처했던 곳이기에 공경해야 한다는 점을 강조하였는데, 이 까닭에 노국공주가 공덕주가 되어 당우를 새로 짓고 공양을 모두 새롭게 하였으며, 대장경을 봉안하는 대장함장(大藏函藏)을 만들어 모셨던 것이다. 노국공주가 죽자 공주의 아버지와 어머니의 상을 모셔 제사 지내게 하였고, 공민왕이 죽은 후에도 절은 더욱 풍부하게 운영되어 대총림(大叢林)을 이루었다고 한다. 후에 주지였던 내명(乃明)이 이색(李穡)에게 청하여 이러한 사실을 비에 새기도록 했고, 이색은 「오관산 흥성사 전장법회기(五冠山興聖寺轉藏法會記)」를 지어 그 내력을 밝혔다.
이처럼 흥성사는 고려말에 왕실의 신앙을 모은 중요 사찰이었기에 고승 백운경한(白雲景閑, 12981374)이 1357년(공민왕 6)에 이 절의 주지를 지냈고, 1388년(공양왕 즉위년)에는 당시 왕사이던 대지국사(大智國師) 찬영(粲英, 13281390)이 이 절에 주석하였다. 이후 언제 폐사되었는지는 알 수 없다. 『전등사본말사지(傳燈本末寺誌)』에는 지금의 영통사가 흥성사의 옛터라고 하고, 또 1125년(인종 3)에 사액(賜額)하였다고 하였다. 흥성사는 영통사가 있을 때 동시에 존재했던 서로 다른 사찰인데, 두 절 모두 오관산 아래에 있었기 때문에 이런 전승이 생겨난 것으로 보인다.