고려 문종(文宗) 때 붕현(鵬顯)이 창건하였을 당시에는 정수사(淨水寺)라고 하였다. 일제강점기에는 31본산 가운데 하나였다. 고려 말에 이성계(李成桂)가 글을 읽던 곳이어서 조선시대에는 왕실의 보호를 받았다. 그 뒤 1401년(태종 1)에 이성계가 이곳에 은신한 사실을 기리기 위하여 절 이름을 귀주사로 바꾸었다.
1716년(숙종 42)에 덕순(德淳)이 중수하였으나 1878년(고종 15)에 화재로 소실되었으며, 1880년 쌍운(雙運)이 중건하였다.
같은 해귀주사의 주지를 맡은 보암(寶庵)이 본·말사 회의를 통해 이 절을 크게 일으킬 것을 결의하고, 대웅전을 비롯해서 삼성전(三聖殿)·무량수각(無量壽閣)·소향각(燒香閣)·해월루(海月樓) 등을 새로 지어 절의 면모를 일신하였다.
1911년에 31본산 중 함경남도 유일의 본산이 되었다. 산내 암자로는 극락암을 비롯한 7개 절이 있었으며, 산회말사로는 79개 절이 있었다.