대한불교조계종 제8교구 본사인 직지사(直指寺)의 말사이다.
신라 말에 보조선사(普照禪師)가 창건하여 법흥사(法興寺)라 하였다. 그 뒤의 중창 및 중건의 역사는 알 수 없으나, 고려 말에 공민왕이 홍건적의 난을 피해서 이곳에 머물렀다. 임진왜란 때에는 이 절에서 의승(義僧)이 많이 나와 나라를 구하는 데 크게 공헌하였으므로, 나라에서 절 이름을 혜국사라고 하였다. 1927년에 중건되었으며 1987년에 대웅전과 선방(禪房)을 건립하여 오늘에 이른다.
현존하는 당우로는 석가모니불을 모신 대웅전을 비롯하여 만경전(萬鏡殿) · 사천왕문(四天王門) · 대방(大房) · 요사채 등이 있다. 대웅전 안에는 1684년(숙종10)에 수화승 김문이 만들어 금학사에 안치했다가 후에 혜국사로 옮겨졌던 혜국사 대웅전 목조삼존불좌상이 있는데, 목조삼존불좌상은 2009년 경상북도 유형문화재(현, 유형문화유산)로 지정되었다. 부속암자로는 안적암(安寂庵) · 은선암(隱仙庵) · 용화암(龍華庵)이 있다.