719년(성덕왕 18) 2월 중아찬(重阿飡) 김지성(金志誠)이 감산에 있는 장전(莊田)을 희사하여 아버지 인장(仁章) 일길간(一吉干)과 어머니 관초리(觀肖里) 부인의 명복을 빌고, 국왕과 그 일족의 안녕을 기원하기 위하여 창건하였다.
창건 후 어머니를 위해서 미륵보살상 1구를, 아버지를 위해서 아미타불상 1구를 조성하여 봉안하였다. 그러나 그 뒤의 역사는 전하지 않는다. 1915년 2구의 불상이 서울로 옮겨져 현재 국립중앙박물관에 있으며, 감산사 석조미륵보살입상은 1962년에 국보로, 감산사 석조아미타불입상은 1962년에 국보로 지정되었다.
현재 절터는 전답으로 변하여 1985년 경상북도 문화재자료(현, 문화유산자료)로 지정된 감산사지삼층석탑 1기 외에 별다른 유물은 발견되지 않고 있으며, 작은 불당 2채만이 있다.