1982년 경상북도 기념물로 지정되었다. 김후직은 신라지증왕의 증손으로 진평왕 2년(580)에 이찬으로서 병부령이 되었다. 『삼국사기(三國史記)』에 따르면, 진평왕이 사냥을 좋아하여 정사(政事)를 돌보지 않았으므로 왕에게 수차례에 걸쳐 사냥하는 것을 중지하기를 간언하였으나 왕이 듣지 않았다.
뒤에 병으로 죽게 되었을 때 김후직이 세 아들에게 말하기를, 신하된 몸으로 임금의 잘못을 바로잡지 못하였으니 죽더라도 반드시 왕을 깨우쳐 주리라 하고 시신을 왕의 사냥길 옆에 묻어주도록 유언하니 아들이 그렇게 하였다.
어느날 진평왕이 사냥을 나갈 때 길가에서 “가지 마시오”하는 듯한 소리가 들렸으므로 시종하는 사람에게 물으니 김후직의 묘에서 나는 소리라 하고 죽을 때 김후직이 한 말을 전하였다. 이에 진평왕은 크게 뉘우치고 다시는 사냥을 가지 않았다고 한다.
김후직이 죽어 묘에서까지 임금에게 바른 말로 간(諫)하였으므로 이를 ‘묘간(墓諫)’이라 하고, 그의 묘를 ‘간묘(諫墓)’라 하였다. 이 무덤은 지금의 경주시 황성동 국도변에 있는데, 외형은 일반적인 원형봉토분과 크게 다를바 없다. 묘 앞의 상석은 후대에 만든 것이다.
조선 숙종 36년(1710)에 이르러 이 무덤에 묘비(墓碑)를 세워 김후직의 충절을 기렸다. 비문은 경주부윤 남지훈(南至薰)이 지었다.