본관은 선주(善州: 지금의 경상북도 구미). 아버지는 동지밀직사사(同知密直司事)를 지낸 김달상(金達祥)이다.
1361년 홍건적의 침입으로 개경(開京)이 함락되고 복주(福州: 지금의 경상북도 안동)로 몽진할 때 원외랑으로서 왕을 호종한 공으로 1363년 전의부령(典儀副令)에 오르고 1등공신이 되었으며, 1365년에는 좌대언에 올랐다.
그의 동생 김문현(金文鉉)은 형인 김군정의 첩이 있던 방에서 발각되어, 아버지 김달상이 김문현을 미워하게 되었다. 이후로도 김달상이 김문현의 살인과 여러 문제를 일으키자, 이를 막기 위해 신돈에게 말하였다. 이로 인해 김문현이 오히려 “신돈(辛旽)은 반드시 나라를 그르칠 인물이다.”라고 모함하여, 아버지와 형인 김군정을 죽게 하였다. 모두 죽임을 당하였다. 뒤에 신돈이 몰락하자 복권되었다.