본관은 언양(彦陽). 호는 식재(息齋). 정승 김륜(金倫)의 아들이다.
1349년(충정왕 1) 밀직사에 있을 때, 일찍이 왕을 헐뜯었던 이유로 섬에 장류(杖流)되었다.
1351년 공민왕이 즉위하자 밀직부사에 다시 등용되고, 곧 첨의평리(僉議評理)에 올랐다. 1354년(공민왕 3)에 첨의평리로 성절사(聖節使)가 되어 원나라에 다녀와서 찬성사(贊成事)가 되었다.
이듬해 삼사우사(三司右使)를 거쳐 언양부원군(彦陽府院君)에 봉해졌다. 1356년 전라도도순문사(全羅道都巡問使)로 나갔으며, 1357년 공민왕이 기철(奇轍) 일당을 제거하고 배원정책을 펼 때 서북면도원수(西北面都元帥)로 임명되어 압록강 방면을 수비하였다. 공민왕(恭愍王)이 그의 누이를 원 승상(丞相) 탈탈(脫脫, 톡토)의 총희(寵姬)로 삼게 했다가, 밀직(密直) 김경직(金敬直)에게 명령하여 그 아들의 처로 삼게 했다.
1357년 수사도 상주국 언양백(守司徒上柱國彦陽伯)에 봉해지고 검교시중(檢校侍中)에 이르렀다.