본관은 강릉(江陵). 자는 문길(文吉), 호는 동강(東岡) 또는 장주(漳洲). 할아버지는 김종윤(金宗胤)이고, 아버지는 사예(司藝) 김충정(金忠貞)이며, 어머니는 여흥민씨(驪興閔氏)로 민경(閔粳)의 딸이다.
1546년(명종 1) 진사가 되고, 1549년 식년 문과에 을과로 급제하고, 승문원의 천거로 사국(史局)에 들어갔다.
봉교(奉敎)·예조좌랑·정언(正言)·헌납(獻納)·충청도어사·부수찬(副修撰)·전적(典籍)을 거쳐 지평이 되고, 1559년 정언으로 있을 때 당시의 이조판서 윤개(尹漑)가 불공평한 인사행정을 하자, 이를 비난한 김규(金虯)가 모욕죄로 몰려 죽게 된 것을 구하였다가 이듬해 이로 인해 탄핵을 받고 파직되었다.
1561년 첨정을 거쳐 강릉부사로 나갔다가, 1565년 검상(檢詳)·사인(舍人)·장령(掌令)·집의(執義)·교리(校理)·응교(應敎)·사복시정(司僕寺正) 등을 지냈다. 1567년 동부승지·좌승지·강원도관찰사·대사성·호조참의에 올랐다.
1572년(선조 5) 천추사로 명나라에 다녀왔고, 이어 대사간·병조참의·전주부윤·부제학·대사헌·호조참판·형조참판을 거쳐 예조판서에 이르렀다. 역학에 자득(自得: 자신이 스스로 지식이나 인식을 얻음)의 묘를 얻었고, 경학에 전력하여 모든 의론이 다 거기에서 유출되었으며, 기품이 청아하고 효우(孝友)가 매우 뛰어났다. 시호는 숙간(肅簡)이다.