본관은 안동(安東). 자는 응림(應霖), 호는 우암(寓菴). 할아버지는 김성(金城)이고, 아버지는 안원군(安原君) 김공량(金公亮)이며, 어머니는 이팽수(李彭穗)의 딸이다.
1531년에 진사가 되고, 1539년(중종 34) 별시 문과에 장원으로 급제하여 호당에 뽑혔다. 전라도·경상도의 관찰사 및 개성유수·대사헌을 지냈고, 예조참판에 이르렀다. 1563년 제학으로 있을 때 선계변무사(璿系辨誣使)로 명나라에 가서 사명을 완수하였으나 그곳에서 병들어 죽었다.
1590년(선조 23)그 공이 인정되어 광국공신(光國功臣) 3등으로 화산군(花山君)에 추봉되었다. 이황(李滉)·김인후(金麟厚)·임형수(林亨秀) 등과 교유가 깊었다. 문장이 뛰어났고 초서를 잘 썼다. 저서로는 『우암유집(寓庵遺集)』이 있으며, 시호는 문단(文端)이다.