본관은 김해(金海). 자는 인경(仁卿). 김진손(金震孫)의 증손으로, 할아버지는 김영정(金永貞)이고, 아버지는 김세균(金世鈞)이며, 어머니는 강이행(姜利行)의 딸이다.
1513년(중종 8) 사마시에 합격하여 진사가 되고, 이어 1519년(중종 14) 진사로서 식년 문과에 병과로 급제하였다.
1521년(중종 16) 세자시강원설서(世子侍講院說書)에 이어 지평(持平)을 거쳐, 1529년 경기도재상어사(京畿道災傷御史)로 파견되었다. 1536년 충청도 암행어사로 다녀와 장령(掌令)·동부승지가 되었다.
이해 부인의 투기로 첩을 독살한 사건이 있어 체직(遞職: 관직이 타인으로 교체됨)되었으나, 이듬해 예조참의가 되었다. 1543년 진하사로 북경에 다녀와 충청도관찰사에 제수되었으나, 나주목사로 있을 때 직사(職事)에 힘쓰지 않았다는 사간원의 탄핵을 받기도 하였다.
이듬해 예조참의가 되고, 명종이 즉위하자 충청도관찰사로 파견되었다가 돌아와, 장례원판결사를 거쳐 1546년(명종 1) 우승지·경연참찬관·도승지로 지방의 자제를 훈도할 방법을 진언하여 「외방학교신명절목(外方學校申明節目)」이 마련되자 이를 전국에 권장하기에 이르렀다.
이어 형조참판이 되고, 이듬해 다시 충청감사가 되어 여러 읍의 수재(水災)를 해결하는 데 노력하였다. 1548년 병조참판을 거쳐 이듬해 관상감제조가 되었다. 1549년 온성(穩城)에서 야인들이 노략질하는 일이 발생하자, 함경도 비변대책을 건의하기도 하였다.