본관은 청풍(淸風). 자는 유초(有初). 호조판서 김길통(金吉通)의 증손으로, 할아버지는 관찰사 김순명(金順命)이고, 아버지는 김세영(金世英)이며, 어머니는 유백손(柳伯孫)의 딸이다.
1519년(중종 14) 기묘사화가 일어났을 때, 성균관 유생으로 조광조(趙光祖) 등의 신원운동을 벌여 소두(疏頭: 상소의 우두머리)로 의금부에 수금되었다가 곧 석방되었다. 1525년 식년 문과에 병과로 급제하였다. 1533년 지평(持平)에 임명되었으나, 탄핵을 받아 파직되고 또다시 복직되기를 여러 번 하였다.
그 뒤 부응교(副應敎)·장령(掌令)·응교 등 주로 삼사의 언관직을 지내다가, 1537년 형조참의를 거쳐 이듬해 부제학(副提學)이 되어, 외척들의 궁궐출입을 엄격히 할 것, 절검(節儉: 검소함과 절약)을 숭상할 것, 대신을 중히 여길 것, 백성들의 고통을 살필 것, 공평한 도리를 행할 것, 염치를 기를 것 등을 상소하였다. 이어 호조참의를 거쳐 외직으로 나가 경기도·황해도관찰사를 역임하였으며, 1541년 동부승지로 정시 문과에 장원을 차지하였다.
1546년 공조참의로 윤원로(尹元老)를 탄핵하였으며, 같은 해 죽었다. 천문에도 밝아 관상감(觀象監)의 일에 관여하기도 하였다.