본관은 부안(扶安). 자는 응경(應卿). 김회윤(金悔允)의 증손으로, 할아버지는 병조정랑 김직손(金直孫)이고, 아버지는 수안군수(遂安郡守) 김석홍(金錫弘)이며, 어머니는 충순위(忠順衛) 최계원(崔繼元)의 딸이다.
1525년(중종 20) 식년 문과에 을과로 급제하고, 승문원에 들어가 저작(著作)·박사를 거쳐 형조·공조의 좌랑이 되었다.
이어 호조·예조·형조의 정랑을 거쳐 1538년 지평(持平)이 되었다. 이듬해 장령(掌令)이 되었고, 집의(執義)·문학·필선(弼善) 등을 거쳐 1544년 중종이 죽자 국장도감(國葬都監)을 설치하고 사재감정(司宰監正) 김서성(金瑞星)을 낭관으로 삼았다. 어려서부터 학문에 부지런하였으며, 기량이 원대하여 명리를 탐내지 않아 청렴결백한 선비로 널리 알려졌다.