본관은 예안(禮安). 자는 경숙(敬叔). 김신(金新)의 증손으로, 할아버지는 김미손(金尾孫)이며, 아버지는 김효우(金孝友)이다.
1501년(연산군 7) 식년 문과에 삼등과로 급제, 검열 등을 지내고 1507년(중종 2) 예문관봉교로서 정충량(鄭忠樑)·이희증(李希曾) 등과 함께 상소하여 무오사화 때 화를 당한 김종직(金宗直)·김일손(金馹孫) 등의 신원(伸寃)과 유자광(柳子光) 등의 처벌을 주청하였다.
1509년 언양현감으로 시폐칠조(時弊七條)를 개진하였고, 1521년 상주목사를 거쳐 1525년 제주목사가 되어 이진(移鎭)과 점마관(點馬官) 파견의 금지를 주청하였고, 이듬해 장례원판결사(掌隷院判決事)가 되었다. 사림파 성향을 지닌 인물이었기 때문에 기묘사화 이후 여러 차례 대간의 탄핵을 받기도 하였다.