본관은 부안(扶安). 호는 매죽당(梅竹堂). 아버지는 현감 김숙손(金淑孫)이며, 정언(正言) 김직손(金直孫)의 조카이다.
사마시에 합격하여 진사가 되었으나, 1519년(중종 14) 기묘사화가 일어나 당대의 명사들이 대거 화를 당하자 과거를 포기하고 향리인 부안으로 돌아가 은거하였다.
성리(性理)를 깊이 탐구하고, 상을 당하자 가례(家禮)에 따라 삼년 여묘(廬墓: 묘 옆에 조그마한 거쳐를 짓고 생활함)를 마쳤으며 더위와 추위에도 의대를 풀지 않는 등 성리학적 예절을 직접 실천하였다.
이로 인하여 대사성 김식(金湜)에 의해 조정에 천거되기도 하였다. 항상 대나무와 매화를 심고 그 고결함을 사랑하였는데, 조정에서는 그 지조를 가상히 여겨 옥배(玉杯)와 매죽(梅竹)을 하사하였다.