본관은 안산(安山). 자는 자수(子修), 호는 모기재(慕箕齋). 김정경(金定卿)의 증손으로, 할아버지는 김개(金漑)이고, 아버지는 교감(校勘) 김맹강(金孟綱)이며, 어머니는 관찰사 강희안(姜希顔)의 딸이다. 김식(金湜)의 문인이다.
1519년(중종 14) 별시 문과에 갑과로 급제하여 전적(典籍)이 되었다. 그 해 기묘사화(己卯士禍)로 유배되는 김식을 전송하다가 처벌을 받자 벼슬을 버리고 집에서 학문에만 열중하였다.
이어서 1521년에 전적으로 신사무옥(辛巳誣獄)에 연루되었으나 겨우 죄를 면한 뒤부터는 정신이상을 가장하고 공적인 일에는 일체 관여하지 않았다.