본관은 경주(慶州). 자는 성시(聖始), 호는 취락당(冣樂堂) 또는 백졸(百拙). 아버지는 제용감정(濟用監正) 김취연(金就練)이며, 어머니는 함양박씨(咸陽朴氏)로 직장(直長) 박원영(朴元英)의 딸이다. 백부(伯父)인 정약장군(定略將軍) 김취선(金就善)에게로 입양되었다.
고경명(高敬命)에게서 수학하였으며, 나이 10세가 되자 성리학(性理學)에 심취하여 『이정전서(二程全書)』·『주자대전(朱子大典)』 등의 오의를 궁구함에 진력하였다. 아버지의 권유로써 사마시에 합격하였고, 이정구(李廷龜)·김상현(金尙顯)·신흠(申欽)·권필(權鞸) 등의 추숭을 받아서 그들과 수창한 시폭(詩幅)이 한 책을 이루었었다.
당시 제현(諸賢)들이 벼슬길로 나갈 것을 권유하였으나 그는 부모봉양을 빙자하여 출사(出仕)하지 아니하고 은둔생활을 계속하였으며, 재화(財貨)와 여색(女色)을 항시 경계함을 신조로 삼었었다. 저서로는 『백졸문집』이 있다.