본관은 상산(商山). 자는 구원(久源). 호는 급고재(汲古齋). 상주(尙州) 법물리(法勿里)에서 출생하였으며, 아버지는 한림(翰林) 김수돈(金守敦)이다. 어려서부터 재예가 뛰어나서 문장에 능하였고, 사서육경과 제자백가(諸子百家)를 섭렵하여 명성이 널리 퍼졌다.
성인이 되어서는 학업에 뜻을 굳히고 삼가(三嘉)의 몽계사(夢鷄寺)에 들어가 30년 동안 만여 권의 책을 독파했다. 부모의 권유로 여러 번 향시(鄕試)에 합격했으나 정시(庭試)를 응시하지 않았으며, 뒤에 추천으로 성균관에 들어가 친시(親試)에 장원급제하였다.
그러나 진사시(進士試)를 거치지 않은 이유로 실격이 되어 고향으로 돌아왔다. 조식(曺植)·강익(姜翼)·임훈(林薰) 등의 학자들과 학문을 토론하였으며 뒤에 영상 노수신(盧守愼)의 천거를 받았으나 사양하고 나가지 않았으며, 급고재라는 정사를 지어 문중의 자제들과 이웃의 젊은이들을 교육하였다.
항상 『춘추 春秋』는 의리의 대종(大宗)이요 『주역(周易)』은 천지의 변화를 다한 것이라고 말하고, 마음이란 하늘이 나에게 준 것이며 내가 하늘에서 얻은 것이나 궁달(窮達)을 가지고 천분(天分)을 소홀히 할 수 없다. 천인성명(天人性命)에 대해 주장했다.
「순욱론(荀彧論)」과 「허형론(許衡論)」이 중국에 들어가자 중국의 학자들도 그 논지의 정연함을 감탄하면서 동방에는 아직 이러한 글이 없었다고 창찬했다고 한다. 저서로는 『급고재문집(汲古齋文集)』 6권이 있다. 두릉서원(杜陵書院)에 제향되었다.