본관은 광산(光山). 자는 지숙(止叔), 호는 북애(北厓). 예안(禮安)의 오천촌(烏川村)에서 태어났다. 아버지는 병사 김부인(金富仁)이며, 어머니는 영천이씨로 이현보(李賢輔)의 딸이다. 이황의 문인이다.
1602년 유일(遺逸)로 천거되어 순릉참봉(順陵參奉)이 되었다. 천성이 지극히 효성스러워 부모의 상에 모두 3년간씩 여묘(廬墓)를 살았다. 임진왜란 때에는 그의 종제(從弟) 김해(金垓)와 함께 고을 사람들을 모아 의병을 일으키고, 정제장 겸 소모사(整齊將兼召募事)가 되어 많은 군량을 모았다.
또, 경주의 집경전(集慶殿)에 있던 태조의 어진(御眞)이 예안의 백동서당(柏洞書堂)에 이안(移安)되었을 때, 임시로 수호하는 임무를 맡았다. 1597년 정유재란 때에는 안동의 27의사와 함께 화왕산성(火旺山城)에 들어가 목숨을 다하여 싸워 공을 세웠다.
1598년 도산서원의 산장(山長)이 되어 『퇴계전서(退溪全書)』의 간행에 힘을 쏟아 그 일을 끝냈다. 1602년 순릉참봉에 제수되었으나 곧 사임하고, 고향에 돌아와 이황이 남긴 학문을 강론하면서 후진양성에 전념하였다. 또한, 고을의 풍속교화에도 힘써 『여씨향약』을 본떠 향규를 만들어 향인들을 교도하였다.
『중용』을 깊이 연구하였으며, 이기(理氣)에 대해서도 깊은 식견이 있었다. 사후에 임진왜란 때의 선무원종공(宣武原從功)으로 사헌부감찰에 추증되었다. 저서에 『북애문집(北厓文集)』 4권이 있다.