본관은 광산(光山). 자는 여정(汝精), 호는 갈봉(葛峯). 세거지는 안동(安東)이다. 성균관 생원 김언기(金彦璣)의 맏아들로서 어머니는 영양남씨(英陽南氏) 남세용(南世容)의 딸이다. 첫 돌 전에 어머니를 여의고 조모 안씨(安氏)에게서 자랐으며, 아버지에게서 글을 배웠다.
1602년(선조 35) 생진양시(生進兩試)에 급제하였으나 일생 동안 벼슬하지 않고 예안(禮安)에 살면서 학문과 시작(詩作)에 전념하였다. 임진왜란 때는 안동에 주둔한 명군(明軍)의 군량미 보급에 힘썼고, 경리(經理) 양호(楊鎬)의 부하 장수들과 교유하여 문장과 덕행으로 그들로부터 추앙받았다.
병자호란 때 삼전도(三田渡)의 치욕을 듣고 비분강개, 병을 얻어 죽었다. 그의 「청량산유록(淸凉山遊錄)」은 임진왜란 이전 지방 사림(士林)의 생활 모습을 그린 작품이고, 한글로 쓴 가사(歌辭) 「지수정가(止水亭歌)」와 64수의 한글 시조는 한국 시가사(詩歌史)에서 주목할만한 작품으로 꼽힌다. 저서로는 『갈봉유고(葛峯遺稿)』가 있다.