본관은 의성(義城). 자는 영중(瑩仲), 호는 청계(靑溪). 할아버지는 진사 김만근(金萬謹)이고, 아버지는 교위 김예범(金禮範)이며, 어머니는 군수 신명창(申命昌)의 딸이다.
어려서부터 재능이 뛰어나고 뜻이 높아 기묘명유(己卯名儒)들을 찾아 가르침을 배워 견문을 넓히고 학업에 정진하였다. 또한, 음사(淫祠)나 귀신은 자기 몸을 더럽히는 것으로 여기고 이를 멀리하여 무당이 마을에 감히 들어가지 못하였다.
마을 남쪽 산에 염흥방(廉興邦)의 사당이 있었는데, “네가 전조(前朝: 고려)의 간신으로서 죽었어도 남은 죄가 있는 터에 어찌 너의 귀신을 용납하여 백성들을 미혹(迷惑)하게 하랴.” 하고 이를 헐어버렸다.
다섯 아들에게 “사람이 차라리 곧은 도(道)를 지키다 죽을지언정 무도하게 사는 것은 옳지 않으니, 너희들이 군자가 되어 죽는다면 나는 그것을 살아 있는 것으로 여길 것이고, 만약 소인으로 산다면 그것을 죽은 것으로 볼 것이다.”라고 훈계하였다. 뒤에 이조판서에 추증되었으며, 안동의 사빈서원(泗濱書院)에 제향되었다.