본관은 연안(延安). 김제남(金悌男)의 후손이다.
집안이 가난하여 주경야독(晝耕夜讀: 주간에는 농사일을 하고 밤에는 학문에 힘씀)을 하면서 부모를 봉양하였다. 천성적인 효자로서 여러가지 일화가 전한다.
한번은 아버지가 병이 들어 먼 시장에서 고기를 사가지고 오는 길에 호랑이를 만났으나 정색을 하고 꾸짖자 물러갔다. 이윽고 어둔 속에서 길을 잃고 헤매다가 하늘을 우러러 슬피 우니 귀화(鬼火: 귀신 불빛) 10여 대가 나타나서 길을 인도하여 집에 이르게 되었으며, 아버지의 병이 이로써 나았다 한다.
또, 겨울에 늙은 어머니가 나물을 먹고자 하니 당귀와 미나리가 뜰에서 돋아났다고도 한다. 아내 홍씨(洪氏) 역시 어질고 효성이 지극하였는데, 집에 불이 나자 화염 속에서 시어머니를 구출해내었다.
또한, 시어머니가 양쪽 눈을 잃고 수십년 병석에 누워 있게 되었으나 부부가 정성을 다하여 봉양하였다. 부모의 상을 당해서는 3년 동안 나물만 먹으며 무덤을 지켰다. 1876년(고종 13) 동몽교관(童蒙敎官)에, 부인은 영인(令人)에 추증, 1882년 집 문앞에 정려문이 세워졌다.