본관은 김해(金海). 자는 문극(文極), 호는 경재(敬齋). 아버지는 김윤길(金潤吉)이며, 어머니는 진주강씨로 강성손(姜聖遜)의 딸이다.
1863년(철종 14) 17세 때 향시에 장원이 되었고, 1882년(고종 19) 진사시에 합격하였다. 그러나 벼슬에 뜻을 버리고 오직 학문 연구에 심혈을 기울이며 후진 양성에 전념하였다.
그는 『근사록』과 사서(四書)에 특히 힘을 쏟았으며, 학문의 진리는 평범한 일상생활 속에 있다는 신념을 견지했다. 지(知)와 행(行)의 일치를 주장했으며, 그 기본이 되는 것이 성(誠)이며 그에 대한 노력으로서 경(敬)이 있을 뿐이라고 하였다.
또, 대자연의 섭리를 인간생활에 흡수시켜 읊은 시와 후진의 계몽을 위하여 『양사재기(養士齋記)』·『경재기』 등의 저작을 남겼으며, 서예에도 조예가 깊었다. 저서로는 『경재유고(敬齋遺稿)』 2권 1책이 있다.