본관은 영광(靈光), 호는 오남(吾南). 아버지는 김노현(金魯鉉), 어머니는 해남윤씨(海南尹氏) 윤상열(尹商說)의 딸이다. 이항로(李恒老)의 문인으로, 이항로가 죽은 뒤에 다시 임헌회(任憲晦)와 기정진(奇正鎭)의 문인이 되었다.
학문이 성취된 뒤엔 고향인 장흥(長興)과 금릉(金陵, 강진 별호)의 대명동(大明洞)에서 서당을 열고 후진 교육에 일생을 바쳤다. 1877년에 강진군 월각산(月角山) 밑 대명동으로 이주했으며, 1882년에 그의 둘째 아들 김봉식(金鳳植)을 지도(智島)로 보내어 김평묵(金平默)을 찾아가 공부하게 하였다.
또 1883년엔 그의 스승 임헌회의 문집인 『고산문집(鼓山文集)』 간행을 위하여 오랫동안 고창(高敞)에 있었다. 「삼극도설(三極圖說)」·「유석심학부동변(儒釋心學不同辨)」·「일감문답(一鑑問答)」 등 성리학적 논저와 「벽사설(闢邪說)」·「통화변답(通貨辨答)」·「농정신서서조변(農政新書序條辨)」 등 정치적 견해를 담은 논문도 있다.
대체로 명덕주기설(明德主氣說)·성즉리심즉기설(性卽理心卽氣說)·성위심재설(性爲心宰說) 등을 반대하고 명덕은 이(理)가 주(主)이며, 심(心)은 이와 기의 합이며, 심은 몸의 주재자라는 견해를 주장한 것이 그의 성리학적 특색이라 할 수 있다. 저서로는 『오남문집(吾南文集)』이 있다.