본관은 김해(金海). 자는 광원(光元), 호는 매하(梅下). 전라북도(현, 전북특별자치도) 익산 출신. 김현교(金顯敎)의 아들이다.
1866년 병인양요를 당하여 아직 약관의 나이로 토적의거격문(討賊義擧檄文)을 지어 상소하였다.
성균관박사(成均館博士)가 되어 문명을 떨치다가, 1905년 11월 일제가 무력으로 위협하여 을사조약을 강제 체결하고 국권을 박탈하자 사임하고 낙향하여 청장년들에게 훈육을 통하여 항일독립정신을 고취하였다.
1910년 8월 일제가 한국을 병탄한 뒤 헌병주재소장을 통하여 김근배를 회유하기 위한 은사금(恩賜金)을 보내자 온갖 위협에도 불구하고 이를 거절하였으며, 앞으로 수없는 곤욕이 있을 것을 예견하여 죽음으로써 충절을 지키겠다는 유서를 남기고 우물에 투신, 순절하였다.
사당으로는 아들 김종호(金種昊)가 1931년 건립한 매곡사(梅谷祠)가 있다. 1963년 대통령표창, 1980년 건국포장, 1990년 애국장이 추서되었다.