본관은 안동(安東). 초명은 김영백(金永伯). 전라남도 장성 출신. 김명기(金命基)의 아들이며, 어머니는 탐진최씨(耽津崔氏)로 최춘흠(崔春欽)의 딸이다.
1907년 10월 장성에서 형 김준이(金俊伊)와 함께 거의(擧義)하여 의병 1,000여 명을 규합, 200정의 총으로 무장한 부대의 의병장이 되었다. 휘하에 선봉장·중군장·후군장 등을 두고 장성·광주·고부·순창·증읍·태인 등지에서 활동하였다.
그 뒤 1908년 3월에 정읍군 원곡(圓谷)에서 일본군을 습격하였으며, 9월 흥덕군 방장산(方丈山)에서 일본군 헌병기병 및 순사대와 교전, 수십명을 살해하였다.
또한 10월에는 장성군 북이면에서 수비대 소속 기병과 교전하였으며, 11월 상순에는 북이면 오현(鰲峴)에서 일본헌병과 교전하는 등 많은 활약을 하였다.
1909년 1월 장성군 북이면 상곡리, 북일면 동산리, 흥덕군 세곡리, 일동면 구수교(九水橋), 남면 유점리 등지에서 일본군수비대와 전투, 수명을 살해하기도 하였다. 1909년 12월 일본헌병에게 붙잡혀 교수형을 언도받았다.
1982년에 건국훈장 국민장이 추서되었다.