함경북도 명천 출신이다.
중국 북간도 혼춘(琿春)을 근거로 활동하였다. 1909년에 유백초, 양하구, 김철수와 함께 기독교 계통의 동창학교를 설립하고 교장에 취임하였다. 1916년 12월에 동창학교에는 교장 김남극과 교사 2명이 학생 28명을 가르쳤는데, 1917년 1월에 김남극은 이동휘(李東輝, 1873∼1935), 양하구 등과 함께 북일학교(北一學校)를 창립하면서 동창학교 교사와 학생을 데리고 와서 부교장을 맡았다. 그 뒤 학생 40여 명을 데리고 대황구촌(大荒沟村)에서 서쪽으로 1㎞ 떨어진 산기슭에 목재로 8칸의 교사(校舍)를 짓고 교실 3개를 마련하였다. 김남극은 북일학교의 행정 사무를 도맡았는데, 1919년 4월에 교장 양하구가 일본 당국에 체포된 뒤에는 오영선(吳永善, 1886∼1939)이 제2대 교장을 맡았지만, 실질적으로 교장 역할을 수행하기도 하였다. 1920년 10월 17일 경신참변(庚申慘變) 당시 일본군에 의해 학살되었다.
1991년에 대한민국 건국훈장 애국장이 추서되었다.