김광서(金光瑞)는 1888년 함경남도 북청에서 출생하였고, 1895년 경기도 광주군으로 이주하였다. 아명은 김현충(金顯忠)이며, 이명은 김경천(金擎天), 김응천(金應天)이다. 아버지 김정우(金鼎禹)는 윤치호의 아버지 윤웅렬과 교분이 있었고, 그를 통하여 일본에 관한 각종 정보를 얻었다. 1895년에 일본으로 유학하여 총탄 제조법 등을 공부하여 귀국한 후 대한제국에서 군기창장(軍器廠長)을 지냈다. 김광서는 일본인이 경영하는 경성학당에 입학하여 신학문을 배웠고, 1904년 일본 유학생으로 선발되어 도쿄의 육군유년학교와 일본 육군사관학교(1908~1910)에서 수학하였다. 원래 이름은 경천(擎天)이었으나, 이때 광서로 개명하였다.
1911년 일본육군 기병에 입대하여 근무하였으며, 1916년 도쿄의 한국인 장교들 모임인 전의회(全誼會) 회장이 되었다. 1919년에 2월에 병가를 얻어 귀국하였고, 6월에 지대형(지청천)과 만주 유하현(柳河縣)으로 건너가 신흥무관학교 교관으로 활동하면서 독립군 양성에 힘썼다. 만주 망명 후 ‘경천’이라는 이름도 사용하여 김경천 · 김응천 · 김광서라는 여러 이름으로 불렸다.
1920년 무기 구입 문제로 러시아로 이동하였을 때 이항사변(尼港事變)이 발생하자 노령에 있는 한국인 청년들을 모아 의용군을 만들어 한인촌을 위협하는 마적을 토벌하였다. 김광서는 이를 통해 한인 독립운동의 물적 · 인적 자원을 확보하고자 하였다. 김광서는 노령의 대한국민의회에서 상하이 임정에도 참여하지 않고 연해주 한일 빨치산의 통합 부대를 맡았다.
그는 러시아 적군(赤軍)에 의해 해산 명령을 받을 때까지 4년간 무장 독립운동을 하였다. 1926년 블라디보스토크에서 윤해(尹海) · 김규식(金奎植) 등과 민족당주비회(民族黨籌備會)를 조직하였고, 극동고려사범학교에서 군사학과 일본어를 가르쳤으며, 한소 국경지대에서 국방경비대 장교로 일하였다. 1936년까지 간첩죄로 체포되어 소련 형법에 따라 3년 형을 선고받고 복역하였으며, 1939년 석방 후 가족을 찾아 카자흐공화국으로 이주하여 집단농장에서 일하였다. 그 뒤 소련 측 한인에 의해 체포되어 복역하였다. 1941년 시베리아로 이감되었고, 1942년 심장질환으로 사망하였다.
1998년 건국훈장 대통령장이 추서되었다.