김응삼(金應三)은 1910년 평안북도 선천에서 태어났으며, 일찍이 중국으로 망명하였다.
광복군 제3징모처 위원으로 활동하면서 장시성〔江西省〕 상라오〔上饒〕 등지에서 초모(招募) 활동을 전개하였다. 1935년 2월 김구(金九)가 중국 난징〔南京〕 동관두(東關頭)에 혁명공작을 수행하는 데 필요한 군사교육을 본격적으로 실시하기 위하여 중국 측과 교섭하여 중국 중앙군관학교에 입학시키기 전에 예비 교육을 실시할 목적으로 30명의 한인 청년을 모집하여 교양 훈련을 시킬 때 참여하였다. 이때 김춘생(金春生)‧마여룡(馬如龍)‧마일삼(馬一森)‧ 안춘생(安椿生)‧ 이재현(李在賢) 등과 함께 교육 훈련을 받았다.
1940년 9월 17일 대한민국임시정부가 한국광복군을 창설하였을 때 제3징모처 위원 겸 훈련 조장에 임명되어 장시성 진화〔金華〕에서 대적 선전 방송, 정보 수집 및 일본군 포로 심사 등의 업무를 담당하였다. 이때 한국광복군에서 마련한 ‘광복군 임무’(① 우리들의 분산한 역량을 독립군에 집중하여, 전반적 조국 광복 전쟁을 전개한다. ② 중국의 항전에 참가 및 중국 항일군과 연합하여 일본군을 박멸한다. ③ 국내 민중의 무장 반일 운동을 적극적으로 지도한다. ④ 정치 · 경제 · 교육 등에서 균등한 신민주국가를 건설할 만한 무력적 기간을 마련한다. ⑤ 평화와 정의를 지지하는 세계 각 민족 및 인류를 저애하는 사물을 일체 소탕한다.)를 충실하게 전개하는 활동을 하였다.
또한, ‘적구내(敵區內) 동지 동포들에게 고함’이라는 글을 적어 동포들에게 광복군 선전 활동의 취지를 알렸다. ‘적구내 고함’은 “우리는 신성한 단군부터 위대한 자손으로 반만년의 유구한 역사와 찬란한 고급 문화를 향유한 민족의 하나이며, 이민족에게 빼앗긴 국권을 되찾기 위해 혁명의 대시대를 맞이해야 한다. 민족의 승리를 위해 한국광복군으로 모이라.”라는 취지의 글이었다.
1942년 6월, 왕징웨이(汪精衛)가 세운 일본 제국주의 괴뢰국인 화평반공건국(和平反共建國) 군대가 반정 공작을 전개할 당시 저장성〔浙江省〕 전투에서 치열한 공방전 끝에 큰 부상을 입고 후유증으로 사망하였다.
1991년 건국훈장 애국장이 추서되었다.