본관은 현풍(玄風). 가명은 김광삼(金光三)·김재만(金在萬). 자는 경(敬). 충청북도 청주 출신. 곽지엽(郭芝燁)의 아들이다.
서울에서 경신학교를 졸업하고 귀향하여 청주 청남학교 교사로 있었다. 1909년 청소년들로 조직된 대동청년당(大東靑年黨) 당원으로 지하공작을 진행하였다.
1919년 3·1독립만세운동이 일어나자 시위투쟁에 참가한 뒤, 이 해 7월 황상규(黃尙奎)·윤소룡(尹小龍)·김기득(金奇得) 등과 만주 길림성 동녕현(東寧縣) 소유분(小綏芬)으로 갔다.
이 해 11월 9일 소유분에서 김원봉(金元鳳)·황상규·한봉근(韓鳳根)·신철휴(申喆休)·이종암(李鍾巖)·이성우(李成宇)·윤소룡·서상락(徐相洛)·한봉인(韓鳳仁)·배중선(裵重宣)·이낙준(李洛駿)·강세우(姜世宇) 등 13명으로 결사조직인 의열단을 만들었다.
먼저 실력 투쟁과 직접 행동을 통해 조국독립을 쟁취하자는 기본방침 아래, 전국에 걸친 일제의 기관을 파괴하고 교란·암살 등을 대대적으로 실천하기로 정하였다. 대상은 조선총독부·동양척식회사, 총독부기관신문사인 경성일보사·매일신보사와 각지 경찰서 등으로 삼았다.
이어 상해로 가서 1920년 2월에 폭탄 3개와 이에 사용할 약품을 사서 경상남도 밀양청년단장 김병환(金鉼煥)에게 보냈다.
이 해 6월 서울로 와서 동지들과 날마다 처소를 바꾸면서 조선총독부 기관을 폭파하고자 정황을 밀탐하던 중 경기도 경찰부에 동지 6명과 함께 체포되고 폭발물도 발견되어 실패하였다.
경상남도 경찰부로 이송되었다가 이듬해 경성지방법원에서 징역 8년을 언도받고, 경성감옥에서 복역하다 1927년 1월 22일 감형되어 출옥하였다. 1930년 다시 국외로 망명, 만주·상해·노령 등지에서 독립운동을 하다 광복이 되자 귀국하였다.
1963년 건국훈장 독립장이 추서되었다.