대한제국 군대가 일본에 의해 강제 해산된 후 계몽운동(啓蒙運動)에 적극 나섰다. 신민회에 가입하였고 청년학우회에서도 활동하였다. 대한협회와 기호흥학회의 홍성지회를 설립하는 활동도 전개하였다. 자신의 집에는 호명학교를 세워 운영하였다.
대한제국이 멸망한 후 북간도에 독립군 양성학교를 설립하기 위한 군자금 모금 활동에 나섰다. 경성(지금의 서울특별시)에 활동 거점으로서 이창양행이라는 상점을 열었다. 이듬해 1월부터 직접 군자금 모집에 나섰다가 체포되어 2년 6개월간 옥고를 치르고 1913년에 출옥하였다.
1915년 대한광복회 창설에 참여하여 군자금 모집에 나섰다가 1917년 3월에 체포되었으나 면소(免訴) 판정을 받고 풀려났다. 이후 만주로 건너가 1919년 3 · 1운동이 일어나자 만주에서 독립운동가 38명과 함께 「 대한독립선언서」를 발표하였다.
3 · 1운동 직후에는 대종교에서 창설한 대한정의단의 군사 책임자로 활동하였다. 그해 10월 대한정의단과 대한군정회를 통합하여 대한군정부를 조직하고 사령부의 사령관을 맡았다. 대한민국임시정부의 요구에 따라 대한군정부의 이름은 대한군정서로 변경되었다.
대한군정서는 당시 서간도에 서로군정서가 있었으므로 북로군정서라는 이칭으로도 더 많이 불렸다. 북로군정서는 대종교로부터 군자금을 조달받아 무기를 제대로 갖춘 부대로서, 사관연성소에서 철저한 군사훈련을 받은 연성대가 있었다.
1920년 6월 봉오동전투에서 독립군에게 패한 일본은 만주군벌 장쭤린〔張作霖〕에게 압력을 가하여 일본군이 직접 독립군을 토벌하려는 작전을 세웠다. 이에 지린성〔吉林省〕의 옌지현〔延吉縣〕 · 훈춘현〔琿春縣〕 · 왕칭현〔汪清縣〕 · 허룽현〔和龍縣〕 등에 있던 독립군 부대들은 중국군과 밀약을 맺고 1920년 8월 하순부터 삼림 지대로 근거지를 이동하였다.
북로군정서도 이동을 시작하여 1920년 10월 12~13일 삼도구의 청산리 부근에 도착하였다. 마침내 10월 20일 일본군 아즈마지대〔東正彥支隊〕는 북로군정서와 홍범도의 연합부대를 포위하기 위해 출동하였다. 다음날 북로군정서를 이끌고 일본군 선발대 야마다〔山田〕 보병연대가 청산리 골짜기에 진입하자 백운평 부근에서 잠복하고 있다가 공격을 감행하였다.
또한 이도구 갑산촌으로 철수하여 주둔하다가 일본군 1개 기병대가 천수평 마을에 주둔하고 있다는 정보를 듣고 22일 새벽 5시 30분경 기습 공격하였다. 이어 어랑촌 서남단 874고지를 선점하자 일본군이 고지를 향해 공격을 시작하였다.
이에 유리한 지형을 이용해 일본군을 내려다보면서 총을 쏘자 하루 종일 공격을 퍼붓던 일본군이 퇴각하였다. 어랑촌전투에서 승리한 다음날인 10월 23일부터는 소부대를 편성해서 서북방으로 이동하면서 소규모 전투를 벌였다.
10월 29일경 북로군정서를 이끌고 안투현 황구령촌에 도착하여 다른 부대들과 합류하였다가 그해 12월에 다시 북방으로 이동하여 밀산에 도착하였다. 여기서 다른 독립부대들과 함께 흑룡강을 건너 러시아 땅인 이만에 도착하였다. 이곳에서 독립군의 통합과 무기 공급을 받아 대작전을 감행할 계획이었다.
1921년 3월 이만에서 북로군정서 · 대한독립군 · 대한국민회군 · 의군부 · 군무도독부 · 혈성단 등 만주에서 건너온 독립군 부대들과 청룡대 · 사할린부대(박일리아 부대) · 이만부대(박그레고리 부대) 등을 통합하여 대한의용군총사령부를 조직하고 부총재 자리에 올랐다.
그런데 대한의용군총사령부가 작전을 전개하기 전에 코민테른 동양비서부는 1921년 3월 임시고려혁명군정회의를 조직하고 대한의용군총사령부를 그 산하 군대로 개편하려고 하였다. 이때 러시아군의 독립군 지휘를 거부하고 다시 만주로 건너왔다.
1925년 3월 닝안현〔寧安縣〕에서 종전의 북로군정서와 대한독립단 간부들과 함께 신민부를 조직하고 군사부위원장 겸 총사령관을 맡아 성동사관학교를 설립하였다. 일본은 만주 군벌과 미쓰야협정을 체결하고, 1928년 1월 일본 경찰과 중국군 1개 중대를 파견하여 신민부 본부를 습격하였다. 이후 타격을 입었던 신민부를 재건하여 직접 중앙집행위원장 겸 군사부위원장을 맡았다.
신민부는 1928년 2월 닝안현에서 개최된 민족유일당운동에 참가하였다. 이어서 그해 12월에는 남만주의 참의부 간부들과 함께 혁신의회를 조직하였다. 1929년 봄 비밀결사인 생육사(生育社)를 조직하고 여름에는 무정부주의자들까지 포섭하여 한족총연합회를 창립하였다.
한족총연합회의 주석으로서 농촌 자치를 주장하며 가을에는 산시참에 정미소를 설치 운영하기도 하였다. 또한 한인의 중등교육을 위한 북만중학의 설립을 추진하였다. 1930년 1월 산시참 정미소에서 고려공산당 산하 재중공산청년동맹에서 파견한 박상실이 쏜 총에 맞아 숨을 거두었다.
1962년 건국훈장 대한민국장이 추서(追敍)되었다.