1929년 5월 만주 길림시 우마행호동(牛馬行胡洞) 거리의 국민부(國民府) 사무소에서 항일투쟁의 지도자들이 모인 가운데, 남만주일대의 유일혁명군정부인 국민부의 정규군으로 편성되었다. 이후 국민부를 지지, 육성하기 위해 조직된 조선혁명당의 당군(黨軍)으로 거듭났으며 1938년 9월까지 남만주 일대에서 활발하게 무장투쟁을 전개했다.
친일인사 숙청, 교민 보호, 국내 진입작전 전개에 의한 일제기관 파괴, 일제 관헌 및 악덕 부호 응징을 주요 목표로 하였다. 즉 조선혁명군이 항일무장투쟁뿐만 아니라 독립운동에 비협조적인 지주나 부호도 처벌하는 등 계급투쟁의 활동도 병행했음을 보여준다.
조선혁명당의 중앙당부는 7부 3위원회로 편성되었는데, 군사위원회 밑에 있던 국민부 소속 군조직 조선혁명군(朝鮮革命軍)을 당군(黨軍)으로 개편하였다. 명칭은 조선혁명군을 유지하고 조선혁명당의 통솔 하에 두도록 하였다.
1929년 5월 국민부 중앙집행위원회가 구성된 이후 국민부 산하 정규군으로서 편제가 갖춰졌다. 7월 경 종래 정의부 부대를 바탕으로 참의부와 신민부 부대를 통합하여 재편하였다.
군사위원장 겸 사령관은 이준식[李俊植, 이칭: 이웅(李雄)], 제1중대장 양세봉[梁世奉, 瑞鳳, 호는 벽해(碧海)], 제2중대장 윤환(尹桓), 제3중대장 이태형(李泰馨), 제4중대장 김창헌(金昌憲), 제5중대장 장철호(張喆鎬), 제6중대장 안홍(安鴻), 제7중대장 차용목(車用睦), 제8중대장 김보국(金保國), 중앙호위대장 문시영(文時映) 등이 임명되었는데, 병력은 약 1만여 명이었다고 한다.
그러나 편제와 지휘체제는 일본군과 여러 차례 격전을 치르면서 개편을 거듭하였다. 같은 해 12월 군사위원회 총사령에 이진탁(李辰卓)이 임명되고, 부사령 양세봉, 참모장 이웅을 중심으로 하는 7개 중대가 편성되었고, 1930년 8월 다시 5개 중대로 개편하여 제1중대장 김보안(金輔安, 保安), 제2중대장 양세봉, 제3중대장 이윤환(李允煥), 제4중대장 김문거, 제5중대장 이종락(李鍾洛) 등이 임명되었다.
1920년대 후반부터 만주지역에선 공산주의운동이 확산되면서 조선혁명군 내부에서 좌우익 대립이 심화되었다. 1930년 8월 좌우파가 전면적으로 대립하며 유혈사태를 초래하기까지 하였다. 권력투쟁 끝에 좌파가 축출되어 그 결과 10월 하순 조선혁명당 군사위원장 현익철이 조선혁명군 총사령을 겸임하고 부대를 재정비하였다.
그 뒤 일본군 및 만주군 연합부대와 계속된 전투로 많은 희생자가 발생하여 1932년 초 전면적인 개편을 단행했다. 총사령관에 양세봉, 참모장에 김학규(金學奎)가 임명되었다. 그러나 1934년 9월 일본군과의 전투에서 총사령 양세봉이 전사하자 김호석(金浩石)이 총사령에 임명되었다. 하지만 일본군 대부대의 본격적인 공격으로 세력은 점차 약화되었다.
이에 조선혁명군은 1935년 9월 반만(反滿) 항일군의 지도자 왕봉각(王鳳閣)과 중한항일동맹회(中韓抗日同盟會)를 결성하여 공동항일전선을 형성하여 세력을 만회하고자 했으나 1936년을 고비로 쇠퇴하였다.
1931년 만주사변 이전까지의 초기 조선혁명군 활동은 선민부(鮮民府) 등 일제 주구기관 및 친일파 처단, 국민부 의무금 징수 및 군자금 모집, 독립군 모병, 반공활동 등에 집중되었다.
조선혁명군의 항일무장투쟁은 일본군과의 단독전투와 중국군과의 연합전투를 통해 항일무장투쟁사에 크게 공헌하였다. 특히 1929년 7월유하현(柳河縣) 추가보(鄒家堡) 전투와 1932년 1월양기하(梁基瑕)부대의 혈투 등은 대단하였다. 그리고 1932년 3월에서 7월에 걸친 흥경현(興京縣) 영릉가(永陵街)전투는 정규전을 벌여 일본군을 크게 무찌른 대승첩이었다. 당시 총사령 양세봉 병력 1만여 명은 중국의용군총사령 이춘윤(李春閏)의 병력 2만여 명과 연합전선을 펴서 일본·만주연합군에 크게 승리했다. 3월 초전에서 일본군 30여 명의 사상자를 내었으며, 5월과 7월에는 공군의 지원까지 받으며 일본의 대부대와 영릉가에서 접전하였는데, 당시 일본군에선 100여 명의 사상자가 발생하였다.
조선혁명군은 만주지방에서 독자적 조직을 유지하며 활약한 최후의 민족주의계열 독립군이었다. 특히 한국독립운동사에서 비슷한 사례를 찾아보기 힘들 정도로 10여 년간 고생하며 치열하게 일제와 항전했다는 점에서 높이 평가된다. 조선혁명군의 투쟁은 1910∼1930년대 남만주 독립운동의 총결산이었다. 또한 한중 연합작전을 통해 적지 않은 일·만군을 살상하고 만주 및 식민지 한국의 통치를 교란함으로써 강대한 일본 군경과 만주국 관헌 등의 활동반경을 확대하지 못하게 하였다. 1931년의 만주사변 이후 크게 증강된 일본군의 대부대를 상대로 치열한 전투를 벌였다는 점에서 무장독립투쟁상에서 의의가 크다.