행정에 주력하던 대한국민회는 1920년 봄 안무(安武)를 사령으로 하는 군대를 조직하였다. 본부는 춘흥촌(春興村) 인근에 있었다. 제1중대장에 조권식(曺權植), 제2중대장에 임병극(林炳極)이었고, 군무위원에 마룡하(馬龍河), 마천룡(馬天龍), 이원(李園), 최기학(崔起鶴) 등이었다.
임시정부의 지휘를 적극 받아들인 대한국민회는 동만주 지역 독립군 부대의 통일에도 적극적이었다. 임시정부의 지시에 따라 1920년 3월에 열린 첫 통합회의에도 참가하였고, 5월 봉오동에서 열린 통합회의에도 참가하였다. 회의에서는 대한국민회가 행정기관으로서의 역할을 수행하며, 군사기관으로는 대한북로독군부(大韓北路督軍府)를 결성하기로 하였다. 대한국민회가 대한북로독군부를 ‘보조’하여 모든 군무를 주비(籌備)하기로 결정함으로써 양자의 관계도 정립하였다. 대한국민회군도 참여한 대한북로독군부는 사령관 안무의 지휘 아래 4개 부대를 편성하였다. 각 부대의 군인은 1백 명씩이었으며, 제1대장 최문무(崔文武), 제2대장 홍범도(洪範圖), 제3대장 강승범, 제4대장 조권식이 선임되었다.
6월 4일부터 7일까지 봉오동전투가 벌어졌고, 이때 추격하는 일본군에 대응하는 퇴각 문제를 놓고 홍범도와 최진동이 갈등하였다. 이에 대한북로독군부 내에서 최진동의 군무도독부가 독자적으로 움직였다. 8월 초까지도 갈등이 해결되지 않은 가운데, 대한국민회는 홍범도의 대한독립군과 보조를 맞추며 김좌진의 대한군정서, 최진동의 군무도독부와 경쟁하였다. 8월 10일 연합회의에서 최진동의 군무도독부가 대한북로독군부에서 완전히 탈퇴하였다. 이에 따라 대한국민회는 안무를 사령장관으로 하는 대한국민군사령부라는 독자적인 군대를 조직하였다. 일본 경찰 자료에 따르면, 1920년 8월 중순 대한국민회군의 병력은 450명, 군총 600정, 탄약 7만발, 권총 160정, 수류탄 120개를 갖고 있었다.