중국에서 독립운동을 전개하다가 해방과 함께 귀국한 오광선(吳光鮮)은 광복군 국내지대를 편성하기 위해 1945년 10월 29일 종로도서관 회의실에서 회의를 열고 출옥동지회, 국군준비대, 사관학교기성회, 국민회, 3·1동지회, 건국청년단, 대한의용대 등 7개 단체를 통합하기로 결정했다. 중경의 광복군 총사령부와는 연락을 취할 수 없어 광복군 국내지대라는 명칭을 사용할 수 없었기 때문에 임시로 대한국군준비위원회라는 명칭을 사용하였다.
조직은 대한국군준비위원회와 대한국군총사령부로 이루어졌다. 대한국군준비위원회는 위원장에 유동열(柳東說), 부위원장에 전성호(全盛鎬)와 조각산(趙覺山), 비서장에 김의연(金義演)으로 구성되었고, 대한국군총사령부는 총사령에 오광선, 참모부장 김승학(金承學), 참모차장 김상겸(金相謙), 헌무부장 장두관(張斗爟), 군수부장 최관용(崔寬用), 군기부장 김기동(金基東), 교통부장 김해강(金海崗), 경비부장 이기환(李箕煥) 으로 구성되었다. 본부는 총독부 중추원 건물에 두었다.
오광선은 임시정부와 광복군의 귀국이 지연되자 직접 중국으로 건너가 이청천으로부터 국내지대로 개칭하라는 허가를 받고, 대한국군준비위원회를 광복군 국내지대로 개칭하였다. 이후 조직 확대에 주력하여 12월부터 모병활동을 전개했다.
광복군 지원자격은 일본군 지원병, 혹은 학도병 경험이 있거나 국졸 이상의 학력을 가진 자로 하였다. 국내지대는 서울에 1개 대대를 편성한 뒤 대구, 부산, 광주, 대전, 개성, 인천에 순차적으로 1개 대대씩 창설하여 군사훈련을 실시하였다. 광복군 국내지대의 1개 대대는 약 600여명으로 구성되었다.
미군정이 사설군사단체의 해산을 지시하자 1946년 3월 1일 해산하였다.