국민의 병역의무 이행의 사무를 담당하기 위하여 「병역법」이 제정, 공포됨에 따라 육군본부 직할로 각 시·도에 병사구사령부가 설치되었고, 1962년 10월 개정된 「병역법」에 따라 각 시·도에 병무청이 설치되고 국방부에 예속되었다.
1970년 8월「정부조직법」의 개정에 따라 국방부의 외청이 되고, 지방의 하부조직으로 각 시·도의 기존 병무청을 ‘지방병무청’으로 개칭하게 되었다.
병무청에는 정무직의 차관급 청장과 고위공무원단에 속하는 일반직 공무원의 차장을 두며, 운영지원과(옛 총무과)와 현역입영·모집 및 동원·자원관리업무를 담당하는 입영동원국, 병역판정검사와 조사 등 업무를 담당하는 병역자원국, 사회복무정책·관리 등 업무를 담당하는 사회복무국이 있고, 청장 밑에 대변인(옛 공보관)을 두며, 차장 밑에 각종 계획의 수립 및 종합조정·예산편성·조직관리기능을 수행하는 기획조정관과 소속기관에 대한 감사업무를 수행하는 감사담당관을 두고 있다.
지방병무청은 서울, 부산, 경인, 대구·경북, 강원, 대전·충남, 광주·전남, 충북, 전북, 제주, 경남의 11개 지방병무청이 있고, 경인지방병무청 관할 하에 인천병무지청 및 경기북부병무지청, 강원지방병무청 관할 하에 강원영동병무지청이 있다. 지방병무청에서는 병역자원관리, 각종 병역처분, 징집 및 소집통지서 발행, 병역집행업무를 수행하고 있다.
병무행정조직은 각 지방병무청 산하에 독자적인 하부조직이 없고 구·시·군·읍·면·동장에게 병무행정업무의 일부를 위임, 수행하고 있는데, 이들 관서에서는 병무행정을 전담하는 병무직원을 두고 호적 및 주민등록에 의한 병역자원 발췌, 징소집통지서의 전달 등 지방병무청의 보조기능을 수행하고 있다.