국민의 병역의무 이행의 사무를 담당하기 위하여 「병역법」이 제정, 공포됨에 따라 육군본부 직할로 각 시 · 도에 병사구사령부가 설치되었고, 1962년 10월 개정된 「병역법」에 따라 각 시 · 도에 병무청이 설치되고 국방부에 예속되었다.
1970년 8월「정부조직법」의 개정에 따라 국방부의 외청이 되고, 지방의 하부조직으로 각 시 · 도의 기존 병무청을 ‘지방병무청’으로 개칭하게 되었다.
병무청에는 정무직의 차관급 청장과 고위공무원단에 속하는 일반직 공무원의 차장을 두며, 운영지원과(옛 총무과)와 현역입영 · 모집 및 동원 · 자원관리업무를 담당하는 입영동원국, 병역판정검사와 조사 등 업무를 담당하는 병역자원국, 사회복무정책 · 관리 등 업무를 담당하는 사회복무국이 있고, 청장 밑에 대변인(옛 공보관)을 두며, 차장 밑에 각종 계획의 수립 및 종합조정 · 예산편성 · 조직관리기능을 수행하는 기획조정관과 소속기관에 대한 감사업무를 수행하는 감사담당관을 두고 있다.
지방병무청은 서울, 부산, 경인, 대구 · 경북, 강원, 대전 · 충남, 광주 · 전남, 충북, 전북, 제주, 경남의 11개 지방병무청이 있고, 경인지방병무청 관할 하에 인천병무지청 및 경기북부병무지청, 강원지방병무청 관할 하에 강원영동병무지청이 있다. 지방병무청에서는 병역자원관리, 각종 병역처분, 징집 및 소집통지서 발행, 병역집행업무를 수행하고 있다.
병무행정조직은 각 지방병무청 산하에 독자적인 하부조직이 없고 구 · 시 · 군 · 읍 · 면 · 동장에게 병무행정업무의 일부를 위임, 수행하고 있는데, 이들 관서에서는 병무행정을 전담하는 병무직원을 두고 호적 및 주민등록에 의한 병역자원 발췌, 징소집통지서의 전달 등 지방병무청의 보조기능을 수행하고 있다.