계통상으로는 도의 아래, 읍 또는 면의 위에 해당한다. 역사적으로는 우리 지방행정구역 중 가장 오랜 지방행정단위로, 고구려시대에는 홀(忽) · 파의(巴衣) · 내노(內奴) · 세홀차(世忽次) · 군 · 현, 신라시대에는 성(城) · 촌(村) · 군 · 현, 고려시대에는 목 · 군 · 현, 조선시대에는 목 · 부 · 군 · 현 등을 군의 전신으로 볼 수 있다.
즉, 통일신라시대에 구주제(九州制)와 군현제가 완비되었는데, 이때에 전국을 9주로 나누고 이를 다시 117군으로 나누어, 작은 군은 1개 현, 큰 군은 4, 5개 현으로 관할토록 하였고, 일부 현은 특수현으로 주에 직속하도록 하였다.
고려시대에는 5도양계(五道兩界)의 하부 행정구역으로 경(京) · 도호부 · 목과 더불어 군 · 현이 설치되어 있었다. 이 시대의 군 · 현에는 영군현과 속군현의 구별이 있어, 속군현은 영군현에 예속되거나 경 · 도호부 · 목에 직속되어 있었다. 조선시대에는 8도 밑에 부 · 대도호부 · 목 · 도호부 · 군 · 현이 병렬적으로 설치되어 있어, 오늘날의 군에 해당하는 구역의 명칭이 다양하였다. 그러나 갑오경장 이후 도제(道制)와 아울러 이러한 다양한 명칭의 행정구역이 부와 군으로 구분, 통칭되었다.
부 · 목 · 군 · 현이 군으로 통칭된 것은 1906년이다. 당시는 1목 12부 334군이고, 그 면적은 현재의 군보다 약 3분의 1 정도에 지나지 않았다. 민족항일기인 1914년에 부제(府制)의 실시와 함께 행정구역 대개편으로 군구역의 대대적인 개편이 단행되어, 1개 군의 평균면적이 약 160㎢, 호구 수는 약 1만 호를 기준으로, 전국의 군의 수를 317군에서 220군으로 대폭 조정하였다.
이때 편성된 군의 구역이 대체로 지금까지 유지되고 있다고 볼 수 있다. 그런데 역사적으로 이러한 군은 국가의 통치를 지역적으로 수행하기 위해 획정된 순수한 국가의 지방행정구획이었다. 민족항일기에 도제 · 부제 · 읍면제를 실시할 때에도 군에 대하여는 자치적 기능을 인정하지 않았다. 정부수립 이후 1949년의 <지방자치법> 시행에 있어서도 종래의 제도를 그대로 계승하여, 군을 도의 관할 아래에 두어 국가의 지방행정구획과 자치단체인 도와 읍의 중간위치의 행정구역으로만 인정하였다.
이러한 군이 1961년 <지방자치에 관한 임시조치법>이 시행되면서, 읍 · 면 자치제가 폐지되고 최초로 법인격과 아울러 기초적 지방자치단체로서의 지위를 갖게 되었다. 군의 행정사무를 처리하는 곳이 군청이다. 종래의 읍 · 면 대신에 기초적 지방자치단체로서의 지위를 갖게 되고 지방자치제, 즉 군자치제가 시작되었다.
군은 광역시 또는 도의 관할구역안에 둔다. 자치구는 특별시 · 광역시의 관할구역 안에 둔다. 시 · 도는 정부직할하에 둔다고 명문으로 규정하였으므로 정부와 시 · 도 사이에 별도의 기관을 둘 수 없으나 시 · 도와 시 · 군 사이에는 그러한 규정이 없어 이론적으로는 별도의 기관을 둘 수 있다고 볼 수 있다. 1949년 <지방자치법>에 의한 지방자치는 시 · 읍 · 면을 도의 관할하에 둔다고 규정하였으나 도와 읍 · 면 사이에 군이라는 국가행정기관을 두어 행정업무의 능률성을 도모한 바도 있었다. 현재는 중간기관의 설치가능성은 없다.
이는 군이 지방단체가 됨에 따라 도와 군사이에 중간행정기관을 둘 현실적인 필요성이 없기 때문이다. 그리고 현재 일부 도에서 두고 있는 출장소는 도의 출장소일뿐 도와 시 · 군 사이의 별도 행정조직이라고 할 수 없다.
각급 지방자치 단체는 그 사무를 지역적으로 구분하여 효율적으로 처리하기 위한 하부조직이 필요하다. 이에 특별시 · 광역시가 아닌 인구 50만 명 이상의 시에는 자치구가 아닌 구를 둘 수 있도록 하고 군에는 읍 · 면을, 시와 구(자치구 포함)에는 동을, 읍 · 면에는 이(理)를 두되 통합시에 있어서는 도시형태를 갖춘 지역에서는 동을, 그 밖의 지역에는 읍 · 면을 두도록 하고 있다.
통합시 자치구가 아닌 구를 두는 경우에는 구에 읍 · 면 · 동을 둘 수 있도록 하고 있다. 읍 · 면의 이도 하부 행정조직으로 규정되어 있으나 현실적으로는 상근직원을 배치하지 않고 이가 독립된 행정기관으로의 기능을 하지 못하고 있다.
1963년 <지방공무원법>제정 당시의 제2조 제2항 제5호는 이장, 이의 직원을 별정직지방공무원으로 규정하고 있었으나 1981년 개정법률에 의하여 이러한 규정도 삭제되었고 현재 이는 도시지역의 통 · 반과 같이 단순한 일정지역을 표시하는 행정구역의 명칭 또는 그 지역주민의 사실상의 조직을 표시하는 것에 그치고 있다.
행정기구는 군수 · 부군수 · 기획감사실 · 문화공보실 · 종합민원실 · 내무과 · 도시새마을과 · 재무과 · 사회복지과 · 환경보호과 · 산업과 · 지역경제과 · 산림과 · 건설과 · 도시과 · 민방재난관리과 등이 있다. 2014년 현재 경기도 3개 군, 강원도 11개 군, 충청북도 9개 군, 충청남도 7개 군, 전라북도(현, 전북특별자치도) 8개 군, 전라남도 17개 군, 경상북도 13개 군, 경상남도 10개 군, 부산광역시 1개 군, 대구광역시 1개 군, 인천광역시 2개 군, 울산광역시 1개 군으로 전국에 모두 83개 군이 있다.