태조 19년 후백제의 신검을 공격할 때 편성했던 부대 가운데 중군에 속한 3군 중 중군(中軍: 祐天軍 · 天武軍 · 杆天軍)이었을 것으로 추정되는데, 그 근거는 중군과 2군의 병력수가 같다는 데 있다. 그러나 2군이 직제상으로 확립되어 6위와 같이 중앙군을 형성한 시기는 현종 때이며, 특히 거란(契丹) 침입 이후로 보인다.
2군은 친위군으로 왕의 근시(近侍)를 담당했는데, 동일한 기능을 가진 집단을 둘로 나눈 이유는 불분명하다. 2군에 소속되어 있는 상장군(上將軍)과 대장군(大將軍)을 각각 ‘ 근장상장군(近仗上將軍)’, ‘ 근장대장군(近仗大將軍)’이라 불렀고, 장군은 ‘친종장군(親從將軍)’, 중랑장(中郎將) 이하는 ‘ 근장(近仗)’이라고 구분하여 불렀을 정도로 국왕의 수호를 주로 담당했다. 이 때문에 2군은 설치 시기가 6위보다 나중이었지만, 그 서열은 6위보다 높았다. 응양군의 상장군을 반주(班主)에 임명해 무반의 우두머리로 삼았던 것을 통해 응양군은 2군 내에서 뿐만 아니라 중앙군 가운데에서 서열이 가장 높은 부대였음을 알 수 있다.
2군의 규모는 응양군이 1영(領), 용호군이 2영으로 모두 3영이었다. 1영은 고려시대의 기본적인 부대 단위로서 1,000명으로 구성되어 있었으므로, 2군의 병원(兵員)은 모두 3,000명에 달했다. 이 숫자는 6위가 42영 4만 2,000명이라는 것과 비교하면 매우 적은 숫자이지만 실제로 이들은 국왕과 가까운 위치에 있었기 때문에 다른 소속의 무반보다 정권에 참여하는 데 보다 유리한 지위에 있었고 다른 무반보다 승진 속도가 빨랐다.
편제는 6위와 마찬가지로 각 군에 상 · 대장군이 각각 1인씩이며, 그 아래에 각 영의 실질적인 지휘관인 장군이 1인씩 배치되어 있었다. 그 밑으로 중랑장 · 낭장(郎將) · 별장(別將) · 산원(散員) · 오위(伍尉, 일명 校尉) · 대정(隊正)을 두었다.
소속된 군인은 ‘ 군반씨족(軍班氏族)’이라 해서 군적(軍籍)에 올려 별도로 관리되었으며, 군인전(軍人田)을 지급받는 세습 신분이었다. 그러나 이 점에 관해서 당(唐)의 부병제(府兵制)가 변형된 형태로 보려는 견해도 있다.