918년(태조 1)에 설치해 관원으로 영(令)·경(卿)·낭중(郎中)을 두었다. 뒤에 병관(兵官)으로 고치고, 어사(御事)·시랑(侍郎)·낭중(郎中), 원외랑(員外郎)의 관원을 둔 다음 속관으로 고조(庫曹)를 두었다.
995년(성종 14)상서병부(尙書兵部)로 하면서 속관(屬官)인 고조는 상서고부(尙書庫部)로 개칭되었다가 1011년(현종 2)에 혁파되었다. 1275년(충렬왕 1) 원나라의 간섭 아래 이루어진 관제 격하 개편시에 군부사(軍簿司)로 되었다.
그 부서의 장인 상서(尙書)는 판서(判書)로, 시랑은 총랑(摠郎), 낭중은 정랑(正郎), 원외랑은 좌랑(佐郎)으로 바뀌었다. 1298년충선왕(忠宣王)이 일시 정권을 장악해 관제개혁을 단행했는데 관부의 명칭을 병조(兵曹)로 하면서 판서를 상서로 환원해 인원을 2인으로 늘렸다.
이 때 1인은 무반의 우두머리인 반주(班主 : 鷹揚軍의 上將軍)가 겸하도록 하였다. 또한 총랑도 시랑으로 명칭을 바꾼 다음 3인으로 늘렸으며, 그 가운데 1인은 타관이 겸직하도록 하였다. 그리고 정랑은 낭중, 좌랑은 원외랑이라 하고 3인으로 했으며 그 가운데 1인은 무반이 겸직하도록 하였다.
1308년충선왕이 선부(選部)에 병합시켰고 그 뒤 총부(摠部)·군부사(軍簿司) 등으로 개칭되었다. 그리고 1356년(공민왕 5)에 단행된 공민왕(恭愍王)의 반원개혁시에 병부로 바뀌고 관원의 명칭도 상서·시랑·낭중·원외랑으로 되었다. 또한, 1362년에 군부사로 명칭이 바뀌면서 상서는 판서, 시랑은 총랑, 낭중은 정랑, 원외랑은 좌랑으로 되었다.
1369년 다시 총부로 바뀌었고, 상서·의랑(議郎)·직랑(直郎)·산랑(散郎)으로 관원의 명칭도 바뀌었다. 1372년에 다시 군부사로 환원되면서 판서·총랑·정랑·좌랑으로 고쳐졌다. 마침내 1389년(공양왕 1) 병조로 바뀐 뒤 이 명칭과 기능이 조선시대로 이어졌다. 이속(吏屬)으로는 문종(文宗) 때 정한 주사(主事) 2인, 영사(令史) 2인, 서령사(書令史) 2인, 기관(記官) 12인이 있었다.