918년(태조 1)에 설치해 관원으로 영(令) · 경(卿) · 낭중(郎中)을 두었다. 뒤에 병관(兵官)으로 고치고, 어사(御事) · 시랑(侍郎) · 낭중(郎中), 원외랑(員外郎)의 관원을 둔 다음 속관으로 고조(庫曹)를 두었다.
995년(성종 14) 상서병부(尙書兵部)로 하면서 속관(屬官)인 고조는 상서고부(尙書庫部)로 개칭되었다가 1011년(현종 2)에 혁파되었다. 1275년(충렬왕 1) 원나라의 간섭 아래 이루어진 관제 격하 개편시에 군부사(軍簿司)로 되었다.
그 부서의 장인 상서(尙書)는 판서(判書)로, 시랑은 총랑(摠郎), 낭중은 정랑(正郎), 원외랑은 좌랑(佐郎)으로 바뀌었다. 1298년 충선왕(忠宣王)이 일시 정권을 장악해 관제개혁을 단행했는데 관부의 명칭을 병조(兵曹)로 하면서 판서를 상서로 환원해 인원을 2인으로 늘렸다.
이 때 1인은 무반의 우두머리인 반주(班主)가 겸하도록 하였다. 또한 총랑도 시랑으로 명칭을 바꾼 다음 3인으로 늘렸으며, 그 가운데 1인은 타관이 겸직하도록 하였다. 그리고 정랑은 낭중, 좌랑은 원외랑이라 하고 3인으로 했으며 그 가운데 1인은 무반이 겸직하도록 하였다.
1308년 충선왕이 선부(選部)에 병합시켰고 그 뒤 총부(摠部) · 군부사(軍簿司) 등으로 개칭되었다. 그리고 1356년(공민왕 5)에 단행된 공민왕(恭愍王)의 반원개혁시에 병부로 바뀌고 관원의 명칭도 상서 · 시랑 · 낭중 · 원외랑으로 되었다. 또한, 1362년에 군부사로 명칭이 바뀌면서 상서는 판서, 시랑은 총랑, 낭중은 정랑, 원외랑은 좌랑으로 되었다.
1369년 다시 총부로 바뀌었고, 상서 · 의랑(議郎) · 직랑(直郎) · 산랑(散郎)으로 관원의 명칭도 바뀌었다. 1372년에 다시 군부사로 환원되면서 판서 · 총랑 · 정랑 · 좌랑으로 고쳐졌다. 마침내 1389년(공양왕 1) 병조로 바뀐 뒤 이 명칭과 기능이 조선시대로 이어졌다. 이속(吏屬)으로는 문종(文宗) 때 정한 주사(主事) 2인, 영사(令史) 2인, 서령사(書令史) 2인, 기관(記官) 12인이 있었다.