918년(태조 1)에 설치된 내군경(內軍卿)이 내군으로 되었다가 960년(광종 11) 장위부(掌衛部)로, 다시 사위시(司衛寺)로 개편된 뒤 995년(성종 14)에 위위시로 되었다.
문종 때 속관을 정비하여 판사(判事, 정3품) 1인, 경(卿, 종3품) 1인, 소경(少卿, 종4품) 1인, 승(丞, 종6품) 2인, 주부(注簿, 종7품) 2인과 이속으로 서사(書史) 6인과 기관(記官)을 두었다.
1298년(충렬왕 24)에 충선왕이 즉위하여 판사를 없애고 경을 2인으로 늘리는 대신 승을 1인으로 줄였으며, 곧 경을 윤(尹)으로, 소경을 소윤으로 고쳤다.
1308년 충선왕이 복위하여서는 이부에 합쳐 혁파하였으나, 1331년(충혜왕 1)에 다시 설치되었다. 이 때 속관으로는 판사(정3품)·영(令, 종3품)·소윤(종4품)·승(종6품)·주부(종7품) 등이 두어졌다.
1356년에 영과 소윤을 각각 경·소경으로 고쳤으며, 1362년 다시 윤·소윤으로 고쳤다. 1369년(공민왕 18) 윤·소윤을 경·소경으로 고쳤다가 1372년 다시 윤·소윤으로 환원하였다. 1389년 폐지되어 중방(重房)에 합쳐졌다.