고려 초의 군사 기구로는 순군부와 함께 병부(兵部)가 존재하였다. 병부가 군사에 관한 왕명(王命)을 이행하는 관청이었던 반면, 순군부는 당시 정치세력의 중심이었던 호족(豪族)들의 군사력과 연결된 협의체적인 군사지휘권의 통수부(統帥府)로 기능하였다.
관제상의 서열은 광평성(廣評省)과 내봉성(內奉省)의 다음으로 병부보다 한 등급 위에 위치하였으며, 소속 관원으로는 영(令)·낭중(郎中) 등의 직제가 확인되나 자료 부족으로 더 이상의 내용은 알 수 없다. 이에 따라 순군부를 태조(太祖)에 대한 충성심이 강한 왕의 직속 기구로 보는가 하면, 군정(軍政) 기구로 이해하거나 혹은 군정과 분리된 군령(軍令) 기관이자 지방 호족의 군사력에 대한 순행 감시의 역할을 하는 기구로 보기도 한다.
호족의 군사적인 협의체로 운영되었던 순군부는 960년(광종 11) 광종(光宗)의 왕권강화 정책의 시행과 아울러 단행된 호족 숙청작업의 일환으로 기능이 축소 약화하여 군부(軍部)로 개편되었다.