태봉 때부터 있었던 것이 확실하나 『삼국사기(三國史記)』 궁예전의 태봉관제에는 보이지 않고, 왕건이 즉위하여 관제개편을 실시하였을 때에 처음으로 기록에 나타난다.
고려 초의 군사기구로는 순군부와 함께 병부가 존재하였는데, 후자가 군사에 관한 왕명을 이행하는 관부인 반면 순군부는 당시 정치세력의 중심이었던 호족(豪族)들의 군사력과 연결된 협의체적인 군사지휘권의 통수부로 기능하였다.
관제상의 서열은 광평성(廣評省)과 내봉성(內奉省)의 다음으로 병부보다 한 등급 위에 위치하였으며, 소속관원으로는 영(令)·낭중 등의 직제가 확인되나 자료부족으로 더 이상의 내용은 알 수 없다.
호족의 군사적 협의체로 운용되었던 순군부는 960년(광종 11) 광종의 왕권강화정책의 시행과 아울러 단행된 호족 숙청작업의 일환으로 기능이 축소, 약화되어 군부(軍部)로 개편되었다.