1409년(태종 9) 최고 군령기관(軍令機關)으로 3군진무소(三軍鎭撫所)가 설치되고 1457년(세조 3)에 이것이 오위진무소로 개칭되었는데, 이의 책임자를 도진무(都鎭撫)라 하였다.
1466년(세조 12) 이 진무소가 오위도총부로 바뀌면서 도진무가 도총관·부총관으로 바뀌었다. 부총관의 수는 5인으로 문(文)·음(蔭)·무(武)의 고급관리가 겸하였으니 대개 종실 등이 겸하는 경우가 많았다.
이들 부총관은 도총부 부책임자로서 오위의 입직(入直)·행순(行巡) 등을 감독, 지휘하였으나 뒤에 오위제가 유명무실화하자 관명만 남게 되었고 임기는 1년이었다.