고려시대 삼군총제부(三軍摠制府)를 1393년(태조 2)의흥삼군부(義興三軍府)로 개칭하고 병권의 통제를 꾀하였다.
그 뒤 1400년(정종 2) 사병을 혁파하고 고려시대 이후 군기(軍機)와 숙위(宿衛)를 장악한 중추원을 의흥삼군부에 합속시켜 병권의 합일과 군령체계의 정비에 큰 진전을 이루었다.
그러나 의흥삼군부는 1401년(태종 1)승추부(承樞府)로 개칭되었다. 이후 1405년 육조의 지위가 높아지고 기능이 강화됨에 따라 병조에 통합되어 병조에 의한 단일적 군령체계가 수립되었다.
이와는 별도로 1403년 삼군에 각각 도총제부(都摠制府)를 설치, 각 군을 통할하게 했지만 그것은 승추부, 뒤에는 병조로부터 명령을 받게 되어 있었다.
1409년 병조에 치우쳐 있는 군사관계 업무를 분산시키기 위해 새로이 최고 군령기관으로 삼군진무소(三軍鎭撫所)를 설치하였다. 이후 몇 차례 변화를 거치며 존속되다가 1457년(세조 3) 중앙군 조직이 오위로 개편되자 오위진무소(五衛鎭撫所)로 되고, 1466년 관제개혁 때 오위도총부로 확립되어 ≪경국대전≫에 수록되었다.
삼군도총제부는 삼군진무소의 통할을 받다가 1432년(세종 14) 혁파되고 말았다. 오위도총부는 뒤에 중종 때 비변사가 설치되어 군국기무만을 전담하게 되었다. 이에 따라 점차 기능을 상실하고 법제상의 관부로만 남다가, 1882년(고종 19) 군제개혁으로 완전히 폐지되었다.
관원으로는 도총관(都摠管, 정2품)과 부총관(종2품)이 모두 10인으로 타관이 겸임토록 되었다. 대개 종친 · 부마 · 삼공 등 고위 관리가 임명되었으며, 그 밑에 경력(經歷, 종4품) 4인과 도사(都事, 종5품) 4인, 그리고 이속으로 서리 13인과 사령 20인이 있었다.
오위도총부의 소임은 오위의 군무를 다스리는 것으로 규정되어 있었다. 오위의 평상시 임무가 병종별로 입직(入直) · 행순(行巡)하는 것이었으므로 이를 지휘, 감독하는 것이었다.
군사를 총괄하는 병조와의 관계는 “병조가 병정(兵政)을 총괄하고 오위도총부는 군무를 총령하니, 체통이 서로 이어지고 군정은 더욱 밝아진다.”고 한 바와 같이 오위도총부는 오위의 총사령부와 같은 최고의 군령기관으로서 병조와 횡적으로 협조하는 사이였다.
그러나 병조는 오위를 속아문으로 하여 인사문제 · 국방정책 등 제반 면에서 강력한 권능을 가지고 있었다. 또 군령의 이명(移命) 과정에서 제외되지 않았던 만큼 오위도총부의 지위를 압도하는 경향이 컸다.
이와 같은 점은 서반(西班)의 최고 관아로서 동반(東班)의 의정부와 대등한 위치에 있던 중추부가 소장 업무는 없고 문관으로 충원되었던 사실과 함께, 조선시대 동반에 대한 서반의 절대적 열세와 유명무실한 권능을 말해주는 것이다. 이러한 사실은 조선시대 양반관료체제를 이해하는 데 유의할 점이라고 하겠다.