1445년(세종 27) 3품 이상 고위 관리들의 자손을 위해 처음 설치되었다. 이는 그들에 대한 우대로서 600인을 시취(試取)해 윤번(輪番) 입직시키고, 일정한 복무를 마치면 다른 관직에 거관(去官)되어 관료로서의 진출로를 열어 주기 위한 것이었다.
그러나 이 때의 충순위는 1459년(세조 5) 혁파되었다. 그 뒤 양반 자제가 일반 양인과 함께 정병(正兵)에 소속되어 잡역에 동원되는 사례의 부당성이 논의되었다. 그 결과 1469년(예종 1) 여정위(勵精衛)가 설치되었는데, 동반(東班) 6품 이상, 서반(西班) 4품 이상, 문무과출신·생원·진사·유음자손(有蔭子孫) 등이 소속되었다.
여정위는 곧 충순위로 개칭되어 『경국대전』에 오르게 되었다. 『경국대전』의 규정에 의하면, 이성(異姓)의 왕족·왕비족 가운데 원친(遠親)을 비롯해 실직(實職)으로서 현관(顯官)을 거친 사람 등이 충순위에 입속되었다. 정원은 없고 7교대에 의해 2개월씩 근무하였고, 체아(遞兒)는 없고 근무일수를 채우면 종5품 영직(影職)에 거관하도록 되어 있다.
정병은 대체로 일반 양인 계층이 군역 의무를 수행하기 위해 입속하는 병종이었다. 이에 비해 충순위 고위 신분층에 있는 자로 충의위(忠義衛)나 충찬위(忠贊衛)에 소속될 자격이 없는 자가 이에 속해 군역 의무를 수행했다는 것이 주목되는 점이다.
충순위에 속하도록 되어 있는 동반 6품, 서반 4품 이상의 현질(顯秩)에 있던 자, 문무과 출신, 생원·진사 출신자 이외에 양반 계층의 말단에 속하는 자도 정병에 입속되는 것이었다고 생각된다.
그러나 충순위에는 급보(給保)의 혜택이 없어 정병에 소속되는 것을 더 좋아하는 사례도 있었다. 이를 감안하면, 정병이 일반 양인의 상층부와 양반층의 말단이 소속되어 군역 의무를 수행한 것에 대해 충순위는 양반 계층이 군역 의무를 수행했음을 알 수 있다.