1459년(세조 5) 천인 가운데에서 활쏘기[木箭]·달리기[走]·힘쓰기[力] 등을 시험보아 뽑는 노군(奴軍)의 병종으로 장용대(壯勇隊)라는 이름으로 처음 설치되었다. 그 뒤 1475년(성종 6) 장용위로 개칭되면서 천인뿐 아니라 양인의 입속도 허락되었다.
정원은 600인으로서 5교대로 120인이 6개월씩 복무하였다. 중앙군의 하나로 파악되었으나, 대열(大閱) 때는 오위(五衛)에 편제되지 않고, 같은 시기에 만들어진 특수보병부대인 파적위(破敵衛)와 함께 전진(戰陣)을 따로 이루는 것이 상례여서 임무의 특수성이 인정된다.