충장위의 기록이 처음 보이는 것은 1614년(광해군 6)으로서, 이 때 창덕궁 입직(入直) 군사 수가 부족해 충장위 군사로써 각 문(門)의 파수에 충당하도록 하였다. 따라서, 충장위의 설치는 임진왜란 이후인 듯하다.
초기에는 번차(番次)를 정해 하루 교대로 궁궐 밖 서(西)·북(北) 양영(兩營)에 각각 50인 정도로 나누어 지키면서 외간(外間)을 주야로 감찰하게 하였다. 그리고 이를 위해 충장위장(忠壯衛將 : 종2품 또는 정3품)을 두었다.
뒤에 이들은 신포(身布)를 감해서 역에 응하도록 하였다. 그리고 충순위(忠順衛)·충찬위(忠贊衛)와 함께 병조의 유청군(有廳軍)에 편입되었는데 1년에 12번으로 나누어 한 달간 근무하고 교체되었다.
처음 설치 당시에는 군공·전몰자의 자손이 편입되었으나, 병자호란 이후 40년이 지난 1675년(숙종 1) 그 자손들이 모두 죽고 200인이 채 안 되었다. 이에 12번으로 교대하면 한번 번을 서는 자가 10여 인이었으며, 적을 때는 2, 3인에 불과하였다. 그러므로 곡식을 바치고 공명첩(空名帖)을 받은 자를 여기에 속하게 하여 납속충장위라 하고 작대(作隊), 수포(收布)하되 3대(代)에 한하도록 하였다.
그러나 1728년(영조 4) 이인좌(李麟佐)의 난 이후 다시 충장위 소속의 군사 수가 늘어나자 1756년 병조판서 홍봉한(洪鳳漢)의 주장에 따라 이 가운데 60인을 충순위·충찬위와 더불어 유청군에 편성하고 좌·우순청(左右巡廳)에 속하게 하였다.
또, 이들 60인 가운데 실차(實差 : 유사시 임시로 쓰는 정식관원) 30인은 요포(料布)를 정급(定給)하고, 예차(預差 : 유사시 임시로 쓸 예비관원) 30인은 결원이 생길 때 실차로 편입되게 하였다.
그리고 이들은 순청에 윤직(輪直)하게 했는데 충장위는 대전 안 동소(東所)에 3인씩 주야로 윤직하였다. 그리고 나머지 납속자 등은 3대까지 병조 유청색에 소속되어 포 1필을 바쳤으며, 이는 병조 소속의 조례(早隷)의 운영 경비로 쓰였다.
그러나 법전에 충장위장 3인이 수록되어 있으나, 충장위와 어떠한 관계에 있는지 확연하지가 않다. ≪육전조례 六典條例≫에 의하면 정3품 충장위장 3인은 시위와 문장(門將)을 관장한다고 하였다. 그리고 이 밑에는 위(衛) 15인, 이례(吏隷) 4인이 있는데 그 내역은 서원(書員)·사령(使令)·방직(房直)·군사 각각 1인씩이다.
이 충장위장은 국왕이 대궐에 전좌(殿坐)할 때 위 3인을 이끌고 시위 진참(進參)하며, 종묘사직의 대제(大祭)가 있을 때 문장을 병조의 획출(劃出)에 의해 진참한다고 하였다. 그 뒤 1894년(고종 31) 갑오개혁 때 관제 개혁으로 폐지되었다.