1356년(공민왕 5) 5월에 설치되었다.
같은 해 5월부터 공민왕이 기철(奇轍)·권겸(權謙)·노책(盧頙) 등 부원배(附元輩)들을 죽이고, 이어서 정동행성이문소(征東行省理問所)를 혁파한 뒤 쌍성총관부(雙城摠管府)를 수복하는 등 대대적인 반원운동(反元運動)을 전개했는데, 이를 추진하기 위한 무력 기반으로 충용위가 설치되었던 것으로 추측된다.
이것은 4위(衛)로 구성되었으며, 각 위마다 장군 1인, 중랑장(中郎將) 2인, 낭장(郎將) 2인, 별장(別將) 5인, 산원(散員) 5인, 위장(尉長) 20인, 대장(隊長) 40인이 배치되었다. 그 아래 배치된 군사들의 규모는 확인되지 않는다. 이들은 녹봉을 지급받았다. 주된 임무는 궁성을 지키는 것이며, 이 밖에 외적의 침입을 당하면 개경 주위의 수비에 동원되기도 하였다.
1357년에 왜구가 강화도 교동(喬桐)을 침범하자 이를 막기 위해 출병한 적도 있다. 그러나 1361년에 홍건적(紅巾賊)에 의해 개경이 함락되고, 국왕이 복주(福州 : 安東)로 파천하기에 이르자 다음 해에 폐지론이 일기도 하였다.
그 뒤 홀치(忽赤) 등과 더불어 애마(愛馬)라 불리면서 세력을 믿고 많은 폐단을 일으켜 여러 차례에 걸쳐 폐지론이 대두하였다. 1389년(공양왕 1)에는 애마의 폐해와 이군육위 제도의 유명무실함을 거론하고, 신호위(神虎衛)에 합칠 것을 헌사(憲司)에서 상소하며 주장한 적이 있었다.
그러나 고려가 멸망할 때까지 폐지되지 않고 존속하였다. 1392년(태조 1) 조선이 건국되면서 10위가 정비될 때에도 잔존하였다가 이후 군사제도가 더욱 정비되면서 태종 때에 폐지된 것으로 추측된다.