종2품직이다. 1624년(인조 2) 총융청이 설치되고 이서(李曙)가 초대 총융사가 되었다. 정례로 비변사 당상을 겸임하였다. 1750년(영조 26) 경기병사를 겸하였다가 1760년 폐지되었고, 1764년 조지서제조(造紙署提調)를 정례로 겸하였다.
병조 일군색(一軍色)의 시취(試取)를 관장하였고, 수원·광주(廣州)·양주·장단·남양의 5개 영에 대한 순회 조련(操鍊)을 담당하였다. 총융사 아래에 중군(中軍) 1인, 천총(千摠) 2인, 파총(把摠) 6인, 초관(哨官) 26인, 군관(軍官) 5인, 교련관(敎鍊官) 17인, 부장(部將) 등이 있었다. 직청(職廳)은 창의문(彰義門) 밖에 있었다.