중앙행정기관 각부의 인사·복무·일상업무 등 일반사무의 처리와 소속공무원에 대한 지휘·감독을 통하여 장관을 보좌하고 대리할 수 있는 보조기관이다.
대통령중심제를 채택하고 있는 나라에서와는 달리 의원내각제를 채택하고 있는 나라에서는 행정의 전문성·일관성 및 중립성을 실현하고 정치와 행정을 합리적으로 연결하기 위하여 정무차관과는 별도로 사무차관제도를 두고 있다.
정무차관이 참모적 성격이 강한 데 반하여 사무차관은 계선적(系線的) 성격이 강하다. 우리 나라는 정부수립 이후 제2공화국을 제외하고는 대통령중심제를 채택하였기 때문에 제2공화국 이외에는 이 제도를 두지 않았다.
1960년 6월 제3차 헌법개정에 의하여 내각책임제를 채택함에 따라 같은 해 7월 「정부조직법」의 개정에 의거하여 각부에 사무차관 1인씩을 두도록 하였다.
제2공화국 내각책임제 당시 행정권은 국무원에 귀속되었으며, 국무원은 민의원에 대하여 연대책임을 지는 등 행정부와 입법부의 밀접한 관계로 인하여 장관의 임면이 입법부에 따라 좌우되는 경향이 있었다. 이를 견재하고자 별도 사무차관을 두었다. 그러나 1961년 8월 「정부조직법」의 개정으로 이 제도는 폐지되었다.
이 제도는 내각이 교체되어도 일관성 있는 행정을 계속할 수 있고, 직업공무원의 최고직위로서 공무원들에게는 차관까지 승진할 수 있다는 기대감을 충족시킬 수 있을 뿐만 아니라 관료기구의 보호가 가능하며, 관료제를 기초로 한 체제의 안정성 확보가 가능하다는 장점이 있다.