감찰위원회는 1948년 7월 17일 제정된 「정부조직법」에 따라 공무원에 대한 감찰 사무를 수행하기 위하여 1948년 8월 28일 대통령 소속으로 발족하였다. 「정부조직법」에 따라 감찰위원장 1인과 감찰위원 8인으로 구성되었는데, 감찰위원장과 감찰위원은 대통령이 임명하고 임기는 5년이며 연임이 가능하였다. 또한 감찰위원은 탄핵 또는 형벌에 의하지 아니하고는 파면, 정직 또는 감봉되지 않도록 신분보장을 받았으나, 정치에 참여하지 못하였으며 영리를 목적으로 하는 업무에 종사하지 못하였다. 다만, 직무상 독립의 지위에 관한 규정을 두고 있지는 않았다.
감찰 대상은 국회의원과 법관을 제외한 모든 공무원이었다. 그러므로 국회의 탄핵 소추 대상인 공무원인 국무위원, 심계원장도 포함되었다. 다만, 대통령 소속 기관이므로 대통령과 부통령은 대상에서 제외되었다.
공무원의 비위 사실을 포착하기 위하여 정보수집을 중요시하였다. 정보수집을 위하여 각 지방에 주재 촉탁을 임명하여 정보를 수집하고 보고하게 하였다. 수집된 정보에 의하여 조사에 임할 때 관계 기관 또는 그 소속 직원에게 필요한 서류를 제출하도록 요구하였다.
감찰위원회는 조사상 필요한 경우 관계 기관에 출장하여 관련 사무를 검열하였고, 조사상 필요한 경우 관계 공무원으로 하여금 의견을 진술하도록 요구하였다.
감찰위원회는 공무원의 위법 또는 비위 사실을 발견하였을 때 당해 공무원에 대하여 직접 징계를 의결하고 소속 장관에게 집행하도록 이송하였다. 징계 의결의 종류는 당시 「국가공무원법」에 따라 면직, 정직 및 감봉으로 구분하였다.
소속 장관이 감찰위원회의 징계 의결대로 반드시 집행하도록 규정하지 않았지만 특별한 경우를 제외하고 그대로 집행되었으며, 징계 의결에 대한 재심의 제도는 없었다.
조사 결과 징계에 해당하지 않는 경우로서 비위 사실이나 당해 소속 장관이 직접 조사·처리하는 것이 타당하다고 인정되는 사안에 대해서는 소속 장관에게 그 정보를 제공하여 처리하도록 하였고, 조사 결과 범죄 혐의가 있는 경우에는 수사기관에 고발하였다.
조사 결과 당해 기관에서 시정하거나 개선하여야 할 사항이 있는 경우 시정 등을 하도록 자료를 통보하였고, 비위 공무원과 관련되어 조세 포탈의 사실이 있는 경우 세무 관서에 그 사실을 통보하였다.
감찰위원회가 발족한 초기에는 정부수립 직후이므로 혼란한 시대 상황에서 공직사회에 비리가 많았으며 감찰 활동 또한 활발하게 이루어졌다. 특히 고위직 공무원의 비위조사를 중심으로 이루어졌다. 그 결과 1949년도에는 농림부장관 조봉암의 양곡 매입비와 조작비 유용 사건, 같은 해 상공부장관 임영신의 수뢰 및 국가 재산 남용 사건에 대한 감찰을 실시하여 조봉암 장관과 임영신 장관에 대해서 징계[파면] 의결하였다.
1950년부터 1952년까지는 한국전쟁으로 감찰 활동을 제대로 하기 어려웠으며, 1953년부터 1954년까지는 전후 복구 사업, 전쟁 이재민 구호사업 등과 관련된 비리 조사에 치중하여 감찰 활동이 이루어졌다.
감찰위원회는 1955년 2월 7일 「정부조직법」 개정으로 폐지되었으며, 만 6년 5개월의 존속기간 동안 공무원의 주1과 기강 확립에 기여하였다.
1948년 7월 17일 제정된 「정부조직법」에 따라 공무원의 직무상 비위를 감찰하기 위하여 국무총리 소속으로 설치되었다. 1961년 1월 14일 「감찰위원회법」과 2월 16일 「감찰위원회직제」가 제정·공포되었다. 이후 1961년 5월 16일 5·16군사정변이 일어난 후 같은 해 8월 12일 「감찰위원회법」이 개정되면서 감찰위원회의 소속이 국무총리에서 국가재건최고회의 의장으로 변경되었다.
「감찰위원회법」에 따라 위원장 1인을 포함한 감찰위원 7인으로 구성되었으며, 감찰위원장은 국무총리가 임명하되 민의원의 동의를 얻어야 하며 국회의원을 겸할 수 있었다. 이후 1961년 8월 12일 개정된 「감찰위원회법」에 의하여 위원장은 국가재건최고회의의 의결을 거쳐 국가재건최고회의 의장이 임명하도록 변경되었고 국회의원을 겸직할 수 있는 규정이 삭제되었다. 감찰위원은 위원장의 제청에 의하여 국무총리가 임명하는데, 임기는 4년이고 1차에 한하여 연임할 수 있으며 형의 선고, 탄핵 또는 징계에 의하지 아니하고는 파면, 정직 또는 감봉을 당하지 않도록 신분을 보장받았다.
감찰위원회는 행정기관과 공무원 및 국영기업체 임직원의 직무상 비위를 감찰하였다. 1948년 발족한 감찰위원회와 다른 특징은 감찰 대상을 직무상 비위에 국한한 점과 직무상 독립의 지위를 가진다는 명문 규정을 두었다는 점이다.
감찰 대상에는 국무위원, 선거에 의한 공무원과 군인도 포함되었다. 그러나 국무위원, 중앙선거관리위원, 선거에 의한 공무원과 「정규군인신분령」에 의한 군인 이외의 군인에 대해서는 징계처분을 할 수는 없고 그들의 비위 사실을 발견한 때에는 그 내용을 국무총리에게 보고하는 동시에 해당 공무원의 소속 장관 또는 관계 지방의회에 이를 통보하도록 하였다.
공무원의 비위를 감찰하는 ‘조사’와 행정기관 단위로 직무상 비위를 감찰하는 ‘검열’로 구분하였다. 조사할 때는 관계 기관과 소속 직원에 대하여 문서, 기타 증거물의 제출을 명할 수 있었고 본인 또는 관계 증인을 출석하게 하여 신문할 수 있었다. 검열은 기관에 따라 다르나 통상 68인 정도로 하여 610일 정도 걸렸다.
공무원에 대한 징계 의결은 감찰위원회에서 결정하였으며, 징계처분의 종류는 파면, 정직 및 감봉 3종이었다. 1948년에 발족한 감찰위원회는 징계 의결에 대하여 소속 장관에게 집행하도록 이송하였으나, 1961년 발족한 감찰위원회는 징계 의결이 확정되면 소속 기관의 장이 즉시 이를 집행하도록 함으로써 감찰위원회의 기능을 강화하였다.
한편, 1961년 8월 12일 개정된 「감찰위원회법」에서 신설한 제도로 시정 요구가 있다. 시정 요구는 종전에 비위 사건만 조사·처리할 수 있었던 불합리한 점을 보완하여 감찰 결과 행정상 시정을 요한다고 인정되는 사안은 해당 기관장에게 그 시정을 요구하고 이를 국가재건최고회의 의장에게 보고하도록 하였다.
또한 1961년 8월 12일 개정된 「감찰위원회법」에서는 감찰 결과 견책 등에 해당하는 위법 또는 부당한 처사가 있을 때 소속 기관장 등에 대하여 이를 처리하도록 통보하고 그 조치 결과의 통보를 요구할 수 있도록 하였다.
1948년 발족한 감찰위원회와 달리 재심의 제도도 도입하였다. 이때 재심의는 징계처분에 대해서만 가능하였다.
감찰위원회는 1961년부터 1963년 3월 19일까지 감찰을 하였는데, 주로 경제개발 5개년계획의 주요 국가 시책 사업, 국민 생활과 직결되는 업무 또는 과거에 부정이 많았거나 국민으로부터 지탄을 받아왔다고 인정되는 기관을 중점적으로 감찰하였다.
감찰위원회는 1961년 3월 28일 발족 이후 1963년 3월 20일 감사원에 통합될 때까지 약 2년 동안 감찰 활동을 전개하여 관기 쇄신, 행정의 효율화와 민원 해소 등에 기여하였다.