국무위원의 정무직 법무부장관과 정무직의 차관은 법무부의 소관사무를 통할하고 소속공무원을 지휘, 감독하며 국가소송에 있어서는 국가를 대리한다. 또한 검찰사무의 최고감독자로서 일반적으로 검사를 지휘, 감독한다.
역사적으로 보면 백제 제8대 고이왕 때(250년 전후) 상좌평(上佐平)에 소속되어 중앙행정을 분장한 외관십부(外官十部) 가운데 형벌 등의 사법을 맡은 사구부(司寇部)가 있었다.
그리고 신라 제28대 진덕여왕 때(651년)에는 나라의 형률사무를 담당하였던 좌리방부(左理方府)가 있었다. 또한 고려 제6대 성종 때(995년)에 삼성육부제(三省六部制) 가운데의 법률과 소송을 관장했던 형부가 있었다.
그리고 조선 제3대 태종 때(1405년)에는 의정부 밑의 육조(六曹) 가운데 하나였던 형조에서 법률·형벌 및 소송문제를 관장하였다.
이후 1894년 법무아문(法務衙門)으로, 1895∼1909년까지 법부로 불리다가 현재의 법무부에 이르고 있는데, 민주공화제 이전의 당시 관장사무 가운데에는 오늘날의 권력분립으로 나누어진 사법부 소관인 재판까지도 담당하였다.
주요 변천 사항은 다음과 같다. 1955년 법체처를 법제실로 개칭하여 법무부에 소속시켰다. 1961년 정무차관ㆍ사무차관을 폐지하고 기획조정관을 신설하였다. 1961년 외무부에서 출입국관리업무를 인수받아 검찰국에 출입국관리과를 신설하였다. 1962년 형정국을 교정국으로 개칭하였고 1963년 기획조정관실을 기획관리실로 개칭하였다. 1970년 출입국관리국을 신설하였다. 1999년 출국심사과를 출국관리과로 개칭하였다. 2004년 법무부 장관 직속으로 감찰관과 감찰담당관을 신설하였다. 2007년 교정국을 교정본부로, 출입국관리국을 출입국외국인정책본부로 확대 개편하였다.
실 및 국이 관장하는 사무는 다음과 같다. 총무과·공보관·감사관 외에 기획관리실은 각종 법무정책의 수립·종합 및 조정, 예산의 편성 및 집행, 조직 및 정원 관리, 행정전산업무의 개발·보존 및 유지 등에 관한 사무를 관장한다.
법무실은 국내외 법무자료의 조사·연구, 변호사·공증인·공증인가합동법률사무소·법무법인·변호사단체와 인권단체에 관한 사항, 법률구조·인권옹호사업, 준법정신의 계도, 국가당사자소송의 지휘·감독, 국가배상, 한미행정협정에 의한 배상신청사건처리, 민사법령의 연구, 법무자문위원회 운영, 국적이탈·회복의 허가, 귀화허가와 포획심판소(捕獲審判所)에 관한 사항을 분장한다.
실장은 검사장과 국장은 검사장 또는 이사관으로 보한다.
검찰국은 검찰행정의 종합계획과 검찰운영개선, 검찰공무원의 배치·복무 감독, 검찰수사 및 공소권행사에 대한 일반적 지휘·감독, 형사사건의 범죄예방에 관한 사항, 형사관계법령의 입안, 범죄인 인도, 한미행정협정에 의한 주한미군범죄에 대한 재판관할권 행사, 사면·감형·복권에 관한 사무처리, 형사보상금지급사무, 보안처분에 관한 결정과 그 집행, 피보안처분자에 대한 사후관리와 국가보안유공자심사위원회 운영에 관한 사무를 분장한다.
보호국은 보호처분에 대한 종합계획, 감호사건의 지휘·감독, 사회보호위원회의 운영, 갱생보호사업, 갱생보호단체에 대한 지휘·감독, 소년범선도보호와 보호관찰에 관한 사항을 분장하고, 교정본부는 교정행정·소년보호행정의 종합계획 및 조사·연구, 교도관·보도관의 배치·복무·후생 및 감독, 교도소·구치소·보안감호소·보호감호소·소년원과 소년감별소 운영에 관한 감독에 관한 사무를 분장한다.
그리고 경비교도대 운영, 재소자·소년원생의 수용관리·교육·교화 및 직업훈련, 재소자의 처우 및 계호, 비행소년의 감별, 교도작업의 계획·관리·통제, 교도작업특별회계·사법시설특별회계의 경리·용도 및 결산과 법무시설 조성에 관한 사무를 분장한다.
출입국외국인정책본부는 출입국관리행정의 종합계획, 출입국관리공무원의 배치·복무 및 감독, 내외국인의 출입국심사, 외국인의 입국허가·사증발급·체류관리·동향조사·출입국관리법령위반조사·수용명령·출국권고 및 강제퇴거, 외국단체의 등록 및 활동상황 조사와 내외국인의 출입국기록 관리에 관한 사무를 분장한다.