1894년(고종 31) 갑오개혁으로 그 해 6월 28일 군국기무처의 의안에 따라 궁내부와 의정부로 나누고, 의정부 아래 내무 · 외무 · 탁지 · 법무 · 학무 · 공무 · 군무 · 농상 등 8아문을 설치하여 7월 20일부터는 아문관제에 따라 직무를 관장하도록 하였다.
법무아문은 구제도 아래서의 형조와 전옥(典獄) · 율학(律學)의 사무를 포함하여 사법행정 · 경찰 · 사유(赦宥) 및 고등법원 이하 각 지방재판소를 관장하는 부서로 설치되었는데, 1895년 4월 1일 칙령 45호로 관제를 공포하고 법부로 개칭하였다. 법무아문의 직제를 보면 대신 1인, 협판(協辦) 1인을 두고 그 아래 총무국 · 민사국 · 형사국 · 회계국을 설치하였다.
민사국은 백성의 사송(詞訟) · 재판 및 법관의 고시를, 형사국은 치죄(治罪) · 보석 · 징역 · 감형 · 복권 등 사무를 관장하여 각각 국장인 참의 1인, 주사 8인씩을 두었고, 총무국은 담당부서가 없는 모든 법무아문 소관업무를, 회계국은 회계와 고등법원 이하 여러 재판소의 예산 · 결산을 관장하여 각각 참의 1인, 주사 2인씩을 두었다.