1894년(고종 31)에 갑오개혁이 추진되면서 6월 28일 군국기무처의 안에 따라 궁내부(宮內府)와 의정부(議政府)로 나누고 의정부 아래 내무·외무·탁지·법무·학무·공무·군무·농상 등 8아문을 설치하여 7월 20일부터는 아문관제(衙門官制)에 따라 직무를 관장하도록 하였다.
학무아문은 구제도 아래서의 예조의 업무 일부와 관상감(觀象監)·육영공원(育英公院)·사역원(司譯院)의 업무를 포함하여 국내의 교육과 학무행정을 관리하는 부서로 설치되었는데, 1895년 4월 1일 별도의 학부관제를 칙령 제46호로 공포하고 학부(學部)로 개칭하였다.
직제를 보면 대신(大臣) 1인, 협판(協辦) 1인을 두고 그 아래 총무국(總務局)·성균관상교서원사무국(成均館庠校書院事務局)·전문학무국(專門學務局)·보통학무국(普通學務局)·편집국(編輯局)·회계국(會計局) 등 6국을 설치하였다.
특히 전문학무국은 중학교·대학교·기예학교·외국어학교·전문학교를 관장하고 보통학무국에서는 소학교와 사범학교를 관장하였다. 관원으로는 각 국마다 국장인 참의(參議) 1인과 주사(主事) 2∼4인씩 도합 18명이 배치되었다.