3·1운동 직후 국내외에는 노령(露領)의 대한국민의회정부, 상해(上海)의 대한민국임시정부, 서울의 한성임시정부 등 실제적인 부서와 근거지 및 옥사(屋舍)를 구비한 3개의 임시정부 외에 조선민국임시정부 · 신한민국정부 · 대한민간정부 등 전단적 성격(專斷的性格)의 임시정부가 수립되었다.
이들 중 대한민간정부 · 조선민국임시정부 및 한성임시정부 등이 학무부를 두었다가, 같은 해 8월 한성 · 상해 · 노령에 위치한 3개의 임시정부가 통합하여 대한민국임시정부가 수립됨에 따라 9월 11일 새 헌법에 의한 임시관제에 따라 설치되었다.
산하에 비서국 · 교육국 · 편집국 등 3국을 두었으며, 이를 총괄하는 총장과 그 밑에 차장을 두었다. 총장은 한성임시정부에서 총장으로 선임된 김규식(金奎植)이 맡았다. 그러나 1920년까지 취임하지 않아 업무가 정상적으로 수행되지 못하자, 1920년 3월 19일 차장이 업무를 대신 맡도록 하였다. 차장 밑에 국장 · 참사 · 서기를 차례로 두었으나, 국에 따라서는 인사(人事)가 없어 실제로 업무가 수행되었다고 보기 어렵다.
1922년부터는 총장에 조성환(曺成煥)이 임명되었으나, 1924년 5월부터 12월까지 공석으로 있었다. 1924년 12월부터 이듬해 3월까지 조상섭(趙尙燮)이 임명되었다. 그 뒤 1927년 8월부터는 사실상 유명무실한 부서로 되었으며, 1944년 개헌에 따른 개정관제에서는 문화부로 개편되고, 산하에 총무국 · 교육국의 2국을 두게 되었다.