3·1운동 직후 국내외에는 노령(露領)의 대한국민의회정부, 상해(上海)의 대한민국임시정부, 서울의 한성임시정부 등 실제적인 부서와 근거지 및 옥사(屋舍)를 구비한 3개의 임시정부 외에 조선민국임시정부·신한민국정부·대한민간정부 등 전단적 성격(專斷的性格)의 임시정부가 수립되었다.
이들 중 대한민간정부·조선민국임시정부 및 한성임시정부 등이 학무부를 두었다가, 같은 해 8월 한성·상해·노령에 위치한 3개의 임시정부가 통합하여 대한민국임시정부가 수립됨에 따라 9월 11일 새 헌법에 의한 임시관제에 따라 설치되었다.
산하에 비서국·교육국·편집국 등 3국을 두었으며, 이를 총괄하는 총장과 그 밑에 차장을 두었다. 총장은 한성임시정부에서 총장으로 선임된 김규식(金奎植)이 맡았다. 그러나 1920년까지 취임하지 않아 업무가 정상적으로 수행되지 못하자, 1920년 3월 19일 차장이 업무를 대신 맡도록 하였다. 차장 밑에 국장·참사·서기를 차례로 두었으나, 국에 따라서는 인사(人事)가 없어 실제로 업무가 수행되었다고 보기 어렵다.
1922년부터는 총장에 조성환(曺成煥)이 임명되었으나, 1924년 5월부터 12월까지 공석으로 있었다. 1924년 12월부터 이듬해 3월까지 조상섭(趙尙燮)이 임명되었다. 그 뒤 1927년 8월부터는 사실상 유명무실한 부서로 되었으며, 1944년 개헌에 따른 개정관제에서는 문화부로 개편되고, 산하에 총무국·교육국의 2국을 두게 되었다.