1904년 9월 일제가 그들의 교육총감부를 본떠서 군부(軍部) 아래 교육부를 설치하고 여기서 모든 군사교육을 포괄하게 하였다. 교육부의 설치목적은 육군의 교육을 고르게 발달시키고 또 개량, 진취시키기 위한 것이었다.
교육부의 책임자는 교육총감으로 부장(副將) 혹은 참장(參將)이며, 황제가 임명하였다. 교육총감은 황제에게 직접 예속되어 부의 사무를 총리하며 육조에 관한 여러 조규(條規) · 전범(典範)을 교정, 조사하고, 육군무관학교 · 연성학교(硏成學校) · 유년학교 · 하사관학교 · 군악학교를 관리하였다. 뿐만 아니라 육군의 검열조례에 따라 칙령으로 검열사(檢閱使)가 되어 군대의 검열도 관장하였다.
교육부의 직원은 총감 · 부감(副監) · 참모장 아래 2인의 참모관, 2인의 부관, 그리고 기치병과장(騎輜兵科長) · 포공병과장(砲工兵科長) 각 1인, 향관(餉官) · 번역관 · 서기 등이 있었다. 그러나 이듬해 2월의 군부관제 개정 때 군부 산하의 교육국으로 편입되어, 실제 그 기능은 발휘되지 못하였다.