1894년(고종 31) 말 군제개편에 의해 중앙군으로서의 기능을 상실한 친군영(親軍營)을 강화하기 위해 훈련대가 창설되었다.
이에 따라 종래 청나라의 영향 하에 설치되었던 사관양성기관인 연무공원(鍊武公院)을 폐지하고, 1895년 5월 「훈련대사관양성소관제」를 공포해 훈련대에 필요한 초급장교를 양성하고자 설치하였다.
이 양성소는 훈련대에서 필요로 하는 초급무관 양성을 목적으로 하였다. 신분의 귀천을 불문하고 일반인으로부터 학도를 모집해 3개월 동안 학(學)과 술(術)의 양과를 이수하게 한 뒤 참위(參尉)로 임명하였다. 수학시의 성적순위에 따라 임용하고 만약 결원이 없을 경우는 휴직을 명하되 학술을 계수(繼修)하게 하였다.
이 양성소의 인원 구성을 보면, 소장 1인(영관), 부관 1인(위관), 교관 11인(위관 3인 이하, 하사 8인 이하), 번역관 1인(주임), 주사 약간인(판임), 전어관(傳語官) 3인으로 되어 있다.
같은 해 7월 관제개정이 이루어져 학도의 수학기간이 8개월로 연장되고 교관을 보좌하는 하사(下士)의 명칭이 조교로 변경되었다. 전술(前述)한 관제에 규정된 소장·부관 및 주사는 군부(軍部) 내 직원이 겸임하게 하고 교관은 이에 해당하는 내외무관으로 보충한다는 규정을 철폐하였다.
같은 해 8월에 훈련대의 일부가 민비시해사건에 동원, 개입되었기 때문에 훈련대에 대한 비난이 높아지면서 9월에는 훈련대가 해산되었다. 이로써 양성소의 기능은 사실상 마비되었다. 1896년 1월 「무관학교관제」가 공포되고 「훈련대사관양성소관제」가 폐지되어 이 양성소는 폐지되고, 대신 정식 사관학교인 무관학교가 설립되었다.