1945년 12월 5일 서울 냉천동 감리교신학교 자리에서 국방경비대와 미국군 사이의 협조를 도모할 통역관 양성과 장차 군간부를 양성할 목적으로 설립되었다.
공식 명칭은 군사용어학교(Military Language School)였으나 주로 영어를 가르쳤으므로 군사영어학교라고 하였다. 초대 교장은 미국군 소령 리스(Rease)였고, 부교장은 참령(參領:지금의 소령) 원용덕(元容德)이었다.
처음에는 학생 정원을 60명으로 하여 광복군·일본군·만주군에서 군사 경력을 쌓은 사람들 가운데 각각 20명씩을 뽑도록 하였는데, 이응준(李應俊)과 원용덕의 적극적인 주선 아래 6개 주요 사설 군사단체의 대표자들이 각기 적격자를 추천하였다.
입학자격은 장교나 군사관 경력이 있는 자로 제한되어 있었는데, 특히 출신 계열별로 파벌이 조성되는 것을 방지하려는 뜻에서 젊고 의기가 왕성한 경력자만을 받아들였다.
이 때 광복군 계열의 대부분은 장차 국군이 마땅히 광복군의 법통(法統)을 이어받아야만 할 것이라는 명분론을 내세우면서, 일본군이나 만주군에 몸담았던 자들과 똑같은 대우를 받아 가며 같은 수로 입교해야 한다는 원칙에 반대하였다.
그리하여 응모를 꺼리다가 그 중 소수만이 입교했으며, 좌익 계열은 처음부터 이를 외면하였으므로 결국 입교한 학생의 대다수가 일본군과 만주군 출신들로 채워졌다.
입학시험은 미군정청 안에 있는 군사국(軍事局)에서 면접과 신체검사, 과거의 군사 경력을 확인하는 절차로 실시되었다. 당시 어떠한 군사단체에도 가담하지 않고 있던 이형근(李亨根)·최경록(崔慶祿) 등은 개별적으로 응시하였다.
학생들은 영어 실력에 따라 4개 반으로 나뉘었는데, 절반은 영어 잡지를 읽는 수준인가 하면, 나머지는 알파벳을 익히고 숫자를 배우는 등 교육 수준이 고르지 않았다. 교육내용은 영어 이외에도 국사·참모학·자동차교육·소화기·기계훈련이 있었고, 매주 토요일에는 분열과 사열도 실시되었다.
학생 수는 나중에 200명으로 늘어났으며, 학생 개개인의 경력과 영어 실력에 따라 짧게는 며칠간의 교육을 받고 임관되는가 하면, 길게는 몇 주일이 걸리기도 하였다.
군사영어학교는 1946년 2월 27일서울 태릉에 있는 국방경비대 제1연대 옆으로 자리를 옮겼다가 그 해 4월 문을 닫았는데, 남아 있던 학생들은 5월 새로 개교한 경비대사관학교의 제1기생으로 편입되었다.
약 5개월 동안에 배출된 110명의 장교들은 그 뒤 건군의 주춧돌이 되었고, 그 가운데 68명이 장성으로 진급되었다. 그들 중 대장 진급자는 8명, 중장이 20명이었으며, 참모총장을 역임한 자는 13명이나 되었다.