독일어교육을 통하여 독일의 우수한 군제(軍制)와 군법(軍法)을 수용할 목적으로 처음에는 소안동(현 종로구 안국동)에 설립하였다.
개화기 조선정부는 서양 제국들과의 의사소통을 위해 근대적 외국어학교를 설립하였다. 먼저 1891년의 일어학교(日語學校), 1894년의 영어학교(英語學校), 1895년의 법어학교(法語學校), 1896년의 아어학교(俄語學校), 1897년의 한어학교(漢語學校) 그리고 독일어를 가르치기 위하여 1898년에 9월 15일에 덕어학교(德語學校)를 설립하였다.
설립 당시는 외국인 교관 볼얀(Bollighn,J.)과 한국인 교원 진수(秦秀)ㆍ최태경(崔泰卿)ㆍ유만(柳晩) 등 4명이었으며, 1910년까지의 졸업생 총수는 5명이었다.
1906년 「외국어학교령」에 의하여 한성외국어학교(漢城外國語學校)로 통합되었다.
1900년에는 「외국어학교규칙」의 공포에 따라 종래 입학연령 16세 이상 25세 이하를 15세 이상 20세까지로 고치고, 수업연한을 5년으로 정하였다. 학년은 3학기제이며 교수 4명, 서기 1명에 학생수 20여명이었다.
이 학교는 일어와 중국어에 비하여 수업연한이 길고 교과목이 체계화되지 못했으며, 학생수도 가장 적었다.