갑오경장 이후 근대적 사법제도를 운영할 법관을 양성하고자 1895년 3월에 설립되었는데 수업기간은 초기에는 6개월, 1903년에는 1년 6개월이었다가, 1904년 12월에는 2년으로 연장되었다. 1907년에는 1년간의 예과를 포함하여 수업연한을 3년으로 연장하였다.
1905년 당시 입학시험과목은 독서·교용작문(交用作文)·산술·내국역사·내국지지 등이었고, 재학생 및 사범학교·중학교·외국어학교의 졸업생은 시험이 면제되었다.
교과목은 민법·형법·소송법·명률(明律)·대전회통·무원록(無寃錄) 등의 대요와 민사·형사 소송 서류형식을 가르쳤다. 졸업생은 1회 47명, 2회에 39명, 1908년 제6회 58명 등 모두 209명을 배출하였다.
1909년 11월에 법부(法部)에서 학부(學部)로 이관되고 그 명칭도 법학교(法學校)로 개칭되었다. 그 뒤 1910년 8월경성전수학교(京城專修學校)로 개편되어 1912년 제1회 23명의 졸업생을 시작으로 1922년까지 11회의 졸업생을 배출하였으며, 1922년 4월에는 경성법학전문학교(京城法學專門學校)로 개편되었다.
법관양성소는 개화 초기에 근대적 법률 및 경제에 관한 전문교육을 실시하여 많은 법관을 양성, 우리나라 사법계의 초석을 마련하였다.