전덕기(全德基)ㆍ최병헌(崔炳憲)과 선교사 스크랜톤(Scranton, W. B)ㆍ벡(Beck, S. A) 등이 서울 상동교회(尙洞敎會) 안에 사숙(私塾) 형태로 학교를 설립하였다. 1909년 8월 학부의 인가를 받아 공옥학교로 교명을 정하였으며, 그 뒤 일제에 항거하여 폐교될 위기를 넘기면서 민족교육을 담당하였다.
상동교회가 설립한 학교로는 공옥여학교(여학생 초등교육기관으로 1886년 설립시 교명이 공옥학교), 공옥학교(남학생 초등교육기관으로 1898년에 설립. 후에 공옥보통학교로 교명이 개명), 상동청년학원(남학생 중등교육기관으로 1904년 9월 15일 설립), 야간학교, 여자중학교, 여러 형태의 강습소 등이 있었다.
전덕기가 공옥학교의 교장으로 있으면서 민족운동의 중심이 되었고, 담임 목사가 역대교장을 겸임해오다가 1924년 7월 우리나라 사람으로는 최초로 김원영(金源榮)이 취임하여 전성기를 맞이하였다.
1906년 10월 공옥학교 교사로 취임한 주시경(周時經)은 국어가 통일되어 있지 못한 당시 학생들에게 바른 국어를 가르쳐서, 이 때 공옥학교 학생들은 표준국어를 배우게 되었다.
광복 후인 1946년에는 가난한 청소년들의 교육을 위한 공옥중학원을 병설하였으나 6ㆍ25때 폐교되었다.
한말에 설립된 초기 기독교계 사립학교로서 교육사적 의의를 가진다.