최광옥(崔光玉)·김용제(金庸濟)·최명식(崔明植)·송종호(宋鍾昊) 등 황해도 안악 지역의 기독교 지식인이 중심이 되어 1906년 말에 조직한 면학회(勉學會)가 발단이 되어 결성되었다.
최광옥은 평양의 숭실학교(崇實學校)와 일본의 메이지대학(明治大學) 사범과 등에서 수학한 인물로서, 민지계발(民知啓發), 특히 청년들의 계몽운동·산업증진·교육장려 등을 목적으로 면학회의 결성을 주도하였다. 면학회에 참여한 상당수의 인물은 국권을 회복할 목적으로 조직된 비밀결사 신민회(新民會)의 회원들일 것으로 짐작된다.
면학회에서는 1907년에 면학서포(勉學書鋪)라는 출판사를 설립, 최광옥 명의의 『대한문전(大韓文典)』과 『교육학(敎育學)』을 발간하였고, 매년 춘계연합운동대회와 하계사범강습회를 열어 성황을 이루었다. 해서교육총회는 1908년의 제2회 하계사범강습회가 끝나자 최광옥이 제안하여 결성된 것이다.
회장에 송종호, 고문에 노백린(盧伯麟)과 장의택(張義澤)이 추대되었고, 학무총감에 김구(金九)가 선임되었다. 목적은 황해도 각처에 설립되어 있는 교육기관을 유기적으로 연결, 통일하여 교육 보급의 신속화를 자극, 촉진하자는 것이었다. 구체적으로 각 면마다 소학교를 1개씩 설립하고자 하였으며, 재정은 주로 면학회에서 부담하였다.
실제 이 단체에서는 구식 서당을 근대적 민족학교로 전환시키고자 하였으며, 학무총감인 김구가 각 지방을 돌아다니며 교육 상황을 살피고 학교 설립을 역설하였다. 1909년 제2차 총회가 장연(長淵)에서 개최되었는데, 회장으로 노백린이 선임되었다.
그러나 이러한 민족교육활동은 일제의 국권침탈 직후인 1910년 12월부터 1911년 3월에 걸쳐 있었던 소위 안악사건(安岳事件, 일명 안명근사건)으로 좌절될 수밖에 없었다.
안악사건은 안명근의 군자금 모금을 빌미로 황해도 일대의 민족지도자들을 체포, 구금한 일제의 민족운동탄압책이었다. 김구·최명식·김홍량(金鴻亮) 등 해서교육총회 지도자들이 이 사건으로 모두 검거되어, 활동이 중단되었다.