북간도 한인사회를 조직적으로 규합하고, 항일 민족운동을 체계적으로 전개하기 위해 설립되었다.
1905년 을사조약이 강제로 체결된 이후, 연길과 용정(龍井)을 중심으로 한 북간도 지역에는 이상설(李相卨), 이동녕(李東寧) 등 많은 민족운동가들이 대거 망명하였다.
이들은 독립운동기지 건설에 착수하는 한편, 교육 · 종교 · 실업 등 각 방면에 걸쳐 항일민족운동을 활발히 추진하였다. 이러한 현상은 북간도에서 보다 조직적이고 효과적인 활동을 추진할 항일민족운동단체의 성립을 촉진시켰고, 간민교육회가 등장하는 기반이 되었다.
간민교육회 설립 시기에 대해서는 1907년 8월, 1909년 7월, 1910년 3월 등 세 가지 설이 있다.
간민교육회는 중국지방 당국의 인준을 받은 북간도 한인의 첫 사회단체로서 이후 간민회, 간도 대한민회로 변천해갔다. 간민교육회는 간민회, 간도 대한민회의 모체가 되었으며 합법적 사회단체로서 한인의 자치, 교육, 사업 분야에서 다양한 활동을 전개하였다.
본부는 연길 국자가(局子街)에 두었으며 북간도 각지에다 지회를 두었다. 설립시의 주동 인물은 이동춘(李同春) · 이봉우(李鳳雨) · 구춘선(具春善) · 박찬익(朴贊翊) · 정재면(鄭載冕) · 윤해(尹海) 등이었다.
1912년경 본부의 임원은 회장 이동춘, 총무 박정기(朴正基), 연구회장 이봉우, 지회장 조기정(曺起貞), 평의장(評議長) 손운순(孫雲順), 재무장 허순(許順), 장부장(掌簿長) 허곤(許坤), 찬리원(贊理員) 윤해 등이었으며, 회원수는 300여 명에 달하였다.
간민교육회는 강력한 자치활동을 통해 항일민족운동을 추진하는 방향으로 활동 목표를 세웠다. 이를 위해 한인사회를 조직화하는 한편, 한인들의 민족의식 고취와 경제력 향상에 주력하였다.
민족주의교육을 담당하던 한인학교로는 명동학교 외에도 정동(正東) · 은진(恩眞) · 명신(明信) · 광성(光成) · 창동(昌東) · 북일(北一) 등의 중학교가 있었고, 국자가에는 간민모범학당(墾民模範學堂)을 설립, 운영하고 있었다. 한인들의 경제력 향상을 위해서 농촌에 식산회(殖産會)를 만들어 자금을 늘렸으며, 생산조합 · 판매조합을 세워 운영함으로써 농촌경제를 활성화하였다.
한편, 기관지 『교육보(敎育報)』를 간행하여 상호이익을 도모하고, 시베리아의 『권업신문』과 미주의 『신한민보』까지 주문해 한인사회에 보급시켰다. 이러한 활동 외에도 한인 밀집지역인 수분전자(綏芬甸子)나자구(羅子溝)에는 무관양성학교인 대전학교(大甸學校)까지 건립, 본격적으로 독립군 양성을 추진하였다.
한편, 활동자금은 북간도 각사(各社)마다 권학위원 1인을 두어 매 호당 1년에 1조문(弔文)을 원칙으로 징수하였으며, 그 밖에도 지세 · 토지매매세 등을 징수하여 충당하였다. 간민교육회는 1911년 중국의 신해혁명을 계기로 간민회로 확대, 발전하여 한인의 자치활동과 독립운동을 보다 활기차게 전개해 나갔다.