1905년 일본 도쿄에 설립된 서북지방 출신 유학생들의 친목단체로서, 처음에는 후배 유학생들의 편익을 도모하고 선후배간 친목을 도모하기 위한 것이었으나, 점차 출판을 통한 계몽운동이 활성화되었고, 이는 다시 국내의 계몽운동에도 긍정적인 영향을 미쳤다. 1909년 대한흥학회(大韓興學會)에 통합되면서 발전적으로 해소되었다.
선배 유학생들이 후배 유학생들에게 일본어와 기본 과목의 예비 학습을 시키기 위해 어학강습소를 설치하였고, 이를 통해 유학생간 친목을 도모하고 학술을 연마하는 것이었으나 점차 출판활동을 통해 국민지식을 개발하기 위해 설립되었다.
1895년 결성된 대조선유학생친목회(大朝鮮留學生親睦會)와 그 뒤를 이은 1898년의 제국청년회(帝國靑年會)가 해산된 이후 일본에서 처음 조직된 재일(在日)유학생단체였다. 1905년 9월 15일 도쿄 혼고구(本鄕區) 모토마치(元町) 2정목(丁目)에 서북지방 출신 유학생 50여 명이 주일한국공사관참서관 겸 유학생 감독이었던 한치유(韓致愈)의 승인 아래 어학강습소를 설치한 것이 시초였다. 강습소를 운영한 인물들은 동경제국대학 공과대학 재학 중이던 상호(尙灝)를 중심으로 장응진, 박용선(朴容善)과 일본인 후지이(藤井孝吉) 등이었다.
입회자격은 한국인 유학생이면 누구나 입회가 가능했지만 주로 서북지역 출신 유학생들이 참여했다. 창립 초기의 임원은 평의원 6인, 사무원 6인, 회계원·서기원 각 1인, 사찰원 3인 등으로 이었다. 평의원에는 장응진(張膺震)·최석하(崔錫夏)·김지간(金志侃)·전영작(全永爵)·김진초(金鎭初)·이윤주(李潤柱), 사무원은 표진모(表振模)·박제봉(朴濟鳳)·김낙영(金落泳)·김창대(金昌臺)·장지태(張志台)·채규병(蔡圭丙), 회계원은 김연목(金淵穆), 서기원은 박상락(朴相洛), 사찰원은 이도희(李道熙)·김종기(金琮基)·유동수(柳東秀) 등이었다.
1906년 8월 조직이 정비되어 학회지인 『태극학보(太極學報)』를 창간하고 어학강습소도 태극학교(太極學校)로 명명하였다. 태극학보는 이윤주(李潤柱), 문일평(文一平) 등의 의연금을 기본자산으로 하고, 회원의 의연금과 학보판매금, 유지의 찬성금(贊成金)으로 발행되었다. 1907년 7월에는 175명의 인사들이 한꺼번에 의연금을 보내기도 하였다. 편집에는 김낙영·김홍량(金鴻亮)·김지간 등이 관여했다.
같은 해 9월 2일 총회를 개최하여 초대 회장에 장응진, 부회장에 최석하를 선출하고, 평의원 이하 임원진도 교체하였다. 이 조직은 큰 변동 없이 계속 유지되다가 1907년 9월 2대 회장에 김지간, 부회장에 김낙영을 선출하고 편집서기 2인을 신설하였다. 1907년 3월 학보편찬원 8인을 신설해 학보 발간에 주력하였다.
1907년 2월부터 국내로 세력을 확장해 지회(支會)를 설치하였다. 본회의 회원수는 279명이고, 지회의 회원까지 합하면 600여 명에 달하였다. 1907년 3월 영유지회(永柔支會)의 설치를 비롯해 9월에는 용주(龍州)와 의주(義州)의 용의지회(龍義支會), 1908년 4월 성천지회, 6월에는 동래지회, 9월에는 영흥지회가 설립되었다.
태극학교는 1907년 9월 당시 유학생들이 경영하던 광무학교(光武學校)·동인학교(同寅學校)와 함께 청년학원(靑年學院)으로 발전하였다.
한편 1909년 1월 재일유학생단체들이 대한흥학회(大韓興學會)로 통합되자, 태극학회도 여기에 참여하면서 해산되었다.
처음에는 학술 연마와 친목을 목적으로 한 순수한 유학생의 친목모임이었으나, 계몽단체로서 민족운동의 일익을 담당하였다. 학회지(월간)인 『태극학보』를 발간하고, 산하에 태극학교(초기에는 강습소)를 두었다.
『태극학보』는 1906년 8월 24일 제1호를 창간한 이래 매년 8월을 제외하고 1908년 12월까지 27호를 발간하였다. 학보의 크기는 A5판, 분량은 52∼72면 정도였다. 처음에는 1,000부를 발행했으나 호응이 커서 2,000부까지 발행했던 것으로 보인다. 『태극학보』는 일본, 서울 및 서북지방을 중심으로 한 국내뿐만 아니라 샌프란시스코의 공립신보사(共立申報社)를 통해 미주에도 배포되었다. 학보는 대개 논단·강단·학원(學園)·문예·잡보·기서(寄書) 등의 항목으로 구성되었다. 논단에는 국내 현실과 애국적인 논설을, 강단과 학원에는 계몽적인 학문의 소개를, 문예에는 문학작품을, 잡보에는 유학생의 활동과 국내외의 정세를 실었다. 국민계몽을 목적으로 한 만큼 계몽적인 학술내용과 애국정신을 고취시키는 논설류도 많았다. 그러나 발행장소가 일본이었기 때문에 정치적인 기사는 일체 싣지 못했다.
일제강점기에 유학생 상호간의 단결, 권익 보호에 영향을 미쳐 여러 유학생 단체들이 기관지를 내는 계기가 되었고, 국내의 계몽운동에도 영향을 주었다.