1920년대 말 만주에서 삼부(三府) 참의부(參議府), [신민부(新民府), 정의부(正義府)]를 통합하여 민족유일당(民族唯一黨)을 건설하려는 운동이 실패하자, 1928년 12월 신민부 군정파, 참의부 주류파, 정의부 탈퇴파는 임시기관으로 혁신의회(革新議會)를 조직하였다.
그러나 혁신의회는 별 성과를 내지 못했고, 만주에서는 공산주의 세력이 대두하고 민족주의 세력의 영향력이 저하되고 있었다. 아나키스트들 역시 공산주의 세력의 성장에 위협을 느끼고 있었다. 이리하여 공산주의 타도라는 공동 목표 아래 아나키스트들과 민족주의자들은 연합하여 위기를 타개하고자 하였다.
1929년 7월 21일 김좌진을 비롯한 16명의 대표자는 혁신의회를 해체하고, 신민부를 한족총연합회로 개편할 것을 결의하였다. 김좌진 등 민족주의자들과 남대관, 이을규(李乙奎), 이붕해 등 재만조선무정부주의자연맹 일파의 연합으로 20여 개의 농무협회(農務協會)를 망라한 한족총연합회가 결성되었다.
간부는 위원장 김좌진, 부위원장 권화산(權華山) 외에 김종진(金宗鎭), 한청암(韓靑巖), 정신(鄭信), 이을규, 박경천(朴耕天), 이붕해, 강석천(姜石泉), 이달(李達), 김야봉(金野蓬), 김야운(金野雲), 이덕재(李德載) 등으로 구성되었는데, 과반수가 아나키스트들이었다.
창립 이후 조직 기반을 확충하기 위해 지방조직 재정비 작업을 실시하였다. 한편, 교육 사업으로 50여 개소의 소학교를 운영하였는데, 구강포학교(九江泡學校), 보신학교(保新學校), 동신학교(東新學校) 등 3개 학교를 신설하였다. 북만(北滿) 지역에 중등학교 설립 작업도 추진하였다. 이와 함께 1929년 10월부터 동삼성(東三省) 영안현(寧安縣) 산시참(山市站)에 정미소를 설치하여 운영하였다. 그리고 국내에서의 직접 행동을 도모하기도 하였다.
1930년 1월 공산주의자에 의하여 김좌진이 암살되자, 정신 등이 한족자치연합회(韓族自治聯合會)로 개편하였다. 1930년 7월 이장녕(李章寧), 홍진(洪震), 지청천(池靑天), 황학수(黃學秀), 신숙(申肅) 등은 한족총연합회와 생육사(生育社)를 모체로 북만주 위하현(葦河縣)에서 재만(在滿) 한국독립당(韓國獨立黨)을 결성하였다.