손정도(孫貞道)·김철(金徹)·김립(金立)·윤현진(尹顯振)·김구(金九)·김순애(金淳愛) 등이 1920년 1월 조직하였다.
이 단체는 처음 본단에 단장·부단장·총무·서무부장·군무부장·장재부장을 각 1명씩, 그리고 서기 약간 명을 두고, 임시정부를 절대적으로 옹호한다는 규정 아래 조직되었다. 또, 국내의 각 도에는 지단을, 각 군에는 분단을 설치하고 외국에도 필요하다고 인정되는 지역에는 지단이나 분단을 설치한다는 취지를 세웠다.
이와 같은 취지 아래 이 단체의 총무인 김석황(金錫璜)은 1920년 4월 중순 국내에 파견되어 평양에서 김동선(金東宣)을 만나 국내 의용단조직에 들어갔다.
그리하여 그 해 6월 홍석운(洪錫雲)·여행렬(呂行烈)·김송혁(金松赫)·주석환(朱錫煥)·임승업(林承業)·이기영(李起榮)·김의창(金義昌)·표영준(表永準)·유성삼(劉成三) 등과 함께 각지의 독립운동단체를 통합하여 국내독립의용단을 조직하고 각 지방에 지단도 설립하게 되었다.
국내의 단장에는 홍석운, 총무는 여행렬이 맡고, 수안(遂安)·강동(江東)·삼등(三登)·중화(中和)·덕천(德川)·성천(成川)·순천(順川)·평원(平原) 등지에 지단을 두게 되었다.
의용단의 목적은 정연한 조직과 견고한 단결 밑에서 정부의 뜻을 체득하고 명을 받들어, 모든 배포와 거동을 질서와 맥로(脈路)가 있게 하여 일단 선전포고가 내리는 날에는 일거에 일어나 조국광복을 쟁취하려는 것이었다.
이러한 목적 아래 이 단체는 평안도·황해도 및 서울을 중심으로 조직을 확장시켜 우선 1,000명의 독립군을 양성하여 일제 기관의 습격이나 일제 고관들을 처단할 계획이었다.
그런데 1920년 8월 미국의원단의 내한을 계기로 평남지단의 김예진(金禮鎭) 등 20여 명의 단원들은 만주에서 입국한 문일민(文一民)·장덕진(張德震) 등과 함께 거사를 계획하여 그 해 8월 3일 김예진·우덕선(禹德善)·문일민 등이 평안남도청을 폭파하였으며, 8월 6일 표영준이 평안남도 경찰부장이 탄 차를 습격하는 등의 활동을 벌이다가 다수의 단원이 붙잡혀 옥고를 치렀다.