1919년 음력 4월 초순에 홍석운(洪錫雲)·김송혁(金松赫)·주석환(朱錫煥)·표영준(表永準)·유영삼(劉英三)·여행렬(呂行烈) 등은 평양의 기홀병원(紀笏病院)에서 상해 임시정부의 특파원 김석황(金錫璜)의 중재로 결사보국을 맹세하고 그곳의 각종 독립운동단체를 통합, 의용단을 조직하였으며, 단장에 홍석운, 총무에 여행렬, 군무(軍務)에 김송혁, 재무에 임승업(林承業), 서기에 이기영(李起榮) 등을 각각 선임하였다.
그리고 얼마 뒤에는 수안·강동·중화·덕천·순천·평원·서울 등지에까지 지단(支團)을 설치, 그 활동을 확대해갔다. 1920년 5월 말(음) 이들은 간부회의를 소집, 활동계획을 수립하였다.
이에 따라 같은해 8월 3일(음력 6월 19일) 문일민(文一民)·김예진(金禮鎭)·우덕선(禹德善)은 평안남도청에, 장덕진(張德震)·안경신(安敬信)은 평양경찰서에 각각 폭탄을 투척, 그 폭파를 기도하였고, 이어 같은 달 20일 단장 표영준이 평안남도 경찰부장을 습격, 중상을 입히기도 하였다.
또한, 25일 단원 민양기(閔良基)가 일본경찰을 사살하였고, 같은 해 8월 초순에는 김석황이 평양경찰서 소속경찰에게 중상을 입혔다. 그리고 1921년 8월 15일 역시 김석황이 대동군에서 일본경찰 1명을 사살하였으며, 9월 이치모(李致模)가 강동경찰서에 폭탄을 투척하였고, 10월 이수영(李洙泳)이 성천 삼흥에서 일본경찰을 사살하였다.
이처럼 의용단은 한 때 평안도 일대의 의열투쟁을 주도하였을만큼 활발한 활동을 벌였으나, 중심인물이 점차 일본경찰에 잡힘으로써 그 활동도 위축되어갔다.