연합회는 1921년 3월 15일 발기 당시 “노동운동의 동일성과 무산자의 세계적 제휴를 도모하며 무산계급의 ××를 기함”과 “교양에 노력하며 노동자의 지식을 계발하며 당면의 이익을 도모하며 당면의 이익을 위하여 투쟁함으로써 정치적 또는 경제적으로 노동자의 생활을 향상케 함”이라는 두개의 강령을 내걸고 1921년 3월 15일 이 연합회를 발족하였다.
초기에는 순전히 객주조합에 부속된 미미한 존재였다. 그러나 1925년 김경식(金瓊植)이 1,000여 명의 노동자를 규합하여 위원장으로 취임하면서 직업별 조직체로 개편하고 노동연합회로 이름을 바꾸었다.
1929년에는 대부분의 해륙운수 노동자 1,800여 명과 기공적 직업(技工的職業)에 종사하는 양복·양화·인쇄·이발공 등의 노동자 400여 명 등이 참여하면서 총 2,200여 명으로 늘어나, 원산의 전산업노동자를 장악하고 있었다.
조직체계를 보면, 산하에 장소와 직업에 따라 23개의 노동조합이 있었고, 각 조합 안에는 더 여러 개의 도중(都中), 즉 반(班)이 있었다. 연합회는 여러 개의 도중이 모여 한개의 노동조합이 되고, 또 노동조합 전부가 모여 연합회를 결성하는 삼단계의 조직체였다.
그런데 연합회는 소조직을 바탕으로 한 튼튼한 조직체였을 뿐만 아니라, 지도부 또한 훌륭하였다. 위원장 김경식을 비롯하여 고문에 추대된 김두산(金頭山)은 독립운동지사였고, 상무진인 이영로(李永櫓)·원정상(元正常)·김대욱(金大郁)·이용상(李容尙)·이용우(李容愚)·이종민(李宗敏)·이봉(李峰)·이창열(李昌烈) 등도 사회적으로 쟁쟁한 인사들이었다.
이들이 얼마나 청렴결백하였는가에 대하여는 원산총파업 당시 일제가 경리장부를 압수하여 이를 탄압할 빌미를 찾았으나, 한푼의 부정도 찾아낼 수 없었다는 점에서 잘 나타난다.
사업으로는 ① 교육사업실시 ② 소비조합운영 ③ 노동병원 및 이발소설치 ④ 구제부를 설치 등을 통해 노동자들의 권익보호와 경제적 향상을 기하였다. 그리고 ① 조합원 선발에 엄선을 기하고 ② 조합원 모두에게 평균임금을 지불하고 ③ 단체협약을 체결, 임금인상 쟁취 등에 노력하였다.
1929년 1월 14일 상오 10시부터 시작된 산하 단위노조인 문평(文坪)제유공장 노동자들의 동맹파업을 시작으로 산하 다른 노조원까지 합세한 가운데 원산시의 노동자 총파업으로 발전된 원산총파업을 주도하였다. →원산총파업