1927년 무렵 일본의 재일한인 공산주의자들이 ‘재일본 조선노동조합총연맹’(약칭 재일노총)을 결성해 한인 노동자들의 권익옹호와 민족운동을 전개하자, 장상중(張祥重)과 오우영(吳宇泳) 등 한인아나키스트들은 이에 대응할 목적으로 1927년 2월 22일 도쿄 혼쇼구(本所區) 나가쿠라조(永倉町)의 흑풍회(黑風會) 사무실에서 조선자유노동자조합(朝鮮自由勞働者組合)을 결성하였다. 처음에는 자유노동자만을 조합원으로 하는 원칙으로 삼았으나, 일부 공장노동자도 가입을 허용했으며, 매월 10전 이상의 회비를 정하는 등 9개항의 규약을 정하였다. 이 조합은 강허봉(姜虛峯)을 대표로 하는 강동부(江東部)와 김석(金碩)의 산수부(山手部)로 나뉘었다. 그해 12월 두 지부는 각각 160명과 140명의 회원을 가지게 되었다.
조합은 결성 선언문에서 ‘노동자 해방은 노동자 자신의 힘으로’라는 슬로건을 내세워 아나키즘 사상을 지도이념으로 삼았음을 표방하였다. 이들은 공산주의자들의 주장인 중앙집권주의와 정치운동의 배척을 결의하였고, 자유연합주의를 주창하는 4개항의 강령을 채택하였다. 강령은 당시 코민테른과 조선공산당 일본총국의 지도를 받고 있던 재일노총의 노선을 공개적으로 비판하며, 자유연합주의에 입각한 노동운동을 전개할 것임을 선언하였다. 이 조합은 연구회를 개최해 조합원들에 대한 의식교육을 시키는 한편, 일본 아나키스트들과의 교류를 확대하였다.
1933년 6월 조합 책임자인 오우영과 이윤희(李允熙) 등은 내부 전열정비와 함께 동흥노동동맹과 통합하기 위해 교섭을 벌였다. 통합추진측은 그해 10월 23일 도쿄 일반노동자조합의 명의로 선언과 강령, 규약 등을 작성하여 동지들을 규합하였다. 그 결과 1934년 1월 21일 임시총회를 열고 조선일반노동조합(朝鮮一般勞働組合)으로 통합되기에 이르렀다. 이 조합은 1935년 11월경 해체되었다.
1927년 2월 창립된 이후 일본단체와의 공동집회와 노동절 행사 등에 적극 참여하였다. 이러한 노력으로 1929년 12월 29일 일본 도쿄에서 열린 전국자유노동자실업대회에서 본 조합의 대표인 강허봉이 사회를 보고 간부인 김제원(金濟元)이 서기를 각각 맡았다. 이 대회에서 참석자들은 ‘조선인노동자 임금차별 철폐’와 ‘조선노동자 도일금지 결사반대’를 비롯한 6개 항목을 채택하였다. 1932년 4월에 열린 전국자유노동조합연합회 3차 대회에서 본 조합간부인 이윤희를 서기로 선출하기도 하였다.
조선자유노동조합은 창립 초기부터 지식인이 주도하지 않는 노동자만의 대중조직임을 표방하였다. 이 조합은 일체의 정치운동을 배격하는 경제적 직접행동, 그리고 노동자의 의식개혁을 위한 선전활동 등을 중요한 활동방향으로 설정하였다. 또한 본 조합은 일본 제국주의 경제체제에 반대하는 한편, 공산주의 세력에 대해서도 비판적인 입장을 채택하였다. 공산주의 계열인 재일노총의 세력확장에 반발하여 결성된 본 조합은 재일한인 노동자들의 반일·반자본주의 사상 강화에 힘쓴, 아나키스트운동의 순수성을 강조한 순정 아나키즘의 경향을 띠었다고 할 수 있다.