1920년 5월 15일 당시 조선인 유학생이었던 전진한(錢鎭漢)·박렬(朴烈)·오성식(吳成軾)·김말수(金末守)·조진봉(曺鎭鳳) 등 20여 명이 일본·중국의 무산자계급과 제휴하여 권익옹호와 공산사회주의 이념전파를 위해 회를 조직하였다.
원래 ‘재일본무산자청년동맹회(在日本無産者靑年同盟會)’라고 불렸으나, 1925년 5월 하순경 ‘재일본조선무산청년회’로 명칭을 바꾸었다. 초창기에는 일본인과 중국인도 가담하였으나, 점차 1924년경부터 조선인만의 모임으로 성격이 변했기 때문이다.
이들은 1927년 5월 협동조합의 결성 허가를 일본 정부에 요청하였으나 받아들여지지 않자, 히비야(日比谷)공원에서 대중집회를 열고 규탄대회를 열었다.
그러나 일본경찰의 저지로 대중집회를 뜻대로 진행시키지 못하였다. 이에 무산자계급의 권익옹호와 민족차별철폐, 식민지정책의 완화, 대중경제의 실시 등 20여 개의 구호를 적은 전단(傳單)을 제작, 배포하여 가두 선전을 벌였다.
이어 이들은 오사카(大阪)·나라(奈良)·나고야(名古屋) 등 10여 곳에 지부를 설치하고, 일본 정부에 권익옹호와 사회운동을 위한 기반 조성에 열성을 기울이기도 하였다. 그러나 일본은 이들의 주장과 행동이 점차 과격해지고, 이른바 치안에 중대 위협을 준다는 구실로 회의 해산을 종용하였다.
그렇지만 이들은 동요됨이 없이 계속해서 대중과의 연계투쟁을 전개하였고, 이에 일본 정부는 1932년 5월 31일 경찰을 동원하여 강제 해산시키고, 회의 본·지부를 강제로 봉쇄하였다. 그 뒤 회는 활동을 하지 못하고 말았다.