김찬(金燦)·박일병(朴一秉)·이호(李浩)·최현(崔鉉) 등 23명이 1924년 2월 11일 창립대회를 열어 결성되었다.
그러나 본래는 무산자만의 청년 단체인 윤덕병(尹德炳)·백광흠(白光欽) 등의 조선노동연맹회와 민태흥(閔泰興)·이호 등의 토요회, 그리고 김찬·박일병 등의 신사상연구회계가 합류하여 조직된 단체이다. 그런데 서울청년회계에 대항하는 조직이었다.
단체의 강령은 사회 진화의 법칙에 의거하여, 신사회 건설을 위한 훈련자를 양성할 것과 계급 의식의 각성을 촉진하기 위해 세계적 무산 청년의 수양 기관의 설치를 기할 것 등으로 결정하였다. 그리고 신흥청년의 단결을 도모하고 출판·강연·강습·연극 등을 때때로 개최하며, 청년 수양에 관한 일반 조사를 실시할 것 등을 계획하였다.
창립 당시의 집행위원으로는 박일병·김찬·민태흥·이호 등이 선임되었다. 그런데 결성 직후부터 서울을 비롯한 전국 각지에서 홍명희(洪命熹)·김장현(金章鉉)·조봉암(曺奉岩)·박헌영(朴憲永) 등 쟁쟁한 인사들이 동원되어, 청년 문제 대강연회를 개최하는 등 세력 확장에 총력을 기울였다.
또한, 8월 기관지 발행을 목적으로 한 잡지사 신흥청년사의 창립 총회를 열고, 출판 경영에 관한 협의가 이루어지면서 본격적인 활동이 시작되었다.
한편, 그 해 4월 청년 단체의 전국적인 통일 조직을 이룩하고, 조직을 실력으로 장악해야 된다는 목적에서 서울청년회가 주도하는 조선청년총동맹 발기 단체에 가맹하기도 하였다. 그러나 1925년 이후의 활동은 일제 치하의 여러 가지 제약과 간부들의 공산당사건 연좌에 따른 체포, 피신 등으로 말미암아 부진을 면할 수 없었다.