1920년 조선학생의 사상적 단결과 실력 양성에 충실을 기할 목적으로 결성된 조선학생회(朝鮮學生會)는 지도급 학생층의 지지와 참여가 있었을 뿐만 아니라, 동아·조선·중외 일보사 등의 후원을 받으면서 공인된 민족세력의 일익을 담당하였다.
그런데 당시 국내민족운동은 문화운동·민족실력배양운동 등이 부각되어 다각도로 전개되고 있었으며, 종래 민족주의와는 다른 새로운 사상운동이 다질성(多質性)을 띠며 확산되어 가고 있었다.
이러한 추세 속에서 조선학생회도 학생의 전면적 동조와 구심력의 중심체가 될 수 없음을 깨닫게 되었다. 그래서 1924년 6월 서울시내 중학교·전문학교 일부 학생이 중심이 되어 조선학생계의 사상통일과 지식의 교환, 친목도모를 목적으로 하는 조선학생총연합회를 결성하기로 하였다.
준비집행위원으로 김동양(金東洋)·정재철(鄭在哲)·박충모(朴忠模) 등이 선임되어 이를 추진하였다. 이들은 서울 와룡동 68번지에 임시연락소를 두고, 조선내의 중등·전문학교 학생뿐만 아니라 일본·중국의 유학생 및 그밖의 외국유학생들에게도 회원 가입을 받았다.
그러나 기존의 조선학생회측에서는 조선학생의 유일한 기관인 조선학생회가 존재하고 있음에도 불구하고 연합회라는 별개의 조직체를 결성하려는 것은 조선학생운동을 방해하는 소행이라고 지적하고 맹렬히 비난하고 나섰다.
그러나 조선학생총연합회의 창립 총회는 예정대로 그해 9월 11일 중앙기독교청년회관에서 개최되었다. 주로 중등학교 학생으로 발기인 180여 명이 참가하여 이뤄졌는데, 그 날 조선학생회측의 성토가 있어 독자적인 집회 능력을 발동시키지 못하였다. 그 뒤 양측의 대립은 계속되었으나 조선학생총연합회측의 활동이 점점 위축면서 약화되어 갔다.