1920년 5월 조선학생대회(朝鮮學生大會)가 결성되어 과거 학생활동의 중심이었던 학우회나 친목회 등에서 보여준 분산성을 지양하고, 명실공히 학생층의 구심체로 다방면에 걸쳐 활발한 활동을 전개하였다.
이에 일제당국은 학교 경영자들에게 압력을 가하였는데, 1922년 7월 이른바 서울시내 7개 중등학교 교장회의를 통해 중등 학생의 조선학생대회 입회 불허를 결의하도록 하였다.
따라서 조선학생대회로 결집되려던 학생세력은 커다란 타격을 입게 되어 점차 무력화되었다. 이에 뜻있는 전문학교 학생들 중심으로 이를 대신할 수 있는 학생조직체를 만들기 위한 노력의 결실로 조선학생회 창립운동이 일어나게 되었다.
같은 해 11월 26일 수표정(水標町) 교육회관에서 서울시내 각 전문학교 학생 50여 명이 모여 발기회를 열고 조선학생의 단결도모, 실력충실 등을 내세우며 창립활동을 개시하였다. 그리고 회의 규칙기초위원과 준비위원을 선출하여 창립준비권한을 일임하였다.
그리하여 1923년 2월 9일 YMCA에서 경성의전생(京城醫專生) 김정상(金鼎相)의 사회로 창립총회를 개최하여 조선학생의 단결 및 학생문제 해결, 학생 상호간의 선도와 친목 등을 강령으로 채택하였다. 그리고 중앙집행위원장에 김정상, 상무집행위원에 홍대권(洪大權)·강호준(姜鎬俊)·신봉조(辛鳳祖)·김상수(金祥洙)·이세기(李世基)·조귀순(趙龜淳) 등의 간부를 선출하였다.
그런데 조선학생회는 조선학생대회가 변형되어 비록 전문학교 학생들만의 단체였지만, 국내의 유일한 학생단체라는 점에서 창립 당시부터 지도급 학생층의 지지와 참여가 있었을 뿐만 아니라, 동아·조선·중외 일보사 등의 후원을 받으면서 공인된 민족세력의 일익을 담당해 나갔다.