일제의 침략이 노골화된 구한말에 신학문을 통한 교육구국(敎育救國)·교육입국(敎育立國)의 취지에서 기호지방의 우국지사들에 의하여 설립되었다.
1908년 6월 21일 기호흥학회(畿湖興學會)에 의해 한성 소격동(昭格洞)에 있는 옛 육군 위생원 건물을 빌려 사립 기호학교(畿湖學校)로 설립되어 초대 교장에 윤효정(尹孝定)이 취임하였다. 3년제 본과와 1년 6개월의 특별과(교원양성소)에 신입생은 95명이었고, 교과목은 수신·교육·학교관리법·지리·역사·물리·화학·박물학·산술·어학·경제·법학·농학·도화·창가·체조 등이었다.
제2대 교장 박승봉(朴勝鳳)은 무엇보다 시급한 것이 교사(校舍) 문제임을 통감하고 1908년 12월 한성 북부 화동(지금의 서울 종로구 화동)에 교사를 마련하여 이전하였다. 1909년 12월에 제1회 졸업생 61명을 배출하였으며, 1910년 1월 특별과를 폐지하고 본과만으로 운영하다가 같은 해 9월 흥사단에서 설립한 융희학교(隆熙學校)를 합병하였다.
당초 우국지사들에 의하여 설립된 호남학회(湖南學會)·교남학회(嶠南學會)·관동학회(關東學會) 등이 운영난으로 1910년 11월 기호흥학회에 통합되면서 학회 이름을 중앙학회(中央學會)로 바꾸고 교명도 중앙학교로 변경하였다.
그 뒤 재정난으로 경영이 어렵게 되자 1915년 4월김성수(金性洙)가 중앙학교를 인수하여 교장에 취임하고 김기중(金祺中)과 김경중(金暻中)을 설립자로 추대하였다. 김성수는 학교의 건학이념을 진작하기 위하여 민족이념이 투철한 송진우(宋鎭禹)·현상윤(玄相允)·최두선(崔斗善) 등 유능한 인사들을 교사로 초빙하고, 1917년 계산(桂山) 언덕(지금의 서울 종로구 계동)에 교사를 신축하여 이전하였다.
1921년 중앙고등보통학교로 개편하고 이듬해 수업연한을 5년으로 연장하였으며, 1938년 다시 중앙중학교로 개편되었다. 1947년 수업연한이 6년으로 연장되었다가 「교육법」 개정에 따라 1951년 중앙중학교와 분리되어 3년제 중앙고등학교로 개편되었다.
1964년 학교법인을 중앙학원에서 고려중앙학원으로 변경하였다. 1981년 문화공보부로부터 본관·서관·동관을 각각 사적으로 지정받았다. 2009년 자율형 사립고등학교로 지정되었다.
교지(校旨)는 민족의 자주독립정신을 고취한 건학이념을 반영하여 1917년 당시 김성수가 제정한 ‘웅원(雄遠)·용견(勇堅)·성신(誠信)’으로 되어 있다. 높은 이상과 강건한 용기, 성실한 봉사정신을 가진 중앙인 육성을 교육목표로 해서 외국어 구사 능력 향상, 특기적성 계발, 가치관·질서교육 강화 등에 역점을 두고 교육활동을 전개하고 있다.
일제강점기 학생운동으로 3·1운동, 6·10만세운동, 광주학생운동 등의 항일운동에 적극 동참하였으며, 1922년에는 교사 조철호(趙喆鎬)에 의하여 조선소년군(朝鮮少年軍)이 창설되기도 하였다.
1905년 미국 선교사에 의해 도입된 야구는 1910년대 중앙학교가 중심이 되어 시작된 학교 대항 야구대회에 의해 본격적으로 알려지게 되었다. 현재 매년 특별활동 발표회인 석전제를 개최하고 있고, 1989년에 『중앙 80년사』, 2009년『중앙 100년사』를 간행하였다.
2010년 현재 30학급에 총 1,062명의 학생이 재학하고 있다. 교직원은 81명이 재직하고 있으며, 101회 졸업식을 거치면서 총 3만 3644명의 졸업생을 배출하였다.