본관은 김해(金海), 호는 해암(海巖). 함경남도 원산 출생. 병익(秉翼)과 덕산인(德山人) 조영국(趙英國)의 둘째 아들이다.
1926년에 원산제일보통학교(元山第一普通學校)를, 1931년에 원산중학교를 졸업하였다. 1936년 경성제국대학(京城帝國大學) 법문학부(法文學部) 조선어문학과(朝鮮語及文學科)를 졸업하였다. 이 해에 전주사범학교(全州師範學校) 교유(敎諭)에 취임하였다가 1939년 ≪조선일보≫에 조선어말살정책을 비판한 <조선어의 과거와 미래>라는 글을 발표하여 이 학교에서 파면당하였다.
광복과 더불어 원산중학교 재건을 추진, 교장에 취임하였는바, 신탁통치반대운동으로 1개월 동안 투옥되었으며 이로 말미암아 교장에서 파면을 당하였다. 1946년에 보성전문학교(普成專門學校) 교수에 취임, 학제 개편으로 고려대학교 교수가 되었다.
1948년 숙명여자대학교 겸임교수가 되었으며, 1952년에 서울대학교 사범대학 국어교육과 교수에 취임하였다. 1976년에 서울대학교에서 정년퇴임한 뒤, 1977년에 덕성여자대학 교수에 취임하였으며, 1980년에는 세종대학 교수에 취임하여 4년 간 역임하였다.
1953년 이후로 국어심의회 위원으로 여러 번 임명된 바 있으며, 1988년에는 국어연구소 소장에 취임하여 4년 간 역임하였고 그 이후로는 공직에 종사한 일이 없다. 1953년과 1959년에 한글학회 이사에 피임되었으며, 1965년 국어학회 부이사장, 1982년 회장으로 선출되었고, 이후 명예회장으로 추대되었다. 1970년 대한민국 학술원 회원이 되었다.
일생 동안 국어학 연구를 행하면서 국어교육자를 양성하였고 국어정책 발전에 힘썼으며, 나아가서는 어문(語文)을 바탕으로 민족의식을 고취하였으며 신탁통치반대운동 등 민족지사로도 활동하였다.
주요 연구 논문으로는 <자음동화 연구>(1946) · <훈민정음 과 그 이전의 우리 문자>(1947) · <경양사(敬讓詞)의 연구>(1947) · <삼국사기(三國史記) 지명 연구>(1949) · <주격(主格)토 ‘가’에 대한 소고(小考)>(1954) · <구개음화 연구>(1959) · <경상남북도방언연구>(1964) · <국어조어(造語)연구>(1974) · <국어경어법 연구>(1975) 등 문자 · 음운 · 문법 · 어휘에 관련된 논의들로 전체적으로는 국어사 연구에 속하는 것들이 있다. 대부분 ≪한글≫ · ≪서울대학교 논문집≫ · ≪학술원논문집≫ 등의 논문집에 게재되었다.
주요 연구 저서로는 ≪국문학개론 國文學槪論≫(공저, 1948), ≪국어학개론 國語學槪論≫(1949), ≪국어사 國語史≫(1955), ≪고가주석 古歌註釋≫(1955), ≪국어사연구 國語史硏究≫(1962), ≪한국방언연구 韓國方言硏究≫(1974), ≪국어사개요 國語史槪要≫(1975) 등이 있다. 이 중 ≪국어학개론≫은 우리나라에서 간행된 첫번째의 개론서이며, ≪한국방언연구≫는 상 · 하권 합본으로 상권은 1,458개의 조사항목에 대한 자료로 구성되어 있고, 하권은 8편의 방언 관련 논문으로 구성되어 있다.
그 밖에 수필집으로 ≪계절의 향기≫(1963), ≪인정(人情)의 향기≫(1971), ≪인생의 향기≫(1981) 등이 있다.
마지막 공직이었던 국어연구소 소장 시절에는 특히 <한글맞춤법>과 <표준어규정>을 마무리지었는바, 작고할 때까지 한글 맞춤법과 표준어 규정에 대한 그의 집념은 대단했다.