경상남도 의령 출신. 호는 고루. 1920년 중국 상해 동제대학(同濟大學) 예과를 마치고 1927년 독일 베를린대학 철학부를 졸업하였다. 1929년 『조선어사전』(뒷날 조선어학회의 『조선말큰사전』)편찬 집행위원, 1930년 한글맞춤법 제정위원, 1935년 조선어 표준어 사정위원, 1936년 조선어사전 편찬 전임위원 및 조선어학회 간사장을 지냈다.
1942년 10월 1일 ‘조선어학회사건’으로 검거되어 징역 6년을 선고받고 함흥형무소에서 복역하다가, 1945년 광복을 맞아 풀려났다. 1946년 건민회(建民會) 위원장을 지냈고, 1948년 4월 ‘남북 제정당·사회단체 연석회의’ 참석차 평양에 갔다가 잔류하여 북한에서 활동하였다.
1948년 9월 북한 제1차내각의 무임소상, 1949년 조국통일민주주의전선(조국전선) 중앙위원회 의장 및 과학원 후보원사, 1953년 최고인민회의 상임위원회 부위원장, 1962년 과학원 조선어 및 조선문학 연구소장, 1966년 조국전선 중앙위 의장, 1970년 조국평화통일위원회 위원장 및 박사, 1972년 양강도 인민위원회 부위원장 등을 지냈다.
한편, 1966년 이후 본격화한 북한의 언어규범화운동인 ‘문화어운동 사업’을 주관하였으며, 논문으로 「조선어조 연구」 등을 남겼다. 월북 전 주요논저로 「조선어 임자씨의 토」(1935)·「조선어 단어성립의 분계선」(1936)·「짓말에 대하여」(1937) 등과 『실험도해 조선어음성학』(1947)·『고투 40년』 (1947) 등이 있다.