경상남도 웅천 출신. 웅천에서 사립 개통소학교(開通小學校)를 거쳐, 평안북도 정주의 오산학교(五山學校)에 입학, 1916년 졸업하였다.
다음 해 서울 연희전문학교(延禧專門學校) 상과에 진학하였으나 안질 때문에 곧 중퇴, 고향으로 돌아왔다. 웅천교회에서 집사로 봉직하던 어느 날, 김익두(金益斗) 목사의 설교에 감동되어 성령을 받고 중생(重生)하는 체험을 하였다.
1921년평양의 장로회신학교에 입학, 1926년 졸업하였다. 1926년부산 초량교회의 목사로 부임하였고, 경남성경학원을 세워 후진교육에 힘썼다. 1931년 9월마산 문창교회의 위임목사로 부임, 전국에 이름이 난 저명한 목사로 부각되기 시작하였다.
그가 평양의 산정현교회에 부임한 것은 1936년 여름, 송창근(宋昌根)의 후임으로서였다. 그때 그 교회에는 민족주의자 조만식(曺晩植)·유계준(劉啓俊)·오윤선(吳胤善) 등이 출석하고 있었다.
그는 도착하자 곧 교회당 건축에 착수하여 1938년 3월 헌당식을 가졌다. 그러나 신사참배 반대로 헌당식 직전에 경찰에 검속되었다.
일제의 신사참배 강요는 그가 평양에 부임하기 1년 전부터 평양교회와 신학교를 괴롭혔고, 결국 평양의 숭실 학교나 평양신학교는 1938년에 각각 폐쇄되었다.
신사참배에 대한 강한 반대 입장을 표명한 그는 1939년 7월 경상북도 의성의 농우회사건(農友會事件)에 연루되어 검속되었다가 1940년 2월에 석방되어 평양으로 돌아온 뒤, 산정현교회에서 ‘다섯 종목의 나의 기도’를 최후로 교인들에게 전하였다.
이 설교 사건으로 경찰이 이틀 후에 그를 검거하였고, 그때 산정현교회 목사직을 파면 당하였다. 파면은 평양노회의 결의형식이었다. 그리고 산정현교회도 동시에 폐쇄되었다.
감옥에서 5년간 고생하다가 1944년 4월 13일 병감(病監)으로 옮겨지고 4월 20일 부인 오정모와 마지막 면회를 한 뒤 4월 21일 감옥에서 병사하였다.
1963년 건국훈장 독립장이 추서되었다.