어려서부터 한학(漢學)을 수학하다가 1900년 관립 수하동(水下洞) 소학교에 다니고, 다시 한학에 몰두하였다. 1905년에 경성일어학당(京城日語學堂)에 입학하였고, 1907년에 경신학교에 진학하였다. 1909년 경기도 양평학교(楊平學校) 교사가 되었다.
이듬해부터 2년간 평안북도 정주(定州)의 오산학교(五山學校) 교사로 재직하는 동안 설립자 이승훈(李昇薰)을 기독교에 입교하게 하고, 동료 선생이던 이광수(李光洙)에게 톨스토이를 소개 받은 것을 계기로 톨스토이 연구에 정진하여 시종 무교회주의적 입장을 취하였다.
1912년 일본에 건너가 동경물리학교에서 수학하던 중, 신앙에 대한 회심으로 출세 거부의 결단에 따라 유학 도중 귀국하였으며, 종교 철학(宗敎哲學)을 독학으로 탐구하여 나갔다.
1914년 최남선(崔南善)과 교류하며 『청춘』지에 「농우(農牛)」 · 「오늘」 등을 1918년까지 기고하였다. 1921년 조만식(曺晩植)의 후임으로 오산학교 교장에 부임하여 일 년 재직하는 동안 김교신(金敎臣) · 함석헌 등 제자에게 큰 감화를 주었다.
1928년 YMCA 성경 연구반 지도를 맡아 35년간 계속하는 한편, 김교신의 『성서조선(聖書朝鮮)』지에 신앙의 글들을 발표하여 성서조선사건으로 1942년 종로경찰서에 구금되어 문초(問招)를 받기도 하였다.
1940년 후반 생애를 하루 한 끼의 일중(一中)으로 금욕 생활을 실천하는 가운데 선구적인 비교 종교학(比較宗敎學) 연구가이자 독보적 종교철학자로 기독교를 비롯한 동서양의 진리를 끊임없이 설파하였다.
또 1955년부터 『다석일지(多夕日誌)』를 쓰기 시작하여 종교적 묵상을 1974년까지 기록하였고 그의 사후 제자들이 영인(影印)하여 발간하였다. 『노자』를 국역하였고, 한글 연구에도 탁견(卓見)을 보였다.
천문과 지리, 동서양 철학 및 종교 사상에 능통한 철학자로서 동서양의 정신 문화를 창조적으로 융합했다는 평가를 받고 있다.