1893년 평안북도 영변에서 출생하였다. 아버지는 김정학, 어머니는 김성덕이다. 부친은 심약(궁중에 바치는 약재조사를 맡는 벼슬)을 역임한 사람으로, 평안북도 박천읍에 한의원을 개원하였다. 그는 예수를 믿고 아들에게 신학문을 가르치고자 한 선각자였다.
영변 유신학교를 졸업한 후 1913년 해주 남본정감리교회를 다니며 노튼기념병원 약국에서 근무하였다. 1917년 세브란스 의전에 입학하였고, 재학 중 의사면허시험에 합격하여 학업을 마치지 않고 수료하였다. 3·1운동 당시 황해도 대표로 선임되었으나 서울에 상경하지 못하게 되자, 구세병원 직원들과 함께 시가행진에 참여하였다가 체포되어 1년간의 옥고를 치렀고, 의사면허도 취소되었다. 출감 이후 1923년 조선약학교를 졸업하고 약제사가 되어 구세병원에서 근무하였다. 이 무렵부터 남본정감리교회 장로가 되어 황해도 평신도 대표로 활동하였다.
1928년 셔우드 홀(Sherwood Hall)과 함께 구세요양원과 결핵위생학교를 설립하고 결핵퇴치를 위한 교육을 시작하였다. 이후 한지의사(限地醫師)시험에 합격하고 면허를 취득하였다. 1930년 1년 동안 일본요양소를 시찰하고 ‘인공기흉법’과 ‘자외선치료법’을 배우고 돌아와 이를 한국에 최초로 도입하였다. 크리스마스 실을 가져와 이를 셔우드 홀에게 제안한 것이 계기가 되어 1932년 12월 3일 한국 최초의 크리스마스 실이 발행되었다. 안창호가 체포, 투옥되어 폐결핵에 걸렸을 때 치료를 해 준 것이 빌미가 되어 1937년 흥사단 국내 지부 동우회 사건으로 체포당했다. 얼마 후 무혐의로 석방되었으나 구세요양원에서 추방되었다.
해방 후 조만식을 중심으로 하는 평양 건국준비위원회에 의료계를 대표하는 15인 위원회 무임소위원으로 선임되었다. 그 무렵 공산당원 임흥수가 밤중에 찾아와 그에게 숙청대상이니 피신하라고 알려줘 월남하였다. 6·25전쟁이 일어나자 대구로 피난을 간 그는 황해의원을 개업, 피난민을 치료하는 한편 대구 피난민회장으로 일하며 삼덕동 동인교회와 유치원을 설립하였다.
1959년부터 경기도 양평 서종면 문호리에서 공의(公醫)로 활동하여, 인술과 농촌운동, 교회재건에 힘썼다. 1976년 6월 25일 83세의 나이로 사망하였다.