호는 해사(海沙). 황해도 장연 출신. 아버지는 김병규(金秉奎)이다. 숭실중학교를 졸업, 연희전문학교 수물과를 수료하고, 1925년에 세브란스연합의학전문학교를 졸업하였다.
그 뒤 1961년 9월까지 모교에서 교수·학장·부총장·명예교수를 역임하면서 모교의 발전을 위해 헌신하였다. 1932년 노스웨스턴대학교 의과대학에서 「간장추출제가 위액 분비에 미치는 영향」으로 의학박사학위를 받았다. 1935년에는 일본 교토부립의과대학으로부터 의학박사, 1963년 10월 연세대학교에서 명예법학박사학위를 받았다.
한편, 평양기독병원 원장 겸임, 미군정청 문교부 의학교육담당관, 대한의학협회 부회장, 학술원 회원, 대한가족계획협회 회장, 원자력위원회 위원장, 평화통일정책자문회의 상임위원 등을 역임하였다.
서울시 교육공로자표창장, 학술원 자연과학공로상, 대한민국교육공로훈장 등 여러 기관에서 상훈을 받았다. 유언에 의하여 그의 시신은 연세대학교 의과대학 학생실습에 바치는 등, 후진교육에 마지막까지 몸 바쳤고, 철저한 종교관에 입각하여 생활하였다.