경상남도 양산 출생. 본관은 김해(金海). 호는 유석(悠石). 교육자였던 김대현(金大鉉)과 안용기(安瑢琦)의 2남 2녀 중 차남으로 출생하였고, 부인 유춘도(柳春桃)와의 사이에 2남 1녀를 두었다. 부산 제2공립상업학교, 순천공립중학교를 나와 일본 성지공립보통학교, 부산 제5고등학교 이과를 마쳤다.
광복 이후 경성대학 예과 이과를 거쳐 1949년 서울대학교 문리과대학 수학과를 졸업하고, 1958년 미국으로 건너가 1962년에 미국 메릴랜드주립대학교에서 편미분방정식에 관한 논문 「On a mixed boundary problem for an elliptic system of equation으로 이학박사 학위를 받았다.
1964년부터 2년간 메릴랜드 대학에서 편미분방정식을 연구하였다. 1950년부터 1966년까지 부산 수산대학교 및 부산대학교 문리과대학 수학과에서 전임강사로 시작하여 교수로 재직하였다. 1964년 후진양성과 편미분방정식에 관한 연구업적으로 1964년 부산직할시 문화상(자연과학부분)을 수상하였다.
1967년 신설된 서울대학교 공과대학 응용수학과 교수로 부임하여 우리나라에 응용수학의 기틀을 잡는 데 큰 역할을 하였다. 그 후 25년간 서울대학교 공과대학 응용수학과 및 자연과학대학 수학과 교수, 정년퇴임 후에는 명예교수로 재직하였다.
대한수학회 회장(1971년∼1975년)으로서 우리나라 수학을 발전시킨 공로로 1984년 대한수학회 공로상을 수상하였으며, 서울대학교 교무처장(1975년∼1978년) 및 학술원 회원(1986년∼1994년)으로 봉사하였다. 40여 년을 교수로 봉직하면서 학술연구 및 후진양성에 힘써 해석학, 특히 편미분방정식 분야의 발전에 크게 공헌하였다.
주요 논문으로는 「A note on a finite difference analogue of mixed boundary problem」(1971), 「Reducing operator valued spectra of a Hilbert space operator」(1980), 「The general weighted Orlicz-Sobolev spaces」(1981) 등 여러 편이 있다. 국민훈장 목련장(1978)과 국민훈장 모란장(1990)을 받았다.