경상북도 포항 출신. 본관은 김녕(金寧).
해방 전 일본 육군비행학교를 수료하고, 1949년 간부후보생 4기로 군에 입대하여 육군항공사령부에서 근무하던 중 같은 해 10월 1일 공군이 창설되자 공군비행단에 배속되었다. 1950년 한국전쟁이 발발하자 미군의 F-51 전투기를 인수하기 위해 일본에 건너가 항공기를 가지고 돌아와 출격을 개시한 이래 휴전시까지 총 85회를 출격하는 등 전쟁 승리에 기여하였다.
1955년 전투비행단장, 1961년 공군작전사령관에 취임하였으며, 같은 해 8월 10일 준장으로 진급하였다. 1966년 공군사관학교 교장직을 맡아 후진양성에 매진하였으며, 1968년 중장 진급과 함께 제10대 공군참모총장에 취임, 1969년 1월 1일에는 공군 최초의 대장으로 진급하였다.
총장 재임기간 중 1968년 북한의 무장공비 청와대 기습사건, 미 정보함 푸에블로호 납북사건 등으로 한반도가 전쟁분위기에 휩싸이자 한국군 장비 현대화계획을 추진하여 미국으로부터 F-4D 전투기를 도입 배치하였다. 1970년 군을 떠난 후 1988년부터 1992년까지 제13대 민자당 국회의원을 지냈다.
1951년 한국전쟁 중 을지무공훈장을 받은 것을 시작으로 금성충무무공훈장(1953년), 유엔종군기훈장(1954년), 무성화랑무공훈장(1956년), 미공군훈장(1961년), 중화민국영수운휘훈장(1967년) 등을 받았다.