1924년 충청남도 공주에서 출생했다. 본관은 평산(平山)이다. 1942년경성고등보통학교(현 경기고등학교)를 졸업한 후, 일본으로 건너가 1943년 일본 육군예과사관학교 예과를 마친 후, 1945년 일본 육군항공사관학교를 졸업하였다. 졸업 후, 1945년 5월 임관하여 약 3개월 동안 일본군 항공대 소위로 소련의 참전에 대응하기 위해 남만지구의 비행장으로 파견되어 전투기 조종사로 복무하다가 해방 후 귀국하였다.
귀국 후, 미군정 하에서 착수된 대한민국 국군 창설에 참여했으며, 육군사학관교를 2기로 졸업하였다. 1953년 미국 공군대학교를 수료하였고, 1961년 국방대학원을 졸업하였다. 1948년 24세로 육군 군기감(현 헌병사령관)에 임명되었는데, 여수·순천사건 발생 당시 육군 헌병사령관으로 사건 처리를 담당하였고, 남조선노동당 계열의 장교를 숙청하는 숙군 작업에도 참여하였다. 한국전쟁이 발발한 1950년 6월 25일 새벽, 육군본부 주번 총사령으로 북한의 남침을 최초로 보고하였으며, 제7사단장으로 1950년 10월, 백선엽 장군의 제1사단과 함께 평양을 점령해 시가행진을 벌인 것으로도 유명하다.
한국전쟁 중인 1951년 육군에서 공군으로 자리를 옮겨, 공군본부 작전국 국장을 지냈으며, 1953년에는 공군사관학교 교장으로 임명되었다. 1959년부터는 공군본부 참모부 부장을 역임했으며, 1961년 5·16 군사정변 직후에는 국방부 정훈국장으로 임명되었다. 1962년에는 군사정전위원회 한국군 수석대표로 참여하였다.
1962년 공군 소장으로 예편하고, 동년 10월 박동진 대사 후임으로 월남 주재 특명전권대사로 임명되었다. 1970년 12월 사임할 때까지 국군의 베트남 파병 지원과 통상, 문화항공협정 체결 등의 성과를 달성하였고, 특히 1968년 베트콩의 구정공세(舊正攻勢) 때 대한민국 대사관의 경비 병력을 진두지휘한 일화로도 유명하다. 1970년 12월부터 1973년 12월까지는 김보현 장관의 후임으로 제23대 체신부 장관을 역임하였으며, 1972년 10월 유신 당시 비상국무회의에 참여하였다. 체신부 장관 재직 중, 장거리 전화 자동화, 공중전화 증설, 백색 전화제 신설 등 국내 통신 인프라의 확충에 공헌하였으며, 박정희 대통령 특사로 버마(현 미얀마) 및 말레이시아에 파견되기도 하였다.
이후 1974년 스페인대사를 거쳐 1979년 제10대 국회의원으로 활동하였으며, 김종필 전 국무총리가 창당한 자유민주연합에 입당해, 1995년 당 고문직과 대한민국 헌정회 고문직을 맡기도 하였다. 상훈으로는 을지무공훈장, 수교훈장 광화장, 미국 리존오브메리트(Legion of Merit), 청조근정훈장, 수교훈장 흥인장 등이있다. 2005년 9월 18일 사망했다.