서울 출생으로 경기중학교 졸업 후 의사(醫師)가 되기를 원하는 아버지의 권유에도 불구하고 군장교가 되려고 1942년 일본으로 건너가 일본 육군사관학교(제59기)에 입학하였다.
졸업하던 해인 1945년 광복이 되자 다른 동기생과 함께 귀국하였다. 1945년에 군사영어학교(軍事英語學校)에 입교하여, 다음해 졸업과 동시에 육군소위로 임관하였다.
제1연대 교육과장으로 근무한 뒤, 1946년에는 육군사관학교(당시 남조선경비사관학교)를 창설할 때, 부교장 겸 생도대장으로서 육군사관학교의 기초를 닦는 데 기여하였다. 육군사관학교 제2기생의 교육이 한창이던 1946년에 제주도에서 제9연대를 창설하였다.
정치와 사회가 혼란스럽고, 특히 좌익(左翼)의 영향력이 강한 조건에서도 모병(募兵)과 훈련을 실시하여 1947년 초에는 대대 편성을 끝냈다. 연대를 편성하던 중에 총사령부 작전교육국장에 발탁되었고, 다음해에는 통위부 작전처장의 직을 맡았다.
미국 내 여러 군사학교에 고급장교 유학이 처음으로 시작되자 최초의 유학생 7명 중에 포함되어 미국 보병학교에서 교육을 받았다. 1949년 유학을 마치고 귀국해서 당시 창설되었던 육군참모학교의 교감 겸 부교장으로 일하였다.
1950년에는 육군본부 작전교육국장에 임명되었는데 15일 만에 6·25전쟁을 맞았다. 이 해 9월에 헌병사령관이 되었고, 10월에 육군준장으로 진급하였다. 다음해인 1951년에는 제1군단 부군단장을 거쳐 제1군단장 대리 겸 제5사단장을 역임하였고, 1952년에는 작전국장이 되었다.
1953년에 소장으로 승진, 주미 대사관 무관, 1955년 육군사관학교 교장, 1956년 제1군단장, 1957년 제2군단장, 1960년 육군본부 작전참모부장 등의 요직을 거쳐서 1961년 육군중장으로 진급했으며, 육군참모차장 당시에 5·16군사정변이 일어나자 계엄행정부사령을 맡았다.
그 뒤 1962년 제2군사령관, 1963년 제1군사령관, 1965년 합동참모회의 의장 등의 주요 직책을 역임하였다. 1967년 육군대장으로 승진했으며, 군의 요직 중에서도 특히 교육 및 작전을 담당하는 보직을 많이 맡아 이 분야에 정통한 동시에 기여한 바가 크며, 지장(智將)·덕장(德將)이라는 평가를 받았다.
1967년에 예편하여 수자원개발공사(水資源開發公社) 사장, 1968년 주브라질·베네수엘라 대사를 역임했으며, 1973년에는 국회의원이 되었다. 훈장으로는 을지무공훈장 및 충무무공훈장, 보국훈장 통일장, 보국훈장 천수장 등을 받았다.