본관은 밀양. 함경남도 홍원 출생. 소학교를 졸업한 다음 만주 간도성 용정가(間島省 龍井街)에 있는 광명중학교(光明中學校)에 진학하였다.
그곳 선배들의 말에 따라 졸업 후 신경군관학교(新京軍官學校) 1기생으로 들어가 2년 예과를 졸업한 다음 1940년 일본육군사관학교에 유학, 56기생으로 졸업하였다. 그 뒤 봉천육군비행학교(奉天陸軍飛行學校) 조종과를 수료하여 만주군 항공병 중위로 광복을 맞이하였다.
귀국 뒤에는 여운형(呂運亨)이 추진하는 건국준비위원회 청년부에서 일하던 중 아버지의 사망소식을 듣고는 38선을 넘어 고향으로 돌아갔다가 일본에 협력했다는 이유로 붙잡혀 투옥당하였다. 친척들의 탄원으로 석방된 다음 남하하여 여운형 밑에서 다시 일하였으며, 여운형이 남북정치협상회의에 출석하기 위해 평양에 갔을 때 비서로서 동행하였다.
여운형이 먼저 서울로 돌아온 다음 홀로 평양에 처진 그는 북한측의 강요로 한때 북한인민군 창설에 간여하기도 하였고, 당시 북한 유일의 자동차공장인 미림자동차공장(美林自動車工場)의 공장장이 되기도 하였다. 그러나 북한에서의 생활은 아무래도 불안하여 1947년 말 밀교역선을 타고 남하, 서울로 들어왔다.
한동안 이범석(李範奭)의 민족청년단에 들어가서 교무처장으로 있다가 1948년 8월 육군사관학교에 입학, 특7기로 졸업함과 동시에 대위로 육군본부 작전과장이 되었다. 보병제1사단장, 육군본부 인사국장, 육군보병학교장, 6관구사령관을 거쳐 국방연구원을 창설, 초대 원장이 되었다.
5·16군사정변은 그가 육군중장으로서 5군단장직에 있을 때 일어났는데, 휘하의 5사단 일부병력이 이에 참가하였다. 군사정부수립 후 국가재건최고회의 최고위원 겸 제1군사령관을 지냈고 1962년 6월부터 1963년 3월까지 건설부장관을 지냈다.
건설부장관 재직중에 반혁명사건 관련으로 체포되어 군사재판에 회부, 유죄를 선고받고 투옥되었으나 1966년 3월 형집행정지로 석방되었다. 그 뒤 한국항공정비주식회사 사장직을 지내다가 죽었다.