경상남도 진주 출생.
1947년 4월 육군사관학교를 졸업하였고, 1953년 6월에는 육군대학을 졸업하였다. 1954년 3월부터는 육군 수송학교 교장으로 재직하였으며, 1957년 9월에는 건국대학교를 졸업하였다.
1959년 12월부터 1962년 4월까지 육군제3항만사령관을 지냈다. 5·16 이후 1962년 4월에는 육군준장의 군복을 입은 채 최연소의 나이로 제12대 부산시장에 취임하였다. 1963년 1월 부산시가 직할시로 승격된 뒤 예편하여, 제13대 부산시장으로 연임되었고, 1966년 3월까지 약 4년 동안 부산시정을 이끌었다.
1966년 4월에는 43세의 나이로 최연소 서울시장이 되었다. 1970년 4월 와우아파트 붕괴사건으로 서울시장을 사퇴하였다. 1971년 2월부터 육상경기연맹 회장을 맡으면서 제8대 국회의원선거에 출마하였으나 낙선하였다.
1971년 10월에 내무부장관에 임명되었다. 내무부장관으로 재직하는 동안 새마을운동의 조기정착과 치산녹화5개년계획의 성공을 위하여 노력하였다. 1968년 10월 미국 헤리 디킨슨대학에서 법학박사 학위를 받았고, 같은해 12월에는 중앙대학교에서 법학박사 학위를 받았다.
1973년 2월에 내무부장관에서 물러나 유스호스텔협회 회장과 복지법인 정립회관 이사장을 맡으면서 복지사업에 손을 대기도 시작하였다. 또한 교육계에 투신하여, 부산광역시 기장군 장안중학교 교장으로 재직하였다.