1891년 5월 26일에 경상남도 의령군 가례면에서 태어났다. 안희제(安熙濟) 등이 조직한 비밀결사 대동청년단에 가입해 활동했으며, 서울에서 보성(普成)법률상업학교를 나왔다.
1912년 상하이로 건너가 우쑹(吳淞)상선학교를 거쳐 난징(南京)해군군관학교에서 무선전신(無線電信)을 배웠다. 졸업 후 중국의 해군 사관으로 있다가 베이징(北京)에 있는 무선전신학교를 거쳐 베이진 등지의 무선전신국에서 일했다.
1921년 4월에 박용만(朴容萬) 등이 주도해 베이징(北京)에서 열린 ‘군사통일회의’에 통일당의 일원으로 참여해 서무를 맡았으며, 미국에 국제연맹 위임통치를 요청한 이승만을 비판하는 성토문에 서명하고 그것을 상하이로 전달하는 역할을 했다.
1921년 귀국 후 영국으로 유학을 떠나 1922년에 런던에 있는 킹 에드워드 7세 해양대학(King Edward VII Nautical College)에 입학했다. 졸업 후 일등항해사로서 영국 상선회사에 들어가 선장으로 일했으며 1948년 11월에 귀국했다.
귀국하자마자 교통부에 신설된 교통자문위원회 위원이 되었으며, 12월에는 대한청년단 초대 단장과 2대 내무부장관으로 취임했다. 1949년 3월에 2대 국방부장관으로 취임했으며, 1950년 4월부터 11월까지 국무총리서리를 겸직했다.
1951년 초에 발생한 거창양민학살사건과 국민방위군사건의 책임문제로 1951년 5월에 경질되었다. 거창양민학살사건의 증인으로 군법회의에 소환되었으나 이승만의 뜻에 따라 주일대표로 임명되어 7월에 일본으로 떠났다.
1952년 8월에 귀국하고 11월에 신설된 해사위원회 위원장을 맡았으며, 12월에는 대한조선공사 사장에 취임했다. 1956년 11월에 한국해양대학 학장으로 임명되었으며, 1960년 4·19혁명이 일어나 또 다시 거창양민학살사건이 문제화되는 가운데 5월에 학장을 사임하고 5월 29일에 뇌일혈로 사망했다.
건국훈장 애족장(1990)이 추서되었으며, 1993년 10월 대전 국립묘지에 안장되었다.