1907년 경상북도 예천에서 출생했다. 본관은 연주(延州), 호는 석계(石溪)이다. 1929년 대구고등농림학교를 졸업하고, 경성으로 유학해 1933년 10월 고등문관시험 행정과에 합격했으며, 1934년 경성제국대학 법학과를 졸업했다. 1936년 전라남도 화순군수, 1938년 황해도 산업과장을 지냈으며, 1939년 5월부터 1944년 10월까지 북경 흥아원 사무관(베이징총영사관 영사) 겸 조선총독부 총독관방 외무부 사무관, 베이징 주재 일본대사관 2등 서기관 등으로 근무했다. 1944년 충청남도 광공부장으로 임명되어 광산 및 공업 등 전쟁 수행에 필요한 군수 사무를 담당했다. 해방 후, 1945년 9월 미군정청이 미군정에 협력할 것을 요청하자 스스로를 친일파라 하면서 사퇴의 변을 남기고 사직서를 제출했다.
1947년 미군정 중앙경제위원회 기획관을 거쳐 1949년 남선전기 부사장, 1952년 경성전기 전무취체역 등 기업인으로 활동하다가 1954년 제3대 국회의원 선거에 자유당 소속으로 출마해 고향인 경북 예천군에서 당선되었다. 제2차 개헌인 ‘사사오입개헌’으로 탈당해 새로 발족된 민주당에 입당했으며, 민주당 신파의 핵심 인물로 활약하다가 1954년 민주당 조직부장에 선임되었다.
1956년 8월 자유당의 선거방해에 항의해 조병옥, 김도연, 윤보선, 양일동 등과 서울 태평로에서 연좌시위를 벌이기도 했다. 1960년 제5대 국회의원 선거에 출마해 예천군에서 당선되었으며, 제2공화국에서 제9대 국방부, 제23대 내무부, 제11대 국방부 장관을 역임했다. 국방부 장관 재임 중 5·16군사정변을 맞아 장관직을 사임했으며, 장면, 김도연, 오위영, 조재천, 박순천과 함께 민주당 재건에 참여하기도 했다.
1962년 영세를 받은 후, 1965년 12월부터 1985년 7월까지 가톨릭교리연구소 소장으로, 1988년 12월까지 한국가톨릭문화연구원 이사장으로 재임했다. 번역 및 집필 저서로는 어떻게 살 것인가(역), 그리스도의 눈길(역), 제2차 바티칸공익회 문헌해설전집(전6권) 등이 있다. 1977년 가톨릭 평신도로서는 최고 영예의 하나인 바티칸 로마교황청의 기사대장 칭호와 공로훈장을 한국인으로서는 장면에 이어 두 번째로 받았다. 1988년 12월 2일 사망했다.