어려서부터 기재로 소문이 났으며 10세 때 외할아버지 황치경으로부터 글을 배우기 시작, 학문을 닦은 뒤 1627년(인조 5) 강도에서 보인 정시 문과에 을과로 급제하였다. 승문원에 들어가 실력을 인정받은 뒤 예문관검열을 거쳐 춘추관기사관에 뽑히고, 다시 주서 · 수찬 · 집의를 지냈다.
1644년에 황해도 관찰사로 나간 뒤 승지 · 전라도관찰사 등을 지냈다. 1649년(효종 즉위년) 평안도관찰사로 나갔으며, 이어 중앙으로 돌아와 대사간 · 대사성 · 도승지 등을 두루 역임하였다. 이어 동지경연사(同知經筵事)를 거쳐, 1653년에는 경기도관찰사에 임명되어 선정을 베풀고 민생 안정에 힘썼다.
이어 우참찬에 승진되고 호조판서 · 예조판서를 거쳐 대사헌이 되었으며, 뒤이어 이조판서 · 형조판서가 되었다. 특히 이조판서에 재직할 때는 오직 공도(公道)로써 관리들의 임명을 결정, 인사 관리에 조금도 부정이 없게 하였다. 한성판윤과 호조판서를 지내는 동안에는 낭비를 막아 국고를 윤택하게 하였다.
1660년(현종 1) 우의정으로 고부사(告訃使)가 되어 청나라에 다녀왔다. 그런데 이 당시 이조판서 송시열(宋時烈)이 경성판관 홍여하(洪汝河)의 상소로 사직하게 되자, 효종에게 ‘선왕(先王: 효종)이 중용한 인물을 소인배들의 모함으로 배척당하게 할 수는 없다. ’고 하고, 송시열의 사직을 철회시켰다. 한때 대사성 서필원(徐必遠)이 대신들을 모함하는 데만 급급하자 서필원의 이조참의 취임에 반대, 이를 관철시켰다.
그런데 이 때 사간원에서 서필원을 두둔하고 논구(論救)하자, 사의를 표명하였으나 허락되지 않고 영중추부사로 좌천되는 데 그쳤다. 품성은 온량(溫良)했으나 판단력이 뛰어나 공사 처리에는 명석하고 과단성 있게 추진하였다.
군왕의 실정이나 불의를 보면 대세의 이해에 관계없이 직간을 서슴지 않아 효종대는 중용되지 않았다. 그러나 그를 이해한 현종대는 경상(卿相)의 자리까지 올려줄 정도로 총애를 받았다. 가정에서도 겸허하고 근신하였으며, 청빈(淸貧)을 가훈으로 하는 선비다운 생활을 즐겼다. 저서로 『은대일기(銀臺日記)』가 있다. 시호는 충정(忠貞)이다.