본관은 경주(慶州). 자는 석이(錫爾), 호는 화곡(華谷). 서울 출생. 이경윤(李憬胤)의 증손으로, 할아버지는 이대건(李大建)이다. 아버지는 판서 이시발(李時發)이며, 어머니는 승지 신응(申應榘)의 딸이다.
7세에 아버지가 죽고 편모 슬하에서 엄격한 교육을 받았다. 재지가 출중해 하나를 가르치면 열을 아는 수재였다. 1644년(인조 22) 25세의 젊은 나이로 정시 문과에 장원해, 예조와 병조의 좌랑을 역임하고 세자시강원사서가 되었다.
1651년(효종 2) 귀인 조씨(貴人趙氏)와 김자점(金自點)의 역모 사건에 관련되어 파직된 대사헌 조석윤(趙錫胤)을 구하려고 간하다가, 효종의 노여움을 사서 경성에 안치되었다. 이듬해 석방되어 돌아와 1653년 순안어사(巡按御史)가 되어 영남 지방의 민정을 시찰하고 탐관 오리를 징계하였다.
이듬해 정언(正言)으로 수천언의 봉사(封事)로 시폐를 진언했고, 수찬(修撰)·사인(舍人) 등을 지냈다. 1659년 대사간을 지내고 이어서 충청도관찰사로 나갔다. 1661년(현종 2) 좌승지를 거쳐 대사성이 되고, 1664년 부제학(副提學)을 지낸 뒤 한성우윤·도승지를 거쳐 대사헌이 되었다. 1668년 동지사가 되어 청나라에 다녀오고, 이어서 경기도관찰사를 지낸 뒤 이조와 호조·예조·형조의 판서를 두루 역임하였다. 그 뒤 1672년에 우의정과 좌의정을 지냈다.
천성이 밖으로는 엄격했고 안으로는 따스한 인정이 넘쳤다. 수염이 길고 풍채가 아름다워 일견 미남자였으나, 일 처리가 명백해 다른 사람들의 사사로운 뜻이 간여하지 못하였다. 저서로는 『화곡유고』가 있다. 시호는 문익(文翼)이다.