본관은 함평(咸平). 자는 여휘(汝輝), 호는 계촌(桂村). 할아버지는 감사 이춘원(李春元)이고, 아버지는 이초로(李楚老)이며, 어머니는 변제원(卞悌元)의 딸이다.
1652년(효종 3) 진사로서 증광문과에 병과로 급제하고, 정언으로 있을 때 한 대신의 뇌물문제를 탄핵하여 호남의 막좌(幕佐)로 쫓겨나 있다가 남구만(南九萬)의 구론(救論)으로 다시 대직(臺職)에 돌아왔으며, 서해도의 감사로 내려가 크게 치적을 올렸다.
1674년 인선대비(仁宣大妃)가 죽자 다시 예론이 일어나 송시열(宋時烈)에 대한 처벌문제가 일어났는데, 대사헌으로서 그는 송시열의 예론을 반대하였으나 처벌까지는 바라지 않았다. 이로 인하여 사임하고, 이듬해 다시 대사간에 복직되어 사은부사로 청나라에 다녀왔다.
1676년에는 예조판서로 승진하고, 이어 대사헌·참찬·지중추부사를 거쳐 형조판서로 십여건의 큰 사건을 신속, 정확하게 해결하였다.
1678년 판서·형조판서가 되고, 개성유수·한성판윤·함경감사·전라감사·비변사당상·평안감사 등을 역임하고, 원접사(遠接使)로 네 차례나 의주를 왕래하였으며, 지돈녕부사가 되었다가 기로소(耆老所)에 들어갔다. 조정에 있는 40년 동안 정국이 몇 번 바뀌었으나 시세에 굽히지 않고 끝까지 자기 신념대로 시종일관하였다.