본관은 연안(延安). 자는 필경(弼卿), 호는 매간(梅磵). 이계(李𡹘)의 증손으로, 할아버지는 좌의정 이정구(李廷龜)이다. 아버지는 형조참판 이소한(李昭漢)이며, 어머니는 이상의(李尙毅)의 딸이다.
1651년(효종 2) 진사시에 수석으로 합격하고 참봉이 되었다가, 1660년(현종 1) 식년 문과에 을과로 급제해 검열에 천거되었다. 현종 초년에 부정자로서 춘추관기사관을 겸직해 『효종실록』의 편찬에 참여하였다. 이어 대교·사간·필선 등을 거쳐 1672년 대사간과 이조참의를 역임하였다.
1675년(숙종 1) 한성부우윤·대사헌 등을 맡아보면서, 숙종 초년 예론(禮論)을 중심으로 한 당시의 국정에 대해 서인(西人)의 입장에서 활발한 언론활동을 하였다. 1679년 도승지 때 송시열(宋時烈)의 예론을 비판하는 곽세건(郭世健)을 공격하였다. 이듬해 대사헌이 되어 윤휴(尹鑴)·허목(許穆)을 면박하는 등의 정치활동을 하다가 강릉부사로 좌천되었다.
그러나 같은 해 경신대출척으로 남인(南人)이 실각하자, 다시 대사헌이 되어 종실 이정(李楨)과 이염(李柟)·권대운(權大運)·민희(閔熙) 등의 남인 세력을 공격하는 데 앞장섰다. 1681년 이조참판·부제학, 1682년 대사성 등을 역임했으나, 1686년 대신들의 공박으로 한때 개성유수로 보외되었다. 1687년 공조판서, 이듬해 우참찬·제학·이조판서를 지냈다.
1689년 기사환국으로 남인이 집권하자 사직하고 고향 양주로 퇴거하였다. 숙종이 『심경석의(心經釋疑)』를 간행하려고 할 때 그것이 이황(李滉)이 직접 쓴 것이 아니고 제자들의 기록이므로, 정확을 기하기 위해 송시열의 교정을 거쳐 간행하도록 허락을 받았다.
이 일에서 보듯이 학문적으로나 정치적으로나 송시열을 중심으로 한 서인의 입장을 충실히 지켰다. 문집으로 『매간집』을 남겼다. 시호는 문희(文僖)이다.