본관은 덕수(德水). 자는 자삼(子三) 또는 치보(治甫), 호는 포음(浦陰) 또는 수곡(睡谷). 할아버지는 이조판서 이식(李植)이고, 아버지는 시정(寺正) 이신하(李紳夏)이며, 어머니는 신후완(辛後完)의 딸이다.
1662년(현종 3) 진사시에 합격했고, 1680년(숙종 6) 정시 문과(庭試文科)에 병과로 급제해 검열이 되었다. 다음 해 홍문록(弘文錄)에 등재되고 정자(正字)가 되었다. 이어서 독서당(讀書堂)에 들어갔고, 박사·수찬(修撰)을 거쳐 1683년 암행어사로 강원도에 파견되었다.
이후 헌납(獻納)·이조좌랑·이조정랑·부응교·집의(執義)·사간 등을 거쳐 1685년 승지에 발탁되었다. 이어 부제학·대사성·이조참의·대사간 등의 청요직(淸要職: 학식과 문벌이 높은 인물에게 주는 중요한 관직)을 두루 역임하였다.
1694년 중궁 복위 및 갑술환국에 적극 참여해 형조참판에 발탁되었고, 다음 해 도승지를 거쳐 이조참판이 되었다. 이 때 재해로 피폐된 농촌에 대한 수습책을 상소하였다. 이어서 공조참판·한성판윤·대사헌·좌참찬·대제학·예조판서·이조판서·판의금부사 등을 거쳐 1702년 좌의정이 되었고, 곧 영의정에 올랐다.
그 뒤 도성 수축 및 과거제 문란 등을 둘러싸고 최석문(崔錫文)과 대립하다가 패배해, 1707년 판중추부사에 임명되자 여주에 은거하였다. 왕이 사관(史官)·승지 등을 계속 보내 불렀으나 끝까지 응하지 않고 죽었다.
약관(弱冠)부터 문명이 높았다 하며, 재직 중에는 농정(農政)·재해(災害)·진민(賑民) 등에 대한 소를 자주 올렸다. 또, 평소 당론(黨論)의 화를 걱정했고 과격하지 않았으며, 재상의 지위에 올랐어도 몸가짐을 조심해 거처가 누추했다 한다. 시호는 문경(文敬)이다.