본관은 전주(全州). 자는 자우(子雨), 호는 녹천(鹿川). 세종의 다섯째 아들인 광평대군 이여(廣平大君 李璵)의 후손이며, 이후재(李厚載)의 증손으로, 할아버지는 이형(李逈)이다. 아버지는 군수 이중휘(李重輝)이며, 어머니는 김광찬(金光燦)의 딸이다.
1668년(현종 9) 별시 문과에 병과로 급제하여 설서가 된 이래, 헌납 · 정언 · 지평 · 교리 · 수찬 · 응교 등을 거쳐 1680년(숙종 6) 경신대출척으로 서인이 재집권하자 승지로 발탁되었다. 이어 경상도관찰사 · 대사헌을 역임했고, 1694년 갑술환국 후 평안도관찰사를 거쳐 호조판서가 되었다.
1702년 양역(良役) 사무에 밝아 특별히 병조판서로 임명되면서 이듬해 설치된 양역이정청의 구관당상을 겸임, 양역변통문제를 담당하였다. 그 뒤 1704년 오군문개군제급수군변통절목(五軍門改軍制及水軍變通節目) · 군포균역급해서수군변통절목(軍布均役及海西水軍變通節目) · 교생낙강자징포절목(校生落講者徵布節目)을 마련해 조선 후기에 들어와 처음으로 양역 사무를 크게 정비하였다.
그 공으로 1704년 우의정에 오르고, 뒤이어 좌의정 · 영의정에까지 올랐다. 상신(相臣)으로 있으면서 특히 도성 방어의 강화를 힘써 주장하고, 경리청이라는 재정 마련의 특별기구까지 설치해 가면서 일부 관료의 반대를 무릅쓰고 북한산성의 수축을 완료하였다. 1718년 영중추부사가 되고 기로소(耆老所)에 들어갔다.
당대의 경세가로서 양역 문제에 큰 관심을 가졌다. 특히 호포론(戶布論)을 비현실적이라고 비판하고, 군문 · 군액의 조정과 감축, 군포 부담의 균일화와 같은 점진적인 개선책과 교생 · 원생(院生) 등의 명목으로 피역하는 자(閑游者)에게 군포를 거두는 유포론(游布論: 校生贖布論)을 주장하였다.
송시열(宋時烈)의 문인으로 이단하(李端夏) · 민정중(閔鼎重)의 아낌을 받고 김창집(金昌集) · 이이명(李頤命) · 민진후(閔鎭厚) 등과 친하였다. 1726년(영조 2) 민진후와 함께 경종 묘정에 배향되었다. 시호는 혜정(惠定)이다.