본관은 해주(海州). 자는 문숙(文叔), 호는 간재(艮齋) · 소릉(少陵) · 파릉(巴陵). 광주(廣州) 출신. 삼당시인으로 꼽히는 최경창(崔慶昌)의 현손이며, 최집(崔潗)의 증손으로, 할아버지는 최진해(崔振海)이고, 아버지는 현감 최석영(崔碩英)이다.
1669년(현종 10) 진사시에 합격하고, 1680년(숙종 6) 별시 문과에 병과로 급제하여 출사하였다. 이 때 서인의 나문에서 뛰어난 재주로 시명(時名)을 얻어 언관이 되었다.
정언으로 있을 때 “서북인을 통청(通淸)하라.”는 왕의 하교에 맞서 “인문(人文)이 황폐하고 가합자(可合者)가 없다.”는 논지로 소를 올려 논객(論客)의 면모를 보였다. 또한, 서인이 노론과 소론으로 갈라졌을 때 나양좌(羅良佐)를 옹호하는 등 소론에 가담하였다.
1685년 지평에 올랐고, 이어 이조좌랑 · 수찬 등을 역임하였다. 이 때도 최석정(崔錫鼎)의 파직을 변호하는 등 소론의 소장으로 활약하였다. 1689년 대사간에 올랐는데, 이 때 남인에 맞서 희빈 장씨(嬉嬪 張氏)의 책봉을 반대하는 데에 앞장 섰다.
그 뒤 1694년 외직으로 전라도 관찰사로 나갔으며, 이어 강화유수를 역임하였다. 주청부사(奏請副使: 주청사를 보좌하는 사신)로 청나라에 다녀오기도 하면서 부제학, 형조 · 예조 판서, 대제학 등 현직(顯職)을 누렸다.
1711년 소론의 최석정 등이 삭탈관작되고, 1716년 병신처분(丙申處分)으로 소론이 실세를 거듭하자 지중추부사 등의 관직을 사퇴하고 고향 광주(廣州)로 내려가 여생을 마치려하였다. 이 때 많은 사직소를 올린 것으로 유명하다.
1721년(경종 1) 소론이 득세하자 소론의 영수로 우의정이 되었고, 1723년에는 영의정에 올랐다. 이 무렵 노론들이 연잉군(延礽君: 뒤의 영조)의 대리청정 등을 추진할 때 이에 맞서는 등 소론정권의 주역을 맡았으나, 강경파 김일경(金一鏡) 등이 신임사화를 일으킬 때는 완소(緩少)로 온건하게 대처하였다.
이어 치사(致仕)를 빌어 봉조하(奉朝賀)를 받고 일선에서 물러나 성묘를 핑계대고 고향으로 돌아왔다. 그리하여 1724년(영조 즉위년) 영조가 즉위하여 노론이 집권하였을 때에도 무사하였다.
1728년 무신난(戊申亂)이 일어날 때, 용인에 있으면서 이 정보를 입수하고는 80세의 노구를 이끌고 제일 먼저 조정으로 달려와 이를 알린 다음, ‘역정포고의(逆情布告議)’라는 토난책(討難策)을 건의하였다. 여기에서 그는 원옥(寃獄)이 없을 것을 당부, 완소계열을 보호하려고 하였다.
난이 평정된 뒤 ‘일사부정(一絲扶鼎)’이라는 영조의 어필이 내려졌고, 이어 공신에 녹훈하려고 하자 이를 끝까지 거절하였다. 당인(黨人)의 중심 인물이었으나 온건하게 대처하였다. 또 지방관으로 나갔을 때에는 많은 선정을 베풀었다.
특히, 전라감사로 있을 때 선정으로 이름나 사람들이 부서한(簿書閑: 관청 문서가 한가함.), 공방한(工房閑: 아전들이 한가함.), 기악한(妓樂閑: 기생 · 풍악이 한가함.)의 ‘삼한(三閑)’이라 했다 한다. 영조의 묘정에 배향되었으며, 시호는 충정(忠貞)이다. 시문집으로 『간재집』 15권이 있다.