본관은 기계(杞溪). 자는 전보(展甫), 호는 지수재(知守齋). 유성증(兪省曾)의 증손으로, 할아버지는 대사헌 유철(兪㯙)이다. 아버지는 목사 유명악(兪命岳)이며, 어머니는 이두악(李斗岳)의 딸이다. 김창집(金昌集)의 문인이다.
1714년(숙종 40) 증광 문과에 병과로 급제하여 검열이 된 후 정언(正言) · 수찬 · 이조정랑 · 사간 등을 역임하였다. 1721년(경종 1) 세제(世弟)를 책립하자 책봉주청사(冊封奏請使)의 서장관으로 청나라에 다녀왔다. 이듬해 신임사화 때 소론의 언관 이거원(李巨源)의 탄핵을 받고 해도(海島)에 유배되었다.
1725년(영조 1) 노론의 집권으로 풀려나서 이조참의 · 대사간을 역임하고, 이듬해 승지로 참찬관을 겸하다가 경상도관찰사 · 양주목사 · 함경도관찰사 · 도승지 · 원자보양관(元子輔養官) · 세자시강원빈객(世子侍講院賓客) · 평안도관찰사 · 호조판서 등을 두루 지냈다.
1739년 우의정에 오르자, 신임사화 때 세자 책봉 문제로 연좌되어 죽은 김창집(金昌集) · 이이명(李頤命) 두 대신의 복관(復官)을 건의해 신원(伸寃)시켰다.
그러나 신임사화의 중심 인물인 유봉휘(柳鳳輝) · 조태구(趙泰耉) 등의 죄를 공정히 다스릴 것을 주청하다가 뜻을 이루지 못하고 사직하였다. 그 때 평소 가깝게 지내던 당시의 명류(名流) 조관빈(趙觀彬) · 김진상(金鎭商) · 이기진(李箕鎭) 등도 벼슬을 그만두었다.
그 뒤 몇 차례 임관(任官)에 불응해 마침내 삭직당해 전리(田里)에 방축되었다. 만년에 김상로(金尙魯) · 홍계희(洪啓禧) 등이 영조와 그 아들 사도세자(思悼世子) 사이를 이간시키자 이를 깊이 우려했고, 이천보(李天輔)가 영의정에서 물러나자 영조에 의해 중용되어 영의정으로 임명되었다.
벽파 김상로를 조정에서 대할 때 항상 싫어하는 기색이었으나 김상로는 감히 말을 못하였다. 1760년 영중추부사(領中樞府事)가 되었고, 이어서 봉조하(奉朝賀)를 받고 기로소(耆老所)에 들어갔다.
기국(器局)이 중후하고 고금의 일에 박통했으며, 대신의 기풍을 지닌 노론 중의 온건파에 속하였다. 당대의 명필가요 금석학(金石學)의 권위자이기도 하였다. 글씨로는 경주의 「신라시조왕비(新羅始祖王碑)」, 청주의 「만동묘비(萬東廟碑)」 등을 남겼고, 저서로는 『지수재집』 15권이 있다. 시호는 문익(文翼)이다.