본관은 기계(杞溪). 자는 중영(仲英), 호는 만휴정(晩休亭). 유대의(兪大儀)의 증손으로, 할아버지는 군수 유희증(兪希曾)이고, 아버지는 선공감감역(繕工監監役) 유석(兪晳)이다. 어머니는 이계(李𡹘)의 딸이다.
1677년(숙종 3)에 사마시를 거쳐 1682년 춘당대문과(春塘臺文科)에 병과로 급제하였다. 그 뒤에 정언·지평 등을 지내다가 1689년 기사환국으로 외직인 풍기군수로 나갔다가 1692년에 사판(仕版)에서 삭제되었다. 1694년에 갑술옥사로 서인들이 재집권하게 되자 장령으로 등용되었는데, 이 때 이돈(李墪)과 이사상(李師常)을 탄핵하여 이돈을 좌천시켰다.
그 뒤 사서를 거쳐 1696년 금성현령으로 나가 선정을 베풀고, 이로 말미암아 암행어사 여필용(呂必容)의 천거로 표리(表裏: 속과 겉의 옷감)를 하사받았다. 이듬해 보덕·사간·집의 등을 역임하고, 1699년 사은 겸 동지사 동평군 이항(東平君 李杭)의 서장관으로 청나라에 다녀왔다.
1701년 형방승지로서 희빈 장씨(禧嬪張氏)가 사사될 때 이를 반대한 소론을 숙청하였다. 1705년 우부승지를 거쳐 1707년 황해도관찰사·승지 등을 역임하고, 1713년 도승지가 되었다. 1716년 강원도관찰사로 청나라에 다녀왔다.
1718년 형조판서를 거쳐, 이듬해 예조판서·한성부판윤 등을 역임하고, 1721년(경종 1) 공조판서가 되었다. 시문에 능하고 해서를 잘 썼다. 시호는 온간(溫簡)이다.