본관은 진주(晋州). 자는 사원(士元), 호는 퇴당(退堂). 정언(正言) 유격(柳格)의 증손으로, 할아버지는 유시행(柳時行)이다. 아버지는 사인 유영(柳潁)이며, 어머니는 이윤신(李潤身)의 딸이다. 관찰사 유석(柳碩)에게 입양되었다.
1651년(효종 2) 사마시에 합격하여 진사가 되고, 1672년(현종 13) 별시문과에 갑과로 급제, 정언·지평 등을 역임하였다. 1675년(숙종 1) 이조좌랑이 되고, 이듬해에는 대사간·대사성을 지냈다.
1680년 이조참판으로 재직 중에 경신대출척으로 음성에 유배되었다가 1683년 전리(田里)로 방귀(放歸)되고, 1688년 지난날의 옥사가 무고라 하여 강계부사로 기용되었다. 이듬해 기사환국으로 정권이 뒤바뀌자, 공조판서에 중용되고 다시 예조판서와 이조판서 등을 역임하였다.
이후 판의금부사·판중추부사 등 요직을 거치고, 1694년 갑술옥사 때 지난날 김기문옥사(金起門獄事)에 임금을 오도하였다는 죄목으로 파직불서용(罷職不敍用)의 명이 내려졌다. 이어 장령(掌令) 유집일(兪集一), 지평(持平) 김시걸(金時傑) 등이 권력을 천단하며, 악행과 음모로 백성을 병들게 한다고 상소하였다가 흑산도에 위리안치되었다.
1699년 전리로 방귀되었으나, 1701년 장희재(張希載)와 공모하여 인현왕후(仁顯王后)를 모해하려 하였다는 지평 이동언(李東彦)의 탄핵을 받고, 나주 지도(智島)에 안치되었다가 1704년 고향으로 돌아왔다. 기사환국 후 오랫동안 전형(銓衡)을 맡고 있으면서 자기의 무리들을 요직에 앉혀 조종하였다는 평을 들었다.