본관은 파평(坡平). 자는 중린(仲麟), 호는 두포(杜浦). 윤엄(尹儼)의 증손으로, 할아버지는 윤민헌(尹民獻)이다. 아버지는 이조판서 윤강(尹絳)이며, 어머니는 정광성(鄭廣成)의 딸이다. 우의정 윤지완(尹趾完)의 형이다.
1660년(현종 1) 진사가 되고, 1662년 증광 문과에 병과로 급제해 설서·사헌부정언·지평 등을 역임하였다. 1674년에 헌납·이조좌랑을 지내고, 이 해 숙종이 즉위한 뒤 이조정랑에 올랐으며, 이어 부수찬·종성부사·동부승지를 역임하였다.
1681년(숙종 7) 대사간을 지냈고, 공충도(公忠道: 지금의 충청도)와 함경도의 관찰사를 역임하였다. 1683년에 도승지가 되고, 이듬해 형조참판·대사헌에 이어 이조참판·광주유수(廣州留守)·한성부좌윤을 지냈다. 1694년 병조판서로 지의금부사, 이듬해 판의금부사·지경연사(知經筵事) 등을 겸임하였다.
그 뒤 이조판서를 지내고, 1696년에 공조판서·좌참찬·우의정에 이어 좌의정에 올랐다. 1698년 기로소(耆老所)에 들어갔고, 영중추부사를 거쳐, 행판중추부사(行判中樞府事)에 이르러 77세로 죽었다.
성품이 온건하고 원만해 당쟁의 와중에 휩쓸리지 않았다. 복제설(服制說) 시비로 송시열(宋時烈)이 덕원으로 귀양가게 되었을 때도 모나지 않으면서 사리를 정확하게 판단한 소를 올려, 경직된 정국을 완화시키려고 노력하였다.
특히, 숙종이 장희빈(張禧嬪)의 소생을 원자로 책봉하려 하면서 여기에 반대하는 자는 벼슬을 내놓고 물러가라고 할 때, “왕자가 태어난 지 겨우 몇 개월인데, 그 뒤 정궁에서 만일 아들이 없으면 세자가 저절로 정해질 것입니다.”라고 하여 숙종의 주장을 완곡하게 반대하기도 하였다. 그러나 온건한 성품으로 숙종의 신임과 총애를 받았다.