본관은 파평(坡平). 자는 숙린(叔麟), 호는 동산(東山). 윤엄(尹儼)의 증손으로, 할아버지는 윤민헌(尹民獻)이다. 아버지는 판서 윤강(尹絳)이며, 어머니는 정광성(鄭廣成)의 딸이다. 좌의정 윤지선(尹趾善)의 아우이다.
1657년(효종 8) 사마시를 거쳐, 1662년(현종 3) 증광 문과에 을과로 급제해, 설서·헌납·부수찬 등을 지냈다. 1675년(숙종 1) 지평으로 시독관(侍讀官)을 겸해 경연(經筵)에 나가 당쟁의 폐단을 통박하고, 덕원으로 유배된 송시열(宋時烈)의 신구(伸救)를 건의했다가 당시의 집권당인 남인의 탄핵을 받아 관직을 박탈당하였다.
1680년에 남인이 실각하고 서인이 집권한 경신대출척으로 부교리에 등용되고, 부응교를 거쳐 경상도관찰사·함경도관찰사 등을 역임하였다. 1682년 통신사로 일본에 파견되었는데, 일행이 부사 이언강(李彦綱) 등 475인이었다. 그 당시 일본측에서는 우리나라를 상국(上國)이나 문화적 선진국으로 인식해, 우리 사절을 맞이해 도쿠가와막부[德川幕府] 정권의 권위를 세우자는 것이었다.
일본에 다녀온 이듬해 어영대장·예조판서 등을 역임하고, 1684년 경상도관찰사, 1688년 병조판서, 이듬해 평안도관찰사를 지냈다. 이 해 기사환국으로 송시열 등 서인이 실각하고 남인이 집권하자 관직을 잃고 유배되었다. 1694년에 폐비 민씨의 복위 운동과 관련된 갑술옥사를 계기로 민씨의 복위를 지지한 소론이 등용되자, 다시 관직을 얻어 좌참찬·우의정 등을 지냈다.
1717년에 숙종이 좌의정 이이명(李頤命)과 독대(獨對)를 하고, 세자(世子: 景宗)에게 청정(聽政)의 어명이 있자, 80노구로 관(棺)을 가지고 서울에 들어와 이이명의 독대를 통박하고 세자 청정이 시기상조임을 극언하였다. 또 이이명을 가리켜 “대신은 국왕의 사신(私臣)이 아니다.” 고 통박하였다.
청백리에 녹선되었으며, 영돈녕부사를 사직하고 귀향, 1703년에 영중추부사가 되었다. 숙종의 묘정에 배향되었고, 시호는 충정(忠正)이다.