본관은 해주(海州). 자는 원징(元徵), 호는 양곡(陽谷). 병마절도사 오정방(吳定邦)의 증손으로, 할아버지는 오사겸(吳士謙)이고, 아버지는 이조판서 오상(吳翔)이다. 어머니는 고성이씨(固城李氏)로, 이효길(李孝吉)의 딸이다. 숙부 오숙(吳淑)에게 입양되었다.
1648년(인조 26) 진사시에 1등으로 합격하고, 이듬해 별시문과에 장원으로 급제하였다. 1650년(효종 1) 지평(持平)을 거쳐 1656년 장령(掌令), 1661년(현종 2) 헌납(獻納)·사간이 되었다. 이듬해 정조사의 서장관으로 청나라에 다녀왔고, 1667년 부교리(副校理)·사간 등을 역임하였다.
1679년(숙종 5) 공조참판으로서 사은부사가 되어 청나라에 다녀왔다. 이듬해 호조참판, 1682년 경기도관찰사를 거쳐 다음해 공조판서에 올랐다. 1689년 형조판서로 재직 중에 기사환국으로 서인이 실각하자, 지의금부사(知義禁府事)에 세번이나 임명되고도 나가지 아니하여 삭직당하였다.
이해 사직(司直)을 지내고, 5월에 인현왕후 민씨(仁顯王后閔氏)가 폐위되자 이세화(李世華)·박태보(朴泰輔)와 함께 이에 반대하는 소를 올려 국문을 받고, 의주로 유배 도중 파주에서 죽었다. 그 해에 복관되었다.
1694년 영의정에 추증되었으며, 파주의 풍계사(豊溪祠), 광주(光州)의 의열사(義烈祠), 양성(陽城: 지금의 경기도 안성)의 덕봉서원(德峰書院), 의성(義城)의 충렬사(忠烈祠)에 제향되었다. 저서로는 『양곡집』이 있다. 시호는 충정(忠貞)이다.