본관은 동복(同福). 자는 영백(永伯), 호는 약산(藥山). 오정한(吳挺漢)의 증손으로, 할아버지는 오시봉(吳始鳳)이고, 아버지는 돈녕부도정(敦寧府都正) 오상순(吳尙純)이다. 어머니는 광주 안씨(廣州安氏) 병조판서 안후열(安後說)의 딸이다.
1714년(숙종 40) 사마시를 거쳐, 1719년 증광 문과 병과로 급제하였다. 설서(說書)에 올라 연잉군(延仍君: 뒤의 영조)의 서연관(書筵官)이 되었으며 승지를 지냈다. 1728년(영조 4) 홍문관의 수찬(修撰)·교리(校理) 및 동부승지를 역임하였다.
이 해 3월에 이인좌(李麟佐)의 난이 일어나자 변을 아뢰고 대비하도록 하였다. 이 날 저녁 청주에서 이봉상(李鳳祥)·남정년(南廷年) 등이 적에게 살해되자, 사람들이 오광윤의 선견(先見)에 탐복하였다. 또 영조의 탕평책(蕩平策) 하에서 청남(淸南) 세력의 정치적 지도자로서 활약하였다.
1729년에 올린 상소에서 “무릇 탕평의 근본은 전하가 일심(一心)으로 최상의 목표를 세우는 데 있습니다. 이에서 행하는 모든 시책과 행위는 지극히 공적이어서 사사로움이 없고, 지극히 올바르므로 편벽됨이 없게 됩니다.”라고 하면서, 남(南)·서(西)·노(老)·소(少)를 막론하고 당인(黨人) 중에서 명류(名流)로 지칭되는 인물들을 등용할 것을 주장하였다.
이 해 영남안핵어사(嶺南按覈御史)가 되고, 이어 대사헌을 거쳐 1737년 대사간, 1740년 부사과(副司果)가 되었다. 이 때 소론인 원경하(元景夏)·정우량(鄭羽良) 등과 함께 다시 대탕평론을 내세워 “붕당(朋黨)을 없애되 명절(名節: 명분과 절개)을 숭상해야 한다.”고 적극 주장하였다. 1743년 예조참판을 역임하고, 1744년 사직(司直)을 거쳐 개성유수에 이르렀다.
어려서부터 문장에 뛰어났으며, 유형원(柳馨遠)의 저서인 『반계수록(磻溪隨錄)』의 서문을 썼다. 저서로는 『약산만고(藥山漫稿)』가 있다. 이조판서와 대제학에 추증되었다. 시호는 충장(忠章)이다.