본관은 파평(坡平). 자는 여옥(汝沃), 호는 회재(晦齋)·서파(西坡). 좌참찬 윤형(尹炯)의 종증손으로, 할아버지는 통정대부 윤구몽(尹龜夢)이다. 아버지는 현감 윤이손(尹李孫)이며, 어머니는 윤백연(尹伯涓)의 딸이다.
1516년(중종 11) 식년 문과에 병과로 급제해 홍문관저작에 발탁되었으나, 대간들이 연소하다는 이유로 서경(署經)에 응하지 않자 국왕의 적극적인 비호로 등용되었다. 이어서 승정원주서·사간원정언을 거쳐, 1519년 이조좌랑으로서 인사에 관여, 사림을 힘써 등용하였다.
그러나 이 해에 기묘사화가 일어나 조광조(趙光祖)·김안국(金安國) 등이 몰려나자 이에 관련되어 외직으로 좌천되었다. 그러나 한어(漢語)에 능통해 다시 내직으로 옮겨 세자시강원의 문학·필선, 승문원부제조 등 한직을 역임하며 명나라와의 외교 활동에 이바지하였다.
즉, 성절사(聖節使)·사은사(謝恩使)의 서장관(書狀官)으로서 명나라에 내왕하면서 명나라의 하린(夏麟)을 비롯한 내각 관원과 친교를 맺어 국위를 선양하였다. 1534년에는 명나라로부터 역청(瀝靑)·백철(白鐵)·이두석(泥豆錫)의 제조법을 배워왔고, 명나라의 조복(朝服)을 얻어와 의복 제도를 개정하게 하였다.
1538년 기묘사화로 화를 입은 사람들이 서용되자, 충청도관찰사·전라도관찰사를 역임하였다. 그 뒤 동지돈녕부사를 거쳐, 1543년 형조참판이 되어 『대전후속록(大典後續錄)』 편찬에 관여하였다. 이듬해 한성부좌윤을 지내고, 인종이 즉위하자 예조판서에 올랐다. 명종의 즉위로 문정왕후(文定王后)가 수렴첨정하면서 윤원형(尹元衡) 등이 을사사화를 일으켜 대윤(大尹) 일파를 제거하자, 여기에 가담해 추성위사홍제보익공신(推誠衛社弘濟保翼功臣) 2등에 책록되고 영평군(鈴平君)에 봉해졌다.
예조판서로서 오래 근무하면서 의식과 법도를 대략 정돈했고, 1546년(명종 1)에는 외방 학교의 절목(節目)을 마련해 교육 제도를 바로잡았다. 이듬해에는 윤원형의 편을 들어 윤원로(尹元老)를 외방으로 귀양보냈다. 1550년 호조판서·이조판서를 거쳐 이듬해 우의정이 되었다.
8년 동안 우의정을 역임하고 1558년 좌의정에 올랐으나, 윤개가 천거한 간관 김계(金啓)가 광패한 언행으로 국왕에게 미움을 받자, 이를 옹호하다가 지탄을 받았다. 그리하여 교언(巧言)으로 국정을 다스린다는 대간의 탄핵을 받고 면직되어 사역원제조(司譯院提調)가 되었다.
이는 당시 간흉들의 참소에 의한 것으로 겸임하던 영경연사(領經筵事)의 지위에서도 물러났다. 곧 이어 윤원형이 좌의정을 거쳐 영의정에 오르자, 1563년 기로소(耆老所)에 들어가고 궤장(几杖)을 받았다.