본관은 안동(安東). 자는 경유(景由), 호는 쌍취헌(雙翠軒). 권마(權摩)의 증손으로, 할아버지는 군수 권교(權僑)이고, 아버지는 강화부사 권적(權勣)이며, 어머니는 순흥안씨(順興安氏)로 안탁(安擢)의 딸이다. 권율(權慄)의 아버지이다.
1528년(중종 23)에 진사가 되고, 1534년 식년 문과에 을과로 급제, 성균관을 거쳐 예문관검열이 되어 당시 영의정 김안로(金安老)의 잘못을 직필(直筆)하였다가 미움을 사 좌천되었다. 그 뒤 김안로가 사사되자 복직되어 저작(著作)·박사 겸 시강원설서(博士兼侍講院說書)를 거쳐 1539년 수찬(修撰)으로 승진하였다.
1547년(명종 2)까지 병조좌랑·이조좌랑·이조정랑·병조정랑·형조정랑·직강(直講)·교리(校理)·지평(持平)·헌납(獻納) 등을 역임하였다. 1550년에 승문원판교를 거쳐 승정원동부승지에 승진하였으며, 2년 뒤에는 도승지가 되었고, 1556년 형조판서가 되었다.
이때 호남의 신중(新中)에 왜구가 침범하자 관찰사 겸 도순찰사가 되어 변경을 평정하였다. 1558년 명나라의 책세자사신(冊世子使臣)이 올 때 원접사가 되었으며, 이어 우찬성을 역임하고, 1566년에는 영의정 윤원형(尹元衡)이 죄를 얻어 물러나자 우의정이 되었다.
1567년(선조 즉위년)에는 좌의정, 1571년에는 영의정에 올랐다. 작은 관직에 있을 때부터 몸가짐이 신중하여 일찍부터 재상의 중망(衆望)이 있었다고 하며, 비록 출중한 재기는 없었으나 청신하게 법을 지켜 감히 허물하지 못하였으며, 많은 사람들이 복상(福相)이라고 칭송하였다. 시호는 강정(康定)이다.