본관은 동래(東萊). 자는 길원(吉元), 호는 임당(林塘). 난종(蘭宗)의 증손으로, 할아버지는 영의정 광필(光弼)이고, 아버지는 강화부사 복겸(福謙)이다. 어머니는 이수영(李壽永)의 딸이다. 김상헌(金尙憲)·김상용(金尙容)의 외할아버지이다. 아들 창연(昌衍)은 좌의정까지 올랐다.
1531년(중종 26) 사마시에 합격하고, 1538년 별시문과에 장원하여 중종의 축하를 받고 곧 사간원정언에 올랐다. 그 뒤 공조좌랑·이조좌랑·중추부도사·세자시강원문학 등을 역임하였다.
1544년 이황(李滉)·김인후(金麟厚) 등과 함께 동호서당(東湖書堂)에서 사가독서(賜暇讀書 : 문흥을 일으키기 위해 유능한 젊은 관료들에게 휴가를 주어 독서에만 전념케 하던 제도)하였다.
그 뒤 이조정랑·의정부사인·사헌부집의·교리·직제학을 거쳐 1552년(명종 7) 부제학에서 가선대부(嘉善大夫)에 승자하여 도승지가 되었다. 이 때 이황과 더불어 성학(聖學)을 진흥시켜야 함을 진언하였다. 이어 이조참판·예조참판·대사간·예조판서 등을 역임하였다.
1560년 찬성 홍섬(洪暹)이 대제학을 사양하고 후임으로 예조판서 정유길, 지사 윤춘년(尹春年)·이황을 추천했는데, 이 중에서 가장 많은 지지를 얻어 홍문관·예문관의 대제학이 되어 문형(文衡)에 들어갔다. 얼마 뒤 이조판서에 오르고 지중추부사가 되어 1567년 진하사로 명나라에 다녀왔다.
1568년(선조 1) 경상도·경기도 관찰사를 역임하면서 옥사(獄事)를 바로잡고, 민생안정에 진력하였다. 1572년 예조판서로 있으면서 명나라 사신 접반사가 되어 능란한 시문과 탁월한 슬기를 발휘하여 명나라 사신과 지기지간이 되었다.
그 뒤 우찬성·판의금부사·판돈녕부사를 거쳐 1581년 우의정이 되었으나, 명종 때 권신인 윤원형(尹元衡)·이량(李樑) 등에게 아부한 사람을 상신(相臣)에 앉힐 수 없다는 사헌부의 탄핵으로 사직하였다.
그 뒤 1583년에 우의정에 오르고, 그 이듬해 궤장(几杖)이 하사되어 기로소에 들어갔으며, 1585년 좌의정이 되었다. 충효와 근신을 근본으로 삼고 넓은 도량을 가지고 있어 포섭력이 강했으며, 큰 일에는 대의를 가지고 과감하게 이를 처결하였다. 시문에도 뛰어났으며, 서예에도 능해 임당체(林塘體)라는 평을 받았다. 작품에 <한기비 韓琦碑>가 있고, 저서로 ≪임당유고 林塘遺稿≫가 있다.