본관은 선산(善山). 자는 인순(仁順), 호는 괴마(槐馬). 해남 출신. 임득무(林得茂)의 증손으로, 할아버지는 임수(林秀)이고, 아버지는 임우형(林遇亨)이며, 어머니는 박자회(朴子回)의 딸이다. 임억령(林億齡)의 아우이다.
형 임억령과 함께 박상(朴祥)에게 수업하였다. 박상은 그에게 『논어』를 가르치며 관각(館閣)의 문장에 능하리라고 했다. 1516년(중종 11) 진사시에 합격하고, 1519년(중종 14) 식년 문과에 급제해 상서원직장에 서용되었다. 다시 예문관검열이 되었다가 이듬 해 홍문관저작으로 전임하였다.
1524년(중종 19) 홍문관부교리가 되어 고향으로 돌아가 어머니 봉양하기를 청했으나 허락되지 않았다. 1527년(중종 22) 사헌부지평 · 홍문관교리를 역임하고, 영광군수로 나가 치적을 쌓았다. 1532년(중종 27) 사헌부로 다시 옮겨 장령 · 집의를 역임하고, 1537년(중종 32) 승정원도승지가 되었다. 이듬 해인 1538년(중종 33) 공조참판 · 사헌부대사헌 · 한성부좌윤 · 이조참판을 역임했으며, 1539년 다시 대사헌이 되었다가 공조 · 병조 · 이조의 참판을 두루 지냈다.
이듬 해 사은사(謝恩使)의 부사로 명나라에 다녀왔고, 형조참판을 거쳐 경기도관찰사가 되어 민폐의 시정에 힘썼다. 1542년(중종 37) 내직으로 옮겨 한성부의 우윤 · 좌윤을 지내고, 다시 경상도관찰사가 되었다. 이듬 해 세 번째로 대사헌이 되었다가 한성부좌윤을 지냈다. 1544년(중종 39) 이조참판이 되었다가 네 번째로 대사헌이 되고, 호조판서로 승진하였다.
이조판서 역임 시 윤원형(尹元衡) · 이기(李芑) 등과 모의해 을사사화를 일으켜 윤임(尹任) · 유관(柳灌) · 유인숙(柳仁淑) 등을 사사시켰다. 이 사건을 주도한 공로로 정난위사공신(定難衛社功臣) 1등에 책록되고, 숭선군(崇善君)에 봉해졌으며, 자품은 보국숭록대부에 올랐다.
그 해 삼의정이 병약해 그가 우찬성의 지위로 사은사에 선발되어 다시 명나라에 갔다. 그러나 1546년(명종 1) 공무를 마치고 귀국 도중 영평부(永平府)에서 돌연 병사하였다. 시호를 처음에는 공소(恭昭)라 했다가 후에 충헌(忠憲)으로 고쳤다.