1495년(연산군 1) 증광 문과에 급제해, 권지승문원부정자로 관직 생활을 시작해 예문관 검열 · 봉교, 성균관 전적을 역임하고, 『성종실록』 편찬에 참여하였다. 1500년 하성절질정관(賀聖節質正官)으로 명나라에 다녀온 뒤 홍문관 수찬를 거쳐 홍문관 교리까지 올랐다.
1504년 갑자사화 때 사간원 헌납을 거쳐 홍문관 응교로 있으면서 연산군의 생모인 폐비 윤씨의 복위를 반대하다가 충주에 유배되고, 이어 함안으로 옮겨졌다가 1506년 초 거제도에 위리안치되었다. 이 해 9월에 중종반정으로 풀려나와 다시 홍문관교리로 등용되고, 이어 부응교로 승진되어 사가독서(賜暇讀書)하였다.
1513년(중종 8) 다시 성균관 사예가 되었다가 이듬해 성균관 사성으로 승진하였다. 사섬시정(司贍寺正)을 거쳐 1515년 사간원 사간이 되고, 이어 대사간으로 승진하였다.
이 때 신진 사류인 담양부사 박상(朴祥)과 순창군수 김정(金淨) 등이 폐비 신씨(愼氏)의 복위를 상소하자 이에 강력히 반대하였다. 이어 첨지중추부사 · 홍문관 부제학 · 성균관 대사성 · 좌승지 · 도승지를 거쳐 1517년에 대사헌이 되었다.
그러나 왕의 신임을 얻고 있는 조광조(趙光祖) 등 신진 사류로부터 배척을 받아 첨지중추부사로 좌천되자 사직하고 충청도 면천에 내려갔다. 이듬해 병조참의 · 호조참의로 임명되었으나 모두 부임하지 않았다.
1519년 기묘사화로 조광조 일파가 실각하자 홍문관부제학이 되고, 이듬해 공조참판에 임명됨과 동시에 대사헌과 예문관 대제학을 겸하였다. 그리고 동지의금부사와 세자좌부빈객(世子左副賓客)도 겸임하였다.
1521년 공조판서가 된 이후 우참찬 · 좌참찬 · 우찬성으로 승진하고, 1524년 이조판서가 되었다. 다시 좌찬성을 거쳐 1527년 우의정에 올라 홍문관대제학 등을 겸임하였다.
1530년 『동국여지승람』의 신증(新增)을 책임맡아 끝내고 좌의정이 되었다. 이듬해 권신 김안로(金安老)의 전횡을 논박하다가 오히려 그 일파의 반격으로 판중추부사로 좌천되고, 이어 1532년 평안도 함종에 유배되어 그곳에서 죽었다.
1537년 김안로 일파가 축출되면서 복관되었다. 문장이 뛰어났으며, 글씨와 그림에도 능하였다. 중종 묘정에 배향되었다. 저서로는 『용재집』이 있다. 시호는 문정(文定)이었으나 뒤에 문헌(文獻)으로 바뀌었다.