본관은 안동(安東). 자는 숙달(叔達), 호는 퇴재(退齋)·기정(岐亭). 권회(權恢)의 증손으로, 할아버지는 공주목사 권유순(權有順)이고, 아버지는 광흥창주부(廣興倉主簿) 권임(權琳)이며, 어머니는 병조판서 이보정(李補丁)의 딸이다.
1489년 사마시에 합격한 뒤 1494년(성종 25) 별시문과에 병과로 급제하여, 1495년(연산군 1) 홍문관정자에 기용되어 저작·박사를 거쳐 부수찬을 역임하고, 이어 사간원정언·병조좌랑에 보임되었다.
1504년 갑자사화 때 이조좌랑으로 직언을 하다가 영외(嶺外: 상주)에 유배되었으나, 중종반정으로 풀려나 소격서영(昭格署令)·통례원봉례(通禮院奉禮)를 거쳤고, 1509년(중종 4) 사헌부집의로 있을 때 부경사신(赴京使臣)들이 은을 국내에 반입하는 폐단을 금지하도록 하였다.
그 뒤 홍문관직제학을 거쳐 왜인추고경차관(倭人推考敬差官)으로 활약하였으며, 홍문관부제학이 되어서는 군정을 엄히 할 것, 간쟁(諫諍)을 받아들일 것, 기강을 바로 세울 것 등을 주청하기도 하였다.
동부승지·장례원판결사(掌隷院判決事)·대사간·대사헌을 역임하고, 1516년 충청도관찰사로 나갔다.
겉으로는 관후한 인물 같으나, 실제로는 음교(陰狡: 비밀스러우면서 교활함)하고 중상을 일삼으며, 탐비(貪鄙: 탐욕스럽고 비루함)하다는 사신(史臣)의 평을 받았다.