본관은 예천(醴泉). 자는 향지(嚮之), 호는 수헌(睡軒). 예천 출신. 권상(權詳)의 증손으로, 할아버지는 권유손(權幼孫), 아버지는 별좌 권선(權善), 어머니는 이조판서 이계전(李季甸)의 딸이다.
일찍부터 경서·사서에 접했으며 김종직(金宗直)의 문하생으로 당시의 청류(淸流)와 교분이 넓었고, 특히 김일손(金馹孫)과는 막역한 사이였다.
1486년(성종 17) 사마시에 합격하고, 같은 해 식년문과의 병과에 급제해 예문관에 들어갔다. 그 뒤 봉교·수찬·교리 등을 역임하고, 1496년(연산군 2) 노모 봉양을 위해 사직하자 향리에서 가까운 고을의 수령에 제수되었다.
무오사화가 일어나자 향리에서 잡혀 올라와 같은 문하의 김일손·권경유(權景裕) 등과 함께 처형되었다. 뛰어난 학문과 문장을 인정받아 성종 때의 문화 사업에 많이 참가했다.
1489년 당시 요동에 와 있던 중국의 문신 소규(邵奎)에게 『소학』의 의문점을 물어 번역하라는 명령을 받고 의주까지 갔으나 계획이 취소되어 돌아왔다.
1493년 이창신(李昌臣) 등과 함께 법률 조문에 밝은 신하로 뽑혀 사율원(司律院)에서 율문(律文) 조정과 율관(律官) 교육을 담당했고, 다음 해에는 역시 이창신 등과 함께 소의 병을 치료하기 위한 『안기집(安驥集)』·『수우경(水牛經)』 등의 책을 번역하라는 명을 받았다.
1491년 어전에서 「치국여팽소선론(治國如烹小鮮論)」을 지어 3등상을 받았다. 1494년 거제현에 왜구가 침입하여 피해를 입힌 사건을 만호 이극검(李克儉)이 숨겼다가 발각되자 경차관(敬差官)으로 파견되어 전말을 심문해 보고하기도 했다.
필법이 굳세고, 문장이 맑고 강했다고 하며 시문을 많이 남겼다. 화를 입은 뒤 시문을 비롯한 유고들이 많이 불태워지거나 흩어졌는데, 형 권오기(權五紀)가 남은 것을 한 질의 책으로 엮어 보관했다.
종손 권문해(權文海)가 1584년(선조 17) 대구부사로 있으면서 그것을 바탕으로 『수헌선생집』을 간행했다. 도승지에 추증되고, 예천의 봉산서원(鳳山書院)에 제향되었다. 시호는 충경(忠敬)이다.