본관은 안동(安東). 자는 군요(君饒) · 자범(子汎), 호는 치헌(痴軒) · 취정(翠亭). 권집지(權執智)의 증손으로, 할아버지는 권영화(權永和)이고, 아버지는 판관 권질(權耋)이며, 어머니는 우참찬 이승손(李承孫)의 딸이다. 김종직(金宗直)의 문인이다.
1483년(성종 14)에 진사가 되고, 1485년 별시문과에 병과로 급제하였다. 예문관검열에 등용된 뒤 홍문관정자를 거쳐, 1490년에는 호당(湖堂)에서 사가독서(賜暇讀書)하였다. 여러 차례 천거되어 교리에 이르렀으며, 1495년(연산군 1)에는 외직을 청하여 제천현감이 되었다.
성종 때 김일손(金馹孫)과 함께 사관(史官)으로 있으면서 스승 김종직의 ‘조의제문(弔義帝文)’을 사초(史草)에 실었는데, 이것이 문제가 되어 일어난 1498년의 무오사화 때 유자광(柳子光) · 이극돈(李克墩) 등은 충의를 빙자하여 사당(私黨)을 조직하고 조의제문을 사초에 실어 후세에 전하려 하였으므로 죄가 김종직보다 가볍지 않다고 주장하여 국문을 받은 뒤 아들 권연(權沇) 및 김일손 · 권오복(權五福)과 함께 능지처사되었다.
중종반정 후 도승지에 추증되었다. 남효온(南孝溫) · 김일손 · 강경서(姜景敍) 등과 함께 사장(詞章) · 정사(政事) · 절의(節義) · 효행으로 이름이 높았다. 남효온은 “성품이 강직하면서 굳세고 일을 만들기를 즐기지 않았다.”고 평하였다. 시호는 효강(孝康)이다.