본관은 안동(安東). 자는 경신(景信), 호는 마애(磨厓). 경상도 안동 출생. 권거약(權居約)의 증손으로, 할아버지는 권자겸(權自謙), 아버지는 권철경(權哲經), 어머니는 황윤경(黃允卿)의 딸이다.
문장에 능해 1516년(중종 11) 생원시에 합격했고, 같은 해 식년문과에 병과로 급제해 예문관검열에 제수되었다.
1519년 기묘사화가 일어나자 예문관대교로 조광조(趙光祖) 일파의 탄압 반대에 적극 앞장섰다. 1522년 홍문관부수찬을 역임하고, 1526년 사헌부지평에 기용되어 간쟁 활동에 적극적이었다. 이어 홍문관교리·사간원사간·홍문관직제학 등 삼사의 요직을 역임하고, 1529년 강원도어사가 되어 민정을 순찰했다.
이 시기 탐관으로 지목되고 있던 평해군수 최수진(崔秀珍)을 파직시켰다. 이후 내직으로 옮겨 승정원동부승지를 거치고, 이듬해에는 대사간으로서 당상관에 올랐다. 이때 홍문관의 운영이 대신들에 의해 좌우됨을 보고, 홍문관은 공론(公論)의 발원지임을 들어, 직무의 공정성을 강조했다.
한편, 김안로(金安老)와 손을 잡고 복성군옥사(福城君獄死)를 일으켜 심정(沈貞)·성세창(成世昌) 등을 탄핵, 파직시키고 사사(賜死)했다. 그 뒤, 홍문관부제학·대사헌 등 언관을 역임했고, 공조참판·호조참판·병조참판을 거쳐, 경상도관찰사로 나갔다가 다시 형조판서·대사헌·이조판서·우참찬 등 내직에 기용됐다.
그러나 1537년 김안로가 사사되고, 그 일파가 축출되면서 심언광(沈彦光)·심언경(沈彦慶)과 아울러 파직, 안동에서 10여 년 은거하다가 죽었다. 성품은 강경해 나서기를 좋아했고, 자질이 총민했다. 요직을 역임하고 권력을 장악한 바 있어도 근검해 가산은 돌보지 않았다고 한다. 문집으로 『마애집』이 전한다.