본관은 안동(安東). 자는 자여(子輿). 할아버지는 지돈녕부사 권격(權格)이고, 아버지는 금성현령(金城縣令) 권수(權壽)이며, 어머니는 의영고사(義盈庫使) 한가구(韓可久)의 딸이다. 효자로 이름이 높았다.
1480년(성종 11) 사마시에 합격하였다. 여동생이 후궁으로 선택되어 그 혜택으로 서부참봉(西部參奉)에 임명되었으나 병을 핑계로 사임하고 한동안 과거에 응시하지 않았다. 1491년 도원수 허종(許琮)에 의해 선전관으로 발탁된 이후, 사축(司畜)을 지내고, 사평(司評)이 되어 담당한 송사를 명쾌하게 처리하였다.
그 뒤 사옹원판관(司饔院判官)·경상도도사·전라도도사·사직서영(司稷署令)·한성부판관·형조정랑을 거쳐 1502년(연산군 8)에 지평(持平)이 되었다. 그 뒤 장령(掌令)·전첨(典籤)·사도시부정(司䆃寺副正)을 역임하고, 부모봉양을 위해 외직을 희망, 1506년 인천부사가 된 뒤 안변도호부사·성주목사를 역임하면서 민폐일소에 힘썼다.
1507년 증광별시에 을과로 급제하여 사섬시정(司贍寺正)·사복시정(司僕寺正)·성균관전적(成均館典籍)을 지내고, 공주목사로 나갔다. 성주목사로 있을 때 선산부사 유희철(柳希輟), 김산군수 문근(文瑾)과 더불어 '영남삼량(嶺南三良)'이라 하여 명수령으로 꼽혔다.