본관은 안동(安東). 자는 여행(汝行), 호는 퇴암(退庵). 권규(權逵)의 6대손으로, 도첨의정승(都僉議政丞) 권한공(權漢功)의 후예이다. 아버지는 권덕휘(權德輝)이며, 어머니는 장수황씨(長水黃氏)로 황호(黃皡)의 딸이다.
8세 때 『소학』을 배우기 시작했고, 16세 때 경사자집을 모두 섭렵하였다. 평소 문장사화에는 별로 관심을 가지지 않고, 오로지 경학 연구에만 전념하였다.
1697년(숙종 23) 이현일(李玄逸)이 관북(關北)에서 희양(晞陽)으로 이배(移配)되어오자, 그의 문하에 들어가 처음에는 『논어』를 배우고, 이어 다른 경전을 배워 궁리수신(窮理修身)의 실무를 알아서 실천하도록 하여, 교도를 받은 지 수년 만에 학업에 대성하였다.
그 뒤 이현일이 유배에서 풀려나 향리로 돌아간 뒤에도 5백리 길을 자주 왕래하며 『중용』과 『대학』의 부주(附註) 가운데 모르는 것을 묻는 등 경서와 예학에 관해 계속 연찬하였다. 도한 금양(錦陽)에 살고 있던 이현일의 아들 이재(李栽)를 찾아가 문장을 강화(講話)해 더욱 정진하였다.
성리학에서도 사단칠정을 연구함에 있어 이황의 학문을 근원으로 하되, 천인성명(天人性命)의 원질을 추본(推本)해 의심스러운 것은 반드시 실행과 고증을 통해 분명히 밝힘으로써 성리학 발전에 많은 업적을 남겼다.
그는 본래 정치에는 뜻이 없어 관로에는 나가지 않았고, 오직 학문 연마와 후진 양성에 진력하였다. 특히 거경(居敬)을 생활 신조로 삼고, 위기지학(爲己之學)을 닦고, 성리학을 깊이 궁구해 그 방면의 저술을 많이 남겼다.
그의 이기에 관한 견해는 이현일·이재 부자의 학통을 이어받아 주리론적인 입장을 취하였다. 이만부(李萬敷)는 그의 이기설을 읽고 평하기를 “가히 영남유종(嶺南儒宗)이라 할만하다.”고 하였다.
저서에는 『퇴암집(退庵集)』 3책과 편저에는 『금양기선록(錦陽記善錄)』·『노산자경록(蘆山自警錄)』·『낙민언경록(洛閔言敬錄)』 등이 있다.