본관은 안동(安東). 자는 기명(旣明), 호는 녹암(鹿庵), 세례명은 암브로시오(Ambrosius). 권근(權近)의 후손으로, 고조는 대군사부(大君師傅) 권적(權蹟), 증조는 승지 권흠(權歆)이고, 할아버지는 진사 권돈(權敦)이며, 아버지는 권암(權巖)이다. 동생은 권일신(權日身)이다. 이익(李瀷)·이병휴(李秉休)의 문인이다.
실세한 남인 가문에 태어나 일찍이 과거를 포기하였다. 서교(西敎, 천주교)에 빠지기 전에는 일반 유학자와 마찬가지로 경학(經學)을 탐구하였다. 그 과정에서 정통주자학을 비판, 양명학(陽明學)에 깊은 관심을 보이기도 하였다. 특히 선학들의 학문 방법에 구애되지 않고 자유로운 경전 해석을 하여 유학의 한계를 극복해 갔다.
이러한 학문과 사상적 바탕 위에 서학에 관심을 가지기 시작, 1777년(정조 1)부터 경기도 여주 앵자산(鶯子山)에 있는 천진암 주어사(走魚寺)에서 김원성(金源星)·정약전(丁若銓)·정약용(丁若鏞)·이벽(李蘗)·이윤하(李潤夏) 등 남인계 학자들과 서학교리연구회를 가지면서 중국에 전해진 서양의 철학·수학·종교 등을 연구하였다. 그리고 이를 기연으로 천주교에 입교하게 되었다.
이후 사회적 명망에도 주저하지 않고 암브로시오라는 교명으로 세례를 받았다. 1791년 신해박해(辛亥迫害, 혹은 珍山事件)로 동생 권일신을 비롯한 많은 교우들이 순교했지만, 직접적인 포교에 관여하지 않고 학문과 교리를 통하여 신앙 생활을 했기 때문에 주위의 박해를 피할 수 있었다.
그리고 학행(學行)으로 많은 동향인들을 천주교에 입교하게 하였다. 그러나 교우들이 형벌에 못이겨 교를 배반했다는 말을 듣고는 반평생의 업적이 무익해졌음은 물론, 순교의 영광스런 화관을 잃었다며 애통해하기도 하였다.
1799년 대사간 신헌조(申獻朝)에 의하여 정약종과 함께 천주교인으로 피소되었지만, 정조는 오히려 신헌조의 품계를 박탈하면서 서학 사건을 거론하지 못하게 하였으며 이에 다시금 화를 면할 수 있었다.
그러나 정조가 죽고 노론 벽파가 집권하게 되자 체포되어 신문을 받았다. 1801년 혹심한 형벌을 받는 중에도 조금도 변색하지 않고 조용하고 침착하게 신문에 임하였다.
정약종·홍낙민(洪樂敏)·이승훈·홍교만(洪敎萬)·최필공(崔必恭)·최관천(崔冠泉, 혹은 昌顯) 등과 같이 사형을 언도받았다. 그러나 형 집행에 앞서 1801년 옥중에서 장독으로 죽었다.
이익의 제자로 남인학파의 연장자이며 지도자로서 가족들과 함께 천주교에 입교, 신앙을 지키다가 순교한 서학파(西學派)의 대가로 손꼽힌다. 저서로 동학이자 선배였던 홍유한(洪有漢)에 대한 『추도문』·『시칭(詩稱)』 2권·『대학설(大學說)』 1권 등이 있다. 또한 홍유한과 교유한 여러 통의 친필 편지가 남아 있다.