세례명 아우구스티노. 본관은 나주(羅州). 경기도 광주(지금의 남양주시 조안면 능내리) 출신. 진주목사 재원(載遠)의 아들이며, 약현(若鉉)·약전(若銓)·약용(若鏞)의 4형제 중 셋째이다.
1786년경 중형인 정약전에게 교리를 배워 입교하였다. 천성이 곧고 모든 일에 정성을 다 하는 성품을 지녀, 서학서(西學書)를 접하게 되자 이에 심취하여 가톨릭 교리를 연구함으로써 당대에서 가장 교리지식이 뛰어났다. 1791년(정조 15) 천주교박해로 형제와 친구들이 모두 배교 또는 멀리 하여도, 끝까지 신앙을 지켰다.
주문모(周文謨)신부가 입국한 뒤로는 명도회장(明道會長)으로 임명되어 많은 사람들에게 전교하는 데 큰 구실을 하였는데, 특히 한문을 모르는 사람들에게 교리를 가르치기 위하여 한문본교리책에서 중요한 것만을 뽑아 누구나 알기 쉽도록 우리말로 『주교요지』라는 책을 써서 전교하는 데 큰 공을 세웠다.
그 뒤 교리서를 종합, 정리하여 『성교전서(聖敎全書)』라는 책을 쓰던 중 박해를 당하여 뜻을 이루지 못했다. 1801년 2월에 체포되었고, 대역죄인으로 다스려져, 2월 26일 이승훈(李承薰)·최창현(崔昌顯)·홍낙민(洪樂民) 등과 함께 서소문 밖에서 참수되어 순교하였다.
2014년 8월 16일 광화문 광장에서 시복(諡福)되었다.