본관은 전주(全州). 자는 휴길(休吉), 호는 척암(瘠菴). 이진일(李震一)의 증손으로, 할아버지는 이봉령(李鳳齡)이다. 아버지는 지평 이제현(李齊顯)이며, 어머니는 정언빈(鄭彦賓)의 딸이다.
1777년(정조 1) 사마시에 합격하고, 1789년 진사로서 식년문과에 을과로 급제하여 승문원에 들어갔으며, 강제문신(講製文臣)에 뽑힌 뒤 지평·감찰·예조정랑을 지냈다. 이때 이승훈(李承薰)·이벽(李檗) 등으로부터 천주교에 관한 책을 얻어 본 뒤, 종래의 주자학과 다름을 알고 이를 배척하였다.
1791년 진산사건(珍山事件)이 일어나 천주교도들에 대한 탄압이 시작될 때 이에 온건적이었던 영의정 채제공(蔡濟恭)을 공격하다가 도리어 경원에 유배되었다.
1794년 풀려나 1795년에 다시 지평이 되었으며, 이어 병조정랑·정언·이조좌랑을 지냈다. 1802년(순조 2) 집의를 거쳐, 1804년 정순왕후(貞純王后)가 재차 수렴청정하려는 것을 반대하다가 다시 단천에 유배되었다.
1805년에 풀려났으나 이남규(李南圭)의 탄핵을 받아 운산으로 유배되었다가, 1809년 다시 풀려났으나 이후 계속 탄핵을 받았다.
천주교를 공격하기 위하여 편찬한 『벽위편(闢衛編)』은 정조·순조시대의 천주교사연구(天主敎史硏究)에 중요한 자료가 된다. 편서로 『사교징치(邪敎懲治)』가 있다.