본관은 창녕(昌寧). 자는 용여(龍汝), 호는 연경재(硏經齋). 포천 출생. 할아버지는 찰방 성효기(成孝基)이고, 아버지는 부사 성대중(成大中)이다. 어머니는 전주이씨로 진사 이덕로(李德老)의 딸이다.
1783년(정조 7) 진사시에 합격했고, 1788년 규장각 검서관(檢書官)으로 임명되었다. 그 뒤 내각에 봉직하면서 이덕무(李德懋)·유득공(柳得恭)·박제가(朴齊家) 등 북학파 인사들과 교유하고 각종 서적을 광범위하게 섭렵, 학문의 바탕을 이룩하였다. 특히, 1790년에는 정조가 규장각에 명하여 『춘추좌씨전(春秋左氏傳)』을 편제했는데, 여기에도 깊이 참여하고 권수의 범례를 작성하였다.
1801년(순조 1)에 통례원인의(通禮院引儀)로 옮겼고, 금정찰방(金井察訪)이 되었다가 1803년에 음성현감을 지냈다. 1813년 정조의 어제(御製)를 간행할 때 세 차례 규장각에 들어갔다가 일이 끝난 뒤, 1815년에 사직하고 고향에 돌아갔다. 그 뒤 아들 성헌증(成憲曾)의 임지인 충청도 목천과 고향에 거주하면서 학문을 닦았다.
앞서 1788년 정조가, 아버지 성대중과 이의준(李義駿)·이서구(李書九)에게 명하여 존주(尊周)에 관한 글을 모아 편찬하게 했는데 성해응도 한때 그것을 보좌하였다. 때문에 사직 후 이서구의 위탁을 받아 정리한 끝에 1825년 『존주휘편(尊周彙編)』의 편수를 마쳤다.
학문 연구의 방법은 옹방강(翁方綱)과 같은 청의 학자들과 마찬가지로 훈고(訓詁)·고증(考證)을 바탕으로 하면서도, 번쇄하고 지리한 고증은 달가워하지 않았다. 즉, “한학(漢學)과 송학(宋學)의 요점을 잡아 박문약례(博文約禮)의 교훈으로 돌아간다.”는 것이 그 주장의 핵심이었다. 그러한 견지에서 당시 조선의 학자들이 오로지 의리만을 숭상하고 정이(程頤) 형제나 주희(朱熹)만을 신봉하여 다른 학설을 배척하는 것을 비판하였다.
특히 “고증학자들이 의리를 소중히 여기지 않고 단지 명물도수(名物度數) 같은 말단만을 인증한다.”는 홍석주(洪奭周)의 고증학 비판에 대해, 고증의 방법을 변호하고 한송(漢宋)의 절충을 주장하여 재래의 편파적인 학풍에 반대하는 논리를 펴기도 하였다.
그의 학문은 방대한 문집에 나타나는 바와 같이 지리·풍속·서적, 심지어 금수·곤충에 이르기까지 넓은 폭을 보이지만, 경학(經學)과 사학(史學)이 사람에게 절실한 학문으로서 서로 표리가 된다고 하여 그 두 학문에 진력하였다. 특히, 경학에 주력했으며 『예기(禮記)』와 『시경(詩經)』에 대한 저술이 대부분을 차지하고 있다.
역사 연구는 체계를 갖춘 큰 저술은 없으나, 우리 나라의 전승과 지리, 중국의 역대 제왕과 왕실 및 유민(遺民), 조선과 중국의 관계, 풍속과 법제, 그리고 경제에 대한 자료 등을 남겼다.
실학 전성기의 인물로서, 조선 후기 주자학에 대한 발전적 비판 내지 저항이 줄기차게 계속될 때 경학의 이념적 굴레를 탈피하려는 박학적(樸學的)이고도 고증학적 경향을 보인 학자라는 역사적 평가를 받기도 한다. 본집·외집·별집으로 구성된 『연경재전집(硏經齋全集)』을 남겼다.