A5판, 796면. 1965년 을유문화사에서 『한국문화총서』 제18집으로 발행하였다.
『연암소설연구』는 연암소설을 3기로 나누어 연구하였다. 「마장전(馬駔傳)」·「예덕선생전(穢德先生傳)」·「광문자전(廣文者傳)」·「민옹전(閔翁傳)」·「양반전(兩班傳)」·「김신선전(金神仙傳)」·「우상전(虞裳傳)」과 원문이 전하지 않는 「역학대도전(易學大盜傳)」·「봉산학자전(鳳山學者傳)」까지 포함한 초기 9전(傳)을 제1기로 묶었다.
이 9전은 박지원이 18세 때부터 30세 때까지 지었던 작품들이다. 『연암집별집』 ‘방경각외전(放璚閣外傳)’에 실려 있다. 박지원이 44세 때에 지은 「호질(虎叱)」과 「허생(許生)」은 『열하일기(熱河日記)』에 실려 있다. 이 두 편을 제2기로 묶어 연구하였다. 57세 때에 지은 「열녀함양박씨전(烈女咸陽朴氏傳)」은 제3기로 분류하여 다루었다.
『연암소설연구』는 실학파의 철저한 고증학적 방법을 이어받아 방대한 문헌을 섭렵하여 문학적 배경·풍자성과 영향을 연구하였다. 이해를 돕기 위하여 108개의 사상계보(思想系譜)를 정리하였다.
이가원은 이 책에서 박지원의 실학사상을 이용후생학(利用厚生學)·북학(北學)·서학(西學)·주자학(朱子學)으로 나누었다가 이우성(李佑成)과 실학의 개념에 관한 논쟁을 벌이기도 하였다.
박지원을 비롯한 실학자들이 주자학에 반기를 들고 전혀 새로운 사상을 주창한 것처럼 연구되어 왔다. 『연암소설연구』는 박지원이 조선조의 지배적 가치관이었던 주자학의 테두리 속에서 현실의 문제를 해결하려고 노력하였음을 밝혔다.
거기에다 북학과 서학에서 그의 실학사상이 태동되었음을 규명하였다. 이가원은 박지원의 문장이론을 법고창신(法古刱新)·사의위주(寫意爲主)·성색정경(聲色情境)·조직방법(組織方法)·설증취승(設證取勝)으로 요약하였다. 『열하일기』와 그의 소설들이 이러한 이론으로 지어졌음을 밝혔다.
『연암소설연구』는 박지원에 관한 모든 문헌을 총망라하여 한 작가의 실체를 천착하는 외재적 연구(外在的硏究)였기 때문에 작가론이나 사회적 맥락과의 관련성 구명 등의 작품의 주변 문제는 깊이 파헤쳤다.
작품 자체의 구조를 분석하고 해명하는 내재적 연구가 다소 미흡하다는 비판을 받기도 하였다. 그러나 10편의 소설 각론마다 ‘풍자성’ 항목을 두어 연암소설의 특성을 부조리한 당대 현실사회에 대한 풍자로 본 것은 이 책의 공로이다.
『연암소설연구』는 『연암집』의 모든 이본들을 비교하고 검토하여 연구하였다. 이 책이 출간된 뒤에 나온 연암연구들은 거의 이 책에 의지하여 출발하고 있다.