탐정소설은 일제강점기부터 1950년대까지 추리소설이라는 용어가 통용되기 이전에 범죄, 스릴러, 미스터리와 같은 사건을 다룬 장르 명칭이다. 현재는 탐정소설이라는 용어보다는 추리소설 혹은 미스터리소설이라는 용어를 더 많이 쓴다. 일본에서 사용되었던 본격 탐정소설과 변격 탐정소설로 통용되었으며, 대표적으로 김내성이 장편과 단편에서 서로 다른 분위기를 풍기는 본격과 변격 유형의 탐정소설을 창작했다. 국내에서 창작된 탐정소설의 경우에는 방정환의 탐정소설을 비롯한 모험스파이 양식도 널리 활용되었다.
탐정소설은 일제강점기부터 추리소설이라는 용어가 등장하기 이전에 국내에서 통용되던 장르 명칭이다. 서구에서 사건을 해결하는 탐정에 주목하여 ‘detective novel’에 대한 장르 용어로 사용되었으나 프랑스에서는 ‘경찰소설’로 불리기 때문에, 장르 명칭에 국한된 것이 아니라 각 국가의 사회문화사적, 역사적 배경을 바탕으로 한다. 국내에서는 일본에서 사용되었던 장르 구분인 ‘탐정소설’이라는 용어가 일제강점기에 널리 사용되었다. 이때에는 탐정을 내세웠기 때문에 탐정소설이라 불렀다기보다는 ‘탐정하다’라는 서술어적 의미에서 유래된 것으로, 정탐소설과 혼재되어 쓰이기도 했다.
탐정소설은 하위 장르의 구분도 서구의 미스터리, 범죄, 서스펜스 유형과는 달리, 일본에서 사용되었던 본격 탐정소설과 변격 탐정소설로 통용되었다. 대표적으로 김내성이 장편과 단편에서 서로 다른 분위기를 풍기는 본격과 변격 유형의 탐정소설을 창작했다. 국내에서 창작된 탐정소설은 방정환의 탐정소설을 비롯한 모험스파이 양식도 널리 활용되었다.
탐정소설은 대개 신비의 비밀과 논리적 추리를 장르의 규칙으로 한다. 신비의 비밀이 논리적 추리로 해결되는 이성적이고 과학적인 과정을 탐정소설의 핵심으로 꼽는다. 그러나 일제강점기 한국 탐정소설은 이성적이고 논리적인 추리보다 기이하고 신비로운 비밀에 얽힌 이야기나, 예감이나 육감에 의한 사건 전개의 특성을 보이기도 한다.
한국 탐정소설의 계보로 꼽을 수 있는 것은 이해조의 『쌍옥적』, 방정환의 『동생을 찾으러』, 『칠칠단의 비밀』, 박병호의 『혈가사』, 채만식의 『염마』, 김동인의 『수평선 너머로』, 최류범과 류방 등의 『별건곤』에 실린 탐정소설, 그리고 김내성의 탐정소설들이다. 김내성은 탐정소설 이론을 창작에 적용했는데, 그의 탐정소설을 살펴보면, 『마인』과 같은 본격 미스터리 유형의 탐정소설, 「백사도」, 「악마파」 등 기괴한 분위기와 범인의 심리를 주조하는 변격 괴기 탐정소설, 그리고 『백가면』, 『태풍』 등의 모험스파이 양식의 탐정소설로 구분할 수 있다.
일제강점기에 유입된 최초 탐정소설은 에밀 가보리오의 『르루주 부인』을 번역한 이해조의 『누구의 죄』이다. 유산 주3을 둘러싼 본처와 후처의 갈등, 혹은 본처의 자식과 첩의 자식 사이의 갈등은 일제강점기 탐정소설에서 주요 범죄 모티프였다. 김유정의 반 다인의 『잃어진 보석』의 번역, 안회남의 『르루주 사건』, 김동성의 코난 도일의 『주홍색 연구』를 번안한 『붉은 실』을 비롯하여, 『813』, 주1, 『최후의 주2 등 ‘유불란’ 탐정의 주4였던 모리스 주5의 작품 등이 일제강점기 유입된 서구 탐정소설들이다.
일제강점기 탐정소설은 주로 응접실 살인을 다루고 범인도 귀족 부인이었으며, 향유 계층도 지식인층이었다. 반면에 해방 이후가 되면 뒷골목 범죄 서사로 고아나 거리의 부랑아, 카페 여급 등의 범죄자 계층이 형성되고, 범죄 현장도 더 이상 가정 내의 응접실이 아니라 어두운 뒷골목이나 외딴섬이 된다.
탐정소설은 해방 이후 방인근 같은 작가에 의해 1950년대까지도 활발하게 창작된다. 방인근은 『국보와 괴적』, 『원한의 복수』와 같은 탐정소설을 창작한다. 일제강점기에는 김내성의 유불란 탐정이 있었다면, 1950년대는 방인근의 장비호 탐정이 있었다고 할 수 있다. 한국적 탐정은 서구 탐정과는 다르게, 피해자와 정에 얽히거나 직접 몸으로 여기저기 뛰어다니는 주6을 벌인다.
김내성과 방인근은 한국 탐정소설을 대표하는 작가이지만 해방을 전후하여 창작 경향을 선회한 점도 비슷한 행보를 보였다. 일제강점기에 탐정소설을 창작하던 김내성은 해방 이후 연애 소설로 방향을 선회하였다면, 일제강점기에 『마도의 향불』과 같은 연애 소설을 창작하던 방인근은 해방 이후 탐정소설을 창작하기 시작하였다.