김남천이 제기한 고발문학론은 프로문학 퇴조기에 러시아에서 유입된 사회주의 리얼리즘을 한국적 상황에서 어떻게 받아들이느냐에 대한 고민의 결실이다. 또 카프의 지도적 기능이 상실된 시대에, 작가의 세계관과 사회적 실천이 거세되고 오히려 안주된 창작의 자리로 떨어져 나간 작가적 태도를 비판하면서, 리얼리스트 작가로서 먼저 ‘자기 자신을 격파하려는 정신’을 담지할 것을 피력하였다. 즉 작가 스스로 소시민성을 적나라하게 드러냄으로써, 소시민성을 공격·고발하고 새로운 주체 건설의 발판으로 삼자는 것이 주요 내용이다.
고발문학론의 핵심어는 ‘가면 박탈’이다. ‘가면 박탈’이라는 용어는 일본 프롤레타리아예술동맹 맹원이었지만 이후 혁명운동 및 프롤레타리아 문학운동을 비판한 비평가 가메이 가츠이치로(龜井勝一郞)의 「ありとあらゆる假面の剝奪」(『문학평론』1934.5)에서 처음 사용되었다. 그는 “온갖 가면의 박탈, 나는 지금 이 정열을 가장 사랑한다. 현실의 숨은 진실이라 불리는 것을 오로지 추구하는 때의 그것은 격렬한 정열이다.”라고 주장하였다. 따라서 ‘가면 박탈’은 먼저 전향과 조직체의 해산을 경험한 일본 프로문학에서 제기된 자기비판의 방법 개념이다. 이에 공감한 김남천이 이를 ‘자기고발’, ‘자기폭로’라는 개념으로 원용해 주장한 문학론이 바로 고발문학론이다.
그러나 가메이 가츠이치로(龜井勝一郞)의 ‘가면 박탈’이 자기비판에서 마침내 사상의 포기로 낙착된 것과는 달리, 김남천의 ‘가면 박탈’ 또는 고발문학에서는 자기비판을 통해 조선의 현실을 직시하면 할수록 저항의지의 당위성 역시 더욱더 확연해질 수밖에 없다는 논리로 발전한다. ‘가면 박탈’이 일종의 비평적 수사라면, 거기서 발전된 고발문학은 엄연히 전형기의 대안적 창작방법으로 제기되었고, 그 이론적 근거로 삼은 것은 반영론 즉 엥겔스의 리얼리즘론이었다. 이후 고발문학론은 모랄론, 로만개조론 등으로 심화, 확대되었다.
김남천이 주장한 고발문학론의 출발은 「지식계급 전형의 창조와 ‘고향’ 주인공에 대한 감상―이기영 ‘고향’의 일면적 비평」(『조선중앙일보』 1935.6.28-7.4)이다. 이 글에서 김남천은 「고향」의 주인공 ‘김희준’의 성격을 언급하면서 다음과 같이 ‘가면 박탈’이라는 용어를 사용한다. “그것은 지식계급 자신에 대한 가면 박탈의 방향이다. 가면 박탈 그렇다. 조금도 용서없는 가면 박탈의 칼만이 가히 나팔륜의 칼이 될 수 있으며 이것만이 지식층의 출신작가로 하여금 소극적인 인텔리겐트 주인공을 정당히 **하게 할 수 있으며 주인공에게 부여되는 일체의 생활 감정도 편애의 긍정에서가 아니라 가장 치열한 비판적 태도에서 그려나갈 수가 있을 것이다.”
그러나 고발문학론을 본격적으로 천명한 것은 「고발의 정신과 작가―신창작이론의 구체화를 위하여」(『조선일보』1937.5.30-6.5)이었다. 이 글에서 김남천은 그동안 리얼리즘 앞에 붙은 ‘사회주의적’이란 말이 불문에 붙여져 왔다고 전제하면서, “이 창작이론이 조선에서는 구체적으로 여하히 발전되어야 할 것인가를 문학적 정세의 면밀한 분석 속에서 규정하지 못하고 사회정세 일반에서 기계적으로 추출되었던 때문에 유물변증법적 창작방법 당시에 유물변증법에 손을 다친 작가들은 다시금 신창작이론에 대해서도 그것이 그들을 삼켜버리려는 마귀라도 되는 듯 두려움을 느꼈던 것”이라고 언급하였다. 곧 조선의 사회정세에 맞지 않는 사회주의 부분은 제쳐두고, 리얼리즘을 구체화하는 것이 창작방법논쟁의 진정한 과제라는 주장이다. 그는 “일체를 잔인하게 무자비하게 고발하는 정신, 모든 것을 끝까지 추급(追及)하고 그곳에서 영위되는 가지각색의 생활을 뿌리째 파서 펼쳐 보이려는 정열―이것에 의하여 침체되고 퇴영한 프로문학은 한 개의 유파로서가 아니라 시민문학의 뒤를 낳는 역사적인 존재로서 자신을 추진시킬 수 있을 것이다. 이 길을 예술적으로 실천하는 곳에서 문학의 사회적 기능도 다할 수 있을 것”이라며, 이것은 이 땅 이 시대의 작가가 당연히 가져야 할 정신이라고 강조했다. 고발정신이야말로 ‘리얼리스트 고유의 정신의 발전’으로서, “이 정신 앞에서는 공식주의도 정치주의도 폭로되어야 한다. 영웅주의도 관료주의도 고발되어야 한다. 추(醜)도, 미(美)도, 빈(貧)도, 부(富)도 용서없이 고발되어야 한다”는 것이다. 이러한 주장의 연장선상에서 그는 「창작방법의 신국면―고발문학에 대한 재론」(『조선일보』1937.7.10-7.14)을 통해 “자기폭로와 가면박탈의 이론의 발전에서 고발문학을 발견한 것”이라고 명시했다.
김남천의 주장에 대해 이헌구는 고발의 정신이 하나의 독자적인 문학론, 곧 리얼리즘 문학론으로 발전되어 나아가기에는 지나치게 생경하고 편협한 개념이라고 비판했다. 또 윤규섭은 「문단시어」(『비판』41호, 1937.9)에서 고발문학의 ‘고발’은 비판적 정신의 ‘비판’을 대치한 것에 불과하다고 지적하였고, 한효는 「창작방법론의 신방향 (2)」(『동아일보』1937.9.21)을 통해 작가의 ‘고발의 정신’의 고조에만 성급하였고, ‘문예학 일반의 문제’나 ‘창작방법론상의 실천적 계기’ 등을 구체적으로 논의하지 못했다고 지적하였다.
이러한 논자들의 문제제기에 대해 김남천은 「최근 평단에서 느낀 바 몇 가지」(『조선일보』1937.9.11-9.16)에서 ‘고발이란 것은 객관적 존재의 반영’이고 ‘고발문학이란 리얼리즘 문학’이라며, 고발의 정신만이 당대의 위기를 헤쳐 나갈 수 있는 적극적 문예 창조의 정신으로 기능할 것이라고 되풀이하여 주장하였다.
김남천에게 고발문학론이란 ‘자기의 성찰과 개념의 주체화’(「‘유다’적인 것과 문학 ― 소시민 출신 작가의 최초의 모랄」, 『조선일보』 1937.12.14-18)로 수렴되었다. 김남천은 주체의 재건을 위한 과정이 자기고발이며, 객체에 대한 작가의 인식 통로가 바로 ‘모랄’이라고 주장하였다. 고발문학에서 ‘문학’이란 ‘문예를 말함이 아니고, 과학이나 이론에서 구별되는 예술 일반이 갖고 있는 일종의 사상 내지는 에스프리’라고 밝히면서 이를 ‘모랄’에 관련된 논의로 발전시킨다. 김남천에게 모랄은 주체와 객관 현실을 매개해 주는 개념이었다. 그는 소시민 작가들이 모랄을 가짐으로써, 소시민지식인으로서 유약한 주체를 강화하고, 현실과 당당히 대면해서 리얼리즘을 지켜나갈 수 있다고 보았다. 고발문학론에서 시작된 그의 문학론은 모랄론을 거쳐 풍속소설론, 로만개조론, 관찰문학론으로 점점 심화되어 전개되었다.
김남천의 고발문학론은 전형기의 대안적 창작방법으로 제기된 문학론으로, 리얼리즘에 기초한 주체 재건론이라고 규정할 수 있다. 주체 재건을 위해 ‘자기 고발’의 노력이 필요하다는 것인데, 이것이 객관 세계와는 아무런 실천적 교섭 없이 오직 내면에 존재하는 소시민성의 폭로로만 제시되고 있어 한계를 보인다. 그러나 김남천은 고발문학론을 이론적 틀로 삼아 이후 모랄론, 풍속소설론, 로만개조론, 관찰문학론 등으로 자신의 문학론을 전개해 나갔다.