『금오신화』는 조선전기 학자·문인 김시습이 지은, 「만복사저포기」·「이생규장전」·「취유부벽정기」·「용궁부연록」·「남염부주지」 5편을 수록한 우리나라 최초의 한문 단편 소설집이다. 창작 시기는 명종 연간으로 경주 금오산 용장사에 은거하면서 지었다는 설이 가장 유력하다. 고려말 조선초에 형성된 서사문학 전통을 배경으로 하고, 불교 및 도교사상 등 다양한 사상적 근거 위에 나름의 글쓰기 방식을 개척하여 탄생시켰다. 소설이라는 장르에 충실한 것인지에 대해서는 이견이 있지만 한국소설의 출발점을 이루고 후대에 큰 영향을 끼쳤다는 점에 문학사적 가치가 있다.
일반적으로 우리나라 최초의 소설로 인정되고 있다. 완본(完本)은 전하지 않으나, 조선 전기에 간행된 목판본 1책이 중국 다롄도서관(大連圖書館)에 전래되고 있다. 조선 전기 간행본을 기준으로 살펴보면 「매월당선생전(梅月堂先生傳)」 · 「만복사저포기(萬福寺摴蒱記)」 · 「이생규장전(李生窺墻傳)」 · 「취유부벽정기(醉遊浮碧亭記)」 · 「남염부주지(南炎浮洲志)」 · 「용궁부연록(龍宮赴宴錄)」 등으로 구성되어 있다.
본 문헌은 당대부터 희귀본이어서 간혹 문헌에서 기록을 찾아볼 수는 있으나, 대한제국 말엽까지 실물이 발견되지 않았다. 그러던 중 일본에서 간행되어 전해오던 목판본 『금오신화』를 최남선(崔南善)이 발견하여 잡지 『계명(啓明)』 19호를 통해 1927년에 국내에 소개하였다. 해당 목판본은 1884년(고종 21) 도쿄(東京)에서 간행된 것으로, 상하 2책으로 구성된 것이다.
1884년 일본 간행본은 상권이 32장으로 서(序) · 「매월당소전(梅月堂小傳)」 · 「만복사저포기」 · 「이생규장전」 · 「취유부벽정기」가 수록되어 있으며, 하권은 24장으로 「남염부주지」 · 「용궁부연록」 · 발문 · 평(評) 등이 수록되어 있다. 「매월당소전」과 발문 2편 가운데 1편은 한말의 정계 및 종교계에서 활약했던 이수정(李樹廷, 1842~1886)이 쓴 것이다. 하권의 말미에는 이 책을 ‘갑집(甲集)’이라고 한 기록이 있어, 본래의 작품 수는 5편 이상이었음을 알 수 있다. 1884년 간행된 목판본 『금오신화』는 1653년(효종 4) 일본에서 간행된 판본을 중간한 것이며, 1653년 간행본의 대본은 오쓰카(大塚彦太郎)의 가문에서 오랫동안 전래되던 자료였다.
이보다 앞선 시기 조선에서 간행된 『금오신화』 목판본이 1990년대 후반 국내에 알려지게 되었다. 해당 판본은 중국 다롄도서관 소장본으로, 1책의 목판본이다. 다롄도서관 소장 조선 간행본은 명종연간 간행된 것으로 보이며, 권수면 하단에 파평후학(坡平後學) 윤춘년(尹春年)편집(編輯)이라는 문구가 수록되어 있다. 중국 다롄도서관 소장본은 [양안원장서(養安院藏書)], [율전만차랑소장(栗田萬次郞所藏)] 등의 인문이 답인되어 있어 임진왜란 당시 일본군에 의해 약탈된 문헌이 19세기 후반~20세기 초 이후 중국 다롄도서관으로 전래되었던 것으로 보인다.
현재 한국에는 국립중앙도서관에 1884년 도쿄에서 간행된 목판본이 소장되어 있다. 1952년에는 정병욱(鄭炳昱)에 의하여 필사본으로 된 「만복사저포기」와 「이생규장전」이 발견되었다.
수록된 다섯 편의 내용은 다음과 같다. 「만복사저포기」는 남원의 노총각 양생(梁生)과 죽은 처녀의 혼령과 사랑하다 죽은 처녀의 혼령임을 깨닫고는 지리산으로 들어가 소식을 끊었다는 내용의 애정소설이다. 「이생규장전」은 전반부에서는 이생과 최랑(崔娘)이라는 남녀 간의 사랑을 다루었다. 후반부에서는 홍건적에게 최랑이 죽자 현세에서의 사랑을 다하지 못하여 병이 들어 죽는다는 내용으로 죽은 여자의 사랑을 다룬 애정소설이다. 「용궁부연록(龍宮赴宴錄)」은 주인공 한생(韓生)이 용왕의 초대를 받고 용궁에서 극진한 대접을 받고 돌아온다는 내용으로 한 작품이다. 「취유부벽정기」는 송경(松京)에 사는 홍생(洪生)이 취하여 수천 년 전 기자(箕子)의 후손으로 선녀가 된 기씨녀(箕氏女)를 만나 아름다운 이루어진 정신적인 사랑과 고국의 흥망에 대한 회고의 정을 진하게 담은 일종의 애정소설이다. 「남염부주지」는 불교를 믿지 않던 경주에 살던 박생(朴生)이 꿈속에서 남염부주(炎浮洲)에 다녀온 후 크게 깨닫는다는 내용의 작품이다.
이 작품이 창작된 시기와 장소에 대해서는 여러 가지 설이 있으나, 30대의 어느 작자가 경주의 금오산 용장사(茸長寺)에 은거하면서 지은 것이라는 설이 가장 유력시되고 있다. 이 작품의 창작 배경으로는 우선 문학사적 전통을 들 수 있다. 나말려초의 문헌에서부터 보이기 시작하는 전기(傳奇) 또는 전기소설(傳奇小說)이라 불리는 일련의 작품들에 의해 마련된 서사문학적 전통이 그것이다. 또한 창작 당대에 있었던 사회사 및 사상사의 새로운 전개가 창작배경이 되기도 했다. 조선왕조의 건설자들은 주자학을 새로운 지도이념으로 채택해서 지배질서를 확립하고 전제개혁(田制改革)을 단행하여 집권층의 생활기반을 확립하고자 했다.
이러한 역사적 운동의 과정에서 이른바 신진사류로 불리는 일련의 소외된 지식인들은 민중의 처지에 동조하면서 새 왕조의 이념적 모순과 사회적 폐단을 비판하고 새로운 사상을 모색했다. 그 대표적인 사람으로 김시습을 들 수 있는데, 그는 이(理)를 만물의 본질로 보는 주자학의 주리론(主理論)이 지배체제를 합리화하기 위한 명분론이라고 공격하면서 기(氣)를 만물의 본질로 보는 일원론적(一元論的) 주기론(主氣論), 곧 기일원론(氣一元論)이라고 할 수 있는 철학사상을 수립하고, 이에 입각하여 만물을 객관적 · 합리적으로 인식하고자 했다. 여기서 개인과 사회의 대립이 중요한 문제로 제기되면서 그것이 작품 창작의 또 하나의 배경으로 제공되었던 것으로 보인다.
사상적인 면에서는 불교사상 및 도교사상 등 다른 사상과의 관련성도 무시될 수 없으며, 따라서 크게 보면 유자(儒者) · 선승(禪僧) · 방외인(方外人)으로서의 김시습이 상호 이질적인 다양한 사상적 근거 위에서 나름대로의 글쓰기 방식을 개척하고 정립하는 과정에서 『금오신화』가 창작되었다고 볼 수 있다. 한편 외래적 요인으로서 명나라 구우(瞿佑)가 지은 『전등신화(剪燈新話)』의 영향도 고려될 수 있다.
그러나 이 영향설은 한때 필요 이상으로 강조되어 『금오신화』는 『전등신화』의 단순한 모방작품 정도로 처리되기까지 했으나, 계속된 새로운 연구에 의하여 그러한 영향설은 크게 극복되었다. 『전등신화』의 영향이 있기 이전에 이미 우리 문학사 자체 내에 『금오신화』가 창작될 수 있는 충분한 여건과 요인이 형성되어 있었으며, 『금오신화』는 『전등신화』의 수준을 크게 능가하는 문학적 성취를 보여준다. 『전등신화』와 『금오신화』 사이에 소재 및 내용상의 유사성이 있어 영향이 일단 인정되지만 유사성을 모두 영향의 결과로 볼 수는 없다. 한편 『금오신화』는 일본 소설 「가비자(伽婢子)」에 영향을 주었다.
『금오신화』에 수록된 다섯 작품이 지닌 공통적인 특징은 다음과 같다. 첫째, 우리나라를 배경으로 하고 우리나라 사람을 등장인물로 하여 한국인의 풍속 · 사상 · 감정을 표현하였다.
둘째, 소재와 주제가 특이한 관계로 결합되어 훌륭한 문학적 가치를 발휘하고 있다. 소재에 귀신 · 염왕 · 용왕 · 염부주 · 용궁 같은 비현실적인 것이 많은데, 이러한 소재가 작품의 가치를 하락시키는 것이 아니라, 독특한 수단으로 작용하면서 오히려 주제를 효과적으로 부각시키는 구실을 한다. 김시습은 귀신이 산 사람처럼 나타나서 행동한다든가, 현실 밖에 별도의 세계가 존재한다든가 하는 민간 속신을 논설을 통해 일체 부정했을 뿐 아니라, 작품구조에서도 그런 것이 실재하는 것으로 되어 있지 않다. 그는 작품에서 귀신을 통해 귀신의 존재를 부정하고 별세계를 통해 별세계의 존재를 부정했다.
비현실적 소재를 교묘하게 이용함으로써 궁극적으로는 현실적인 것의 의미를 더욱 생생하게 표현하고, 거기에 내포된 주인공과 세계의 대결을 더욱 날카롭게 부각시켜 문제의식을 부여했다. 이러한 방법은 고도의 창작기교의 하나인 역설법이며, 그것은 주인공의 요구를 용납하지 않으려는 세계의 횡포와 거기에 맞서 세계를 거부하고 개조하여 세계와의 화합을 이루고자 하는 주인공의 간절한 소망을 동시에 반영한다. 『금오신화』는 작자가 신비주의적 · 미신적 세계관을 부정하고 합리주의적 · 과학적 세계관을 수립하면서, 그의 현실주의적 사상체계와 철학적 투쟁을 문학적으로 표현한 작품이다.
셋째, 결말의 처리방식이 특이하다. 주인공들은 끝에 가서 하나같이 세상을 등지는 것으로 되어 있는데, 이는 대부분의 고전소설에서 종결부가 행복한 결말로 처리되어 있는 것과 좋은 대조를 이룬다. 주인공이 세상을 등지는 것은 운명에 대한 순종이나 패배가 아니라 그릇된 세계의 질서를 받아들이지 않겠다는 비장한 결단의 표현이다. 여기에 작품의 비극적 성격과 초월의 의지 같은 것이 내포되어 있다.
넷째, 표현형식에 있어서 유려한 문어체 문장이나 시에 의해 대상이 서정적으로 미화되고 섬세하게 묘사되어 있으며, 구성 또한 단편소설적인 정교함을 지니고 있다.
다섯째, 시가 대량 삽입되어 인물의 심리와 분위기 표현에 독특한 효과를 낳고 있다. 시의 대량삽입은 서정시가 국문학의 주도권을 장악하고 있던 조선 전기의 문학적 분위기를 반영하는 것이기도 하다. 시의 삽입이 소설에 있어서 반드시 바람직한 것은 아니지만, 서사적 성격이 강한 서정시가 있을 수 있듯이 서정적 성격이 강한 소설도 있을 수 있으니, 시의 삽입이 장르 자체의 본질을 파괴하는 것은 아니다.
여섯째, 이 작품은 작자의 생애와 아주 밀접한 관련이 있는 것으로 보인다. 작자 김시습은 학문적 능력은 탁월하면서도 정치 · 경제적 기반은 취약한 15세기 후반의 신흥사류로서 현실과의 심각한 갈등 속에서 극히 불우하고 고독한 생애를 보냈는데, 『금오신화』는 그러한 그의 생애와 아주 밀접하게 관련된 자서전적 성격이 농후하다.
한편, 『금오신화』는 이른 시기의 소설인 만큼 소설장르로서의 한계 또한 없지 않다. 경이적인 세계관을 보여주는 전설적 요소가 남아 있다든가, 소설에서는 바람직하지 못한 작품 외적 요소, 이를테면 기자조선의 멸망과 같은 역사적 사실이나, 용궁 · 염부주 같은 특정한 민속적 사실이 생경하게 개입되어 있다든가, 서정시의 과다한 삽입과 갈등의 미약성이라든가 하는 것은 초기소설이 지닌 장르적 불안정성으로 간주된다. 그러나 『금오신화』는 내용 · 기교 · 작가의식에 있어서 훌륭한 문학적 가치를 지니고 있으며, 이론이 없는 바는 아니지만 한국소설의 출발점을 이룬다는 점과 후대소설에 지대한 영향을 주었다는 점에서 매우 중요한 문학사적 의의를 지니고 있다.