남종화는 동양화의 한 분파로 북종화에 대비되는 화파이다. 명나라 말기 동기창이 당나라 선불교의 남·북 분파에 빗대어 화가의 영감과 내적 진리의 추구를 중요시하는 문인 사대부화를 남종화로 부르면서 정착된 개념이다. 우리나라에서는 17세기 초부터 중국에서 수입된 화보들을 통해 남종문인화를 익히기 시작하여, 18세기 전반기에 본격적으로 수용하였다. 정선·심사정·이인상 등 문인화가들과 김홍도·이인문 등 도화서 화가들이 남종화의 기법을 널리 수용하였다. 이후 19세기에는 중인 화가들, 추사 김정희와 그 주변 인물들을 중심으로 본격적으로 전개되었다.
동기창과 막시룡은 당대(唐代) 선불교(禪佛敎)의 남 · 북 분파가 생긴 것처럼 중국 산수화도 당대를 기점으로 화가의 신분, 회화의 이념적 · 양식적 배경을 토대로 한 구분을 시도하였다. 즉 남종선(南宗禪)에서 주장하는 돈오(頓悟 : 단번에 깨달음)의 개념, 화가의 영감(靈感), 내적 진리의 추구를 중요시하는 문인 사대부화(士大夫畵)의 이론을 같은 맥락으로 파악하였다. 그리고 점수(漸修 : 차츰 닦아 깨달음)를 주장하는 북종선(北宗禪)과 화법(畵法)의 단계적 연마를 중요시하는 화공(畵工)들의 그림 간의 유사점을 발견하여 사대부 또는 문인들의 그림을 남종화로, 화공들의 그림을 북종화로 구분하였다.
그러나 남종선의 창시자인 혜능(慧能)과 북종선의 창시자인 신수(神秀)가 각각 광동성 소주(韶州)와 하북성의 형주(荊州)에서 활약한 것과 달리 남종화와 북종화로 구분되는 화가들의 출신 지역이 반드시 남북으로 구분되지는 않았다. 「화설」에서 남종화파로 구분한 화가들은 당대 수묵산수화의 시조로 추앙받게 된 왕유(王維)로부터 시작하여 당나라 말의 장조(張璪), 오대(五代)의 곽충서(郭忠恕), 동원(董源), 거연(巨然), 형호(荊浩), 관동(關仝), 송대(宋代)의 미불(米芾)과 미우인(米友仁) 부자, 원대(元代)의 사대가(四大家)로 불리는 황공망(黃公望), 오진(吳鎭), 예찬(倪瓚), 왕몽(王蒙) 등이다.
동기창의 「화안(畵眼)」에서는 이 계보에 이성(李成), 범관(范寬), 이공린(李公麟), 왕선(王詵) 등의 북송화가들과 원의 사대가를 이어받은 명대(明代)의 오파(吳派) 화가 심주(沈周)와 문징명(文徵明)이 추가되었다. 그 뒤 심호(沈顥)가 그의 「화진(畵塵)」에서 절파(浙派) 화가들을 북종화파로 분류함으로써 남 · 북종화는 화가의 사회적 지위와 회화 양식을 모두 고려한 구분이 되었다.
1781년에 발표된 심종건(沈宗騫)의 「개주학화편(介舟學畵篇)」에서는 남종화가들과 북종화가들의 출신 지역이 대부분 남쪽과 북쪽으로 구분되는 것을 지적하였다. 그래서 남 · 북종파의 가름이 화가들의 출신 지역까지 일치하는 것으로 인식하게 하였다. 결과적으로 명나라 말 이후에는 중국 산수화의 양대 산맥이 뚜렷하게 구분 지어졌다.
남종화는 위에서 열거한 여러 화가들이 구사했던 수묵산수화(水墨山水畵)의 복합적 양식으로 이해되고 받아들여졌다. 대표적인 양식적 요소로는 피마준(披麻皴), 우점준(雨點皴), 미점준(米點皴), 절대준(折帶皴), 태점(苔點) 등의 준법(皴法 : 산이나 바위 표면의 질감을 표현하는 기법)을 들 수 있다. 그 밖에도 독특한 용묵법(用墨法) 또는 구도의 전형이 몇 가지씩 조합되면서 소위 남종화의 양식이 성립되었다.
이와 같은 구분은 이미 북송대부터 차츰 생기기 시작했다고 보아야 한다. 북송의 소식(蘇軾)과 그의 친구들이 사인(士人)과 화공의 그림은 그들의 신분적 · 교양적 차이로 인하여 필연적으로 여러 가지 차이가 난다는 논리를 세웠다. 그리고 이를 기반으로 하여 ‘사인지화(士人之畵)’ 또는 ‘사대부화(士大夫畵)’라는 용어와 사대부 화론(畵論)을 만들었다. 즉 사대부화란 그림을 업으로 삼지 않는 화가들이 여기(餘技) 또는 여흥(餘興)으로 자신들의 의중(意中)을 표현하기 위해 그린 그림을 지칭하는 것이었다. 이들은 기법에 얽매이거나 사물의 세부적 묘사에 치중하지 않았다. 단지 그리고자 하는 사물의 진수를 표현할 수 있을 만큼 학문과 교양, 그리고 서도(書道)로 연마한 필력(筆力)을 갖춘 상태에서 영감을 받아 그림을 그린다는 것이었다.
북송대는 사회적으로 문인(文人)이 곧 사대부라는 등식이 성립해 있던 때였다. 그러나 원대부터는 반드시 그렇지 않은 경우가 많아 결국은 사대부화 대신에 문인지화(文人之畵)라는 용어를 사용하게 되었다. 이러한 역사적 배경에서 동기창의 남북종화론이 성립되었고 이후 남종화와 문인화를 동일시하는 경향이 생기게 되었다.
우리나라에서는 18세기 전반기에 남종문인화가 본격적으로 수용되고 하나의 양식으로 받아들여진 것으로 파악된다. 하지만 문헌기록을 통해 이미 고려시대에도 사대부들이 원나라를 통하여 북송대 사대부화 이론을 접했음이 확인된다. 그리고 그들의 작품이 현전하지는 않지만, 문인화에서 산수화 다음으로 중요시한 묵죽(墨竹)과 묵매(墨梅)를 많이 그렸음을 알 수 있다. 또한 조선 초기에는 미가산수(米家山水 : 미불 · 미우인 부자의 양식을 답습한 산수화)가 수용된 예를 현존 작품을 통하여 확인할 수 있다. 이는 남종화의 양식적 요소가 상당히 일찍부터 수용되었음을 말해준다.
남종화가 본격적으로 유입된 조선 후기(약 1700∼1850년)는 한국의 승경(勝景)을 화폭에 담은 진경산수화(眞景山水畵)와 주로 서민 계층의 생활을 담은 진솔하고도 해학적인 풍속화(風俗畵)가 많이 그려졌던 때였다. 이와 같은 한국의 정서와 자아의식의 표현이라고 할 수 있는 미술 경향 외에도 이 시기 문화의 다변성에 힘입어 중국 회화의 전통을 반영하는 남종문인화가 꾸준히 확산되어 갔다. 실제로 진경산수화 자체 내에서도 정선(鄭敾) 이후 모든 화가들이 한국의 산수를 묘사함에 있어 어느 특정 경치 묘사에 알맞은 준법을 창안해 내기도 하였다. 동시에 미가산수를 위시한 중국 남종화의 준법을 적절하게 배합하여 사용한 것을 볼 수 있다.
17세기 초기부터 조선에 유입되기 시작한 명 · 청대 각종 화보(畵譜)의 영향으로 남종화의 전파는 가속화되었다. 그 중에서 우리나라에 비교적 이른 시기에 들어온 것은 고병(顧炳)의 『고씨역대명공화보(顧氏歷代名公畵譜)』(약칭 고씨화보, 1603년), 『당시화보(唐詩畵譜)』(萬曆年間), 『십죽재서화보(十竹齋書畵譜)』(1627년), 『십죽재전보(十竹齋箋譜)』(1644년), 그리고 청나라 초 1679년과 1701년, 두 단계에 걸쳐 완간된 『개자원화전(芥子園畵傳)』 등이다.
『고씨역대명공화보』는 윤두서(尹斗緖)가 생전에 사용하던 유물이 남아 있기도 하다. 그리고 정선, 심사정(沈師正), 이인상(李麟祥) 등 18세기 화가들의 그림에서 중국 화보들의 영향이 많이 확인된다. 그러나 『고씨역대명공화보』의 그림 중에는 중국에서 남종화 계열에 들어가지 않는 화가들의 작품도 다수 포함되어 있다. 또한 이 화보가 출간되었을 당시에는 아직 남 · 북종화의 분파가 형성되지 않았다. 그러므로 이 화보는 ‘남종문인화의 전파’보다는 좀 더 넓은 의미의 ‘중국 화법의 전파’에 중요한 구실을 하였다고 보는 것이 타당하다.
『당시화보』가 우리나라에 들어온 연대는 확실하지 않다. 그런데 이 화보에는 1606년(선조 39) 조선에 왔던 주지번(朱之蕃)의 서문이 있고, 강세황(姜世晃)이 소장했다고 전하므로 『고씨역대명공화보』보다 조금 늦게 들어왔을 것으로 추정된다. 실제로 『당시화보』 권5의 「죽수계정(竹樹谿亭)」의 구도는 윤두서, 강세황, 심사정, 이인상의 그림에서 확인할 수 있다.
다음으로 역대 화법을 누구나 쉽게 배울 수 있도록 한다는 목적으로 편찬된 『개자원화전』은 18세기 이후 우리나라의 산수, 인물, 화조, 영모 등 모든 분야에 걸쳐 그 영향이 직 · 간접적으로 나타났다. 『개자원화전』에 제시된 점경인물(點景人物 : 산수화에 나타나는 작은 인물)의 자세와 수지법(樹枝法) · 준법 등이 조선 후기 남종문인화에 빈번하게 등장하는 것을 볼 수 있다. 또한 이 책에 수록된 명가(名家)들의 구도를 약간 변화시켜 모방한 그림들도 많이 그려졌다. 예를 들어 강세황의 「벽오청서도(碧梧淸暑圖)」는 화제에 명시되어 있는 것과 같이 『개자원화전』에 수록된 명대의 오파 화가 심주의 같은 제목의 그림을 모방한 것이다.
『개자원화전』이 편찬된 시기는 이미 남종화가 중국 회화의 정통이라는 인식이 확고하게 자리 잡은 이후였다. 따라서 이 책에 포함된 화법을 창시한 화가들 중에는 남종화파에 속하는 사람들이 압도적으로 많았다. 우리나라에서 남종화가 크게 유행한 당시에는 그것을 하나의 화파라는 개념보다는 양식적인 개념에서 이해한 면이 강하였다. 그러므로 도화서(圖畵署)의 화원들이나 사대부 여기화가(餘技畵家)들이 모두 남종화의 양식을 답습하는 현상을 보였다. 김홍도(金弘道), 이인문(李寅文), 김응환(金應煥), 김석신(金碩臣) 등 많은 화원들의 산수화에서 남종화의 준법이나 구도를 빈번히 볼 수 있다. 이러한 현상이 하나의 시대 양식이 될 정도로 널리 성행하였다.
19세기에는 18세기에 형성된 조선 남종화의 기초 위에서 추사(秋史) 김정희(金正喜)와 그 주변 인물들을 중심으로 본격적인 남종화의 세계가 전개되었다. 이 시기에도 물론 문인들이 주도적인 역할을 했지만, 새로운 문화계층으로 성장한 중인(中人) 화가들도 남종화의 성장에 큰 몫을 하였다. 대표적인 문인화가로는 정수영(鄭遂榮), 이방운(李昉運), 신위(申緯), 윤제홍(尹濟弘), 그리고 김정희 일파에 속하는 조희룡(趙熙龍), 전기(田琦), 허련(許鍊) 등을 들 수 있다.
18세기 산수화에서 중국의 여러 남종화가들의 양식을 답습하였다면, 19세기에는 주로 황공망과 예찬, 그리고 ‘미가 산수’로 그 범위가 좁아졌다. 그리고 많은 그림들이 서예성을 강조한 소략한 스케치풍을 보인다. 그 대표적인 예가 바로 김정희의 「세한도(歲寒圖)」일 것이다. 이 현상은 중국 청대 후기 문인화에서도 볼 수 있어 보다 밀접해진 한 · 중 화단의 관계를 보여준다. 또 한편으로는 화가들의 개성이 더욱 뚜렷이 표현되는 경향을 보였다. 그리고 방작(倣作)의 모델이 중국 회화가 아닌 조선 남종화가의 작품으로 발전하는 양상도 보였다. 이 사실은 조선의 화가를 역사적으로 추앙받아 온 중국 화가와 대등한 위치에 놓게 되었다는 획기적인 변화이므로 그 의의가 크다. 그러한 사례로 허련의 「방완당산수도(倣阮堂山水圖)」를 들 수 있다.
추사 이후 조선의 남종화는 더 이상의 발전을 하지 못하였다. 단지 조선 말기 화원들에 의해 선택될 수 있는 하나의 양식으로 간주되었다. 그래서 남종화 본연의 취지나 정신에서 멀어지는 경향을 보였다. 이 시대에는 오히려 묵란(墨蘭)과 묵죽에 뛰어났던 흥선대원군 이하응(李昰應), 민영익(閔泳翊), 김규진(金圭鎭) 등의 업적이 두드러진다.