조선 초기 11종파의 하나로 계율을 중요시하는 율종(律宗)이다. 우리나라에서의 성립 내력은 알 수 없으나, 중국의 대표적인 율종인 남산종은 당나라의 도선(道宣)이 세운 것으로서, 우리나라에서도 이를 전승하여 종파명을 삼은 것으로 추정된다.
학계의 일부에서는 이 종파를 계율종이라고 하면서 신라 선덕여왕 때의 자장(慈藏)을 개종조(開宗祖)로 보는 이가 있으나, 자장은 도선의 존경을 받았던 선배였으므로 도선에게서 남산종을 전수받아왔다는 설은 신빙성이 없다. 또한, 남산종이 신라나 고려 중기 이전에 전래되어 하나의 종파로 성립되었다는 근거는 보이지 않는다.
이 종파는 다섯 가지의 율전(律典) 중에서 『사분율(四分律)』을 근본으로 삼고 있으며, 계를 지지계(止持戒)와 작지계(作持戒)로 나누고, 교리를 계법(戒法)·계체(戒體)·계행(戒行)·계상(戒相)의 네 과목으로 나누고 있다.
1406년(태종 6) 3월의 의정부 계청(戒請)에 의하여 전국의 사찰을 242곳만으로 정하였는데, 그 때 이 종파에는 10개의 소속사찰만이 남게 되었다. 1407년초에 불교종파 11종을 7종으로 축소할 때 총지종(摠持宗)과 합쳐져서 총남종(摠南宗)이 되었으며, 1427년(세종 9)에 모든 종파를 선종과 교종으로 통합하였을 때 선종에 흡수되었다.