우리 나라에 선불교(禪佛敎)가 본격적으로 전래된 것은 800년대이지만 그 이전부터 이미 선이 전래되기 시작하였다. 달마선(達磨禪)이 아직 남북으로 갈라지기 전인 4조 도신(道信)으로부터 선법을 전수받은 법랑(法朗)이 통일신라 초기에 최초로 선을 전하였다. 이어서 신행(神行)이 신수(神秀) 계통의 북종선(北宗禪)을 전하였다.
그러나 선이 신라에서 유행하게 된 것은 남종선(南宗禪) 계통의 지장(智藏)으로부터 심인(心印)을 이어받은 도의(道義)와 홍척(洪陟)이 821년(헌덕왕 13)과 826년(흥덕왕 1)에 귀국하여 선법을 펼치게 된 이후의 일이다. 그 뒤 입당승(入唐僧)들이 귀국하면서 중국의 여러 선풍(禪風)을 전하였고, 국내에 많은 선찰(禪刹)이 창건됨에 따라 선풍진작의 거점을 이루었다. 이에 따라 신라 말기부터 구산선문(九山禪門)이 차례로 형성되었다.
가지산파(迦智山派)는 도의(道義)를 개산조로 삼고 있다. 도의는 821년에 귀국하여 남종선을 처음으로 신라에 전하였다. 그러나 무념무수(無念無修)를 그 심요(心要)로 하고 문답을 전개하는 가운데 심인(心印)을 전하려 하였던 그의 새로운 선풍은 경교(經敎)에 젖어있던 신라불교계에 쉽사리 받아들여지지 않아 결국 설악산 진전사(陳田寺)에 은거할 수밖에 없었다.
그 뒤 그의 심인을 얻은 염거(廉居)를 거쳐 진육(眞育)·허회(虛會) 등의 동문과 더불어 입당한 체징(體澄)이 840년(문성왕 2)에 귀국하여 가지산에 보림사(寶林寺)를 열었고, 이곳을 중심으로 크게 종풍을 떨치게 됨에 따라 가지산파를 이룩하게 되었다. 가지산파에서는 도의를 개산조(開山祖), 염거를 제2조, 체징을 제3조로 하고 있으며, 체징의 뒤를 이은 영혜(英惠)·의차(義車) 등의 이름이 보인다.
실상산파(實相山派)는 홍척이 세운 종파이다. 홍척은 826년에 귀국하여 지리산에 있으면서 선법을 전하였다. 그의 교화력은 도의보다 큰 바가 있었는데, 세인들은 이들을 일러 ‘북산의남악척(北山義南岳陟)’이라고 일컬었다. 홍척이 실상사를 창건하고 여기에서 선법을 크게 선양하게 됨에 따라 실상산파가 자연스럽게 형성되었다. 그곳에서 교화한 제자는 수백 명에 이르며, 특히 흥덕왕과 태자 선강(宣康)의 귀의(歸依)는 두터웠다.
홍척의 귀국은 도의보다 늦었지만 신라에 선문이 개산된 것은 이 실상산파를 효시로 보아야 한다. 홍척의 제자 수철(秀澈)은 실상산파 제2조가 되었다.
동리산파(桐裏山派)는 일찍이 부석사(浮石寺)에서 화엄(華嚴)을 공부하다가 당나라로 가서 지장으로부터 심인을 얻고 839년에 귀국한 혜철(惠哲)이 태안사(泰安寺)를 중심으로 하여 이룩한 선파이다. 그의 제자로는 도선(道詵)과 여선(如禪) 등이 있었다. 지장의 선을 이어받은 가지산·실상산·동리산 등의 3파가 호남에서 선풍을 떨치고 있을 때 따로 호서(湖西)에는 무염(無染)이 개산한 성주산파(聖住山派)가 있었다.
당나라에서 보철(寶鐵)의 선법을 이어받은 무염은 동방보살(東方菩薩)로 불려지기도 하였다. 845년에 귀국하자 왕자 흔(昕)의 청으로 성주사를 세워 선풍을 떨쳤다. 그의 『무설토론 無舌土論』은 선과 교의 차이를 가린 것으로, 교가 응기문(應機門)·언설문(言說門)인 데 대하여 선은 정전문(正傳門)·무설문(無說門)이라고 천명하였다.
선을 제왕이 팔짱을 끼고 묵묵히 백성을 편안하게 다스리는 것에 비유한다면, 교는 마치 백관들이 분주하게 다니면서 직분을 지켜나가는 것과 같다고 하였다.
성주사지는 현재 충청남도 보령시 미산면에 있다. 또한 봉림산파(鳳林山派)는 현욱(玄昱)을 개산조로 삼고 있다. 현욱은 837년(희강왕 2)에 당나라에서 귀국하여 경기도 여주에 있는 혜목산(慧目山)고달사(高達寺)에서 선풍을 떨쳤다.
그의 뒤를 이은 심희(審希)는 경상남도 창원에 봉림사를 창건하여 봉림산파의 선풍을 크게 떨쳤다. 현욱은 민애왕·신무왕·문성왕·헌안왕 등 네 왕의 존숭을 받았으며, 심희도 경명왕으로부터 스승의 예우를 받았다. 봉림산파의 법맥은 심희의 뒤를 이은 자적(慈寂)에 의하여 더욱 융성해졌다.
관동지방을 중심으로 선풍을 진작한 종파로는 사자산파(師子山派)와 사굴산파(闍崛山派)가 있다. 사자산파는 당나라 보원(普願)의 법맥을 이어받고 847년 귀국한 도윤(道允)과 그의 제자 절중(折中)이 세운 종파이다. 특히, 헌강왕은 절중의 도풍(道風)을 흠모하여 친필로 쓴 글을 보내어서 사자산 흥녕선원(興寧禪院)을 중사성(中使省)에 예속시키도록 한 바 있었다. 사자산파는 그 뒤 종홍(宗弘)·정지(靖智) 등에 의하여 계승되어 갔다. 흥녕선원은 오늘날 강원도 영월에 있는 법흥사(法興寺)이다.
도윤과 때를 같이하여 귀국한 범일(梵日)은 강릉 굴산사(崛山寺)에서 40여년 동안 교외별전의 선풍을 떨치면서 후진들을 양성하였다. 그의 제자인 개청(開淸)은 스승의 뜻을 이어 사굴산파를 형성하였다. 그리고 신라 경문왕 때에 위앙종(潙仰宗)의 선풍을 떨친 고승으로는 순지(順之)가 있다. 위앙종에서는 일원상(一圓相)을 그려가면서 학인들을 지도하였는데, 신라에서도 순지에 의해 처음으로 행하여지게 되었다.
그는 사대팔상(四對八相)의 법과 「삼편성불론 三遍成佛論」을 제창한 바 있었는데, 삼편성불은 증리성불(證理成佛)·행만성불(行滿成佛)·시현성불(示顯成佛) 등 셋을 가리킨 것이었다. 순지와 거의 때를 같이하여 귀국한 대통(大通)도 위앙종의 개창주인 혜적(慧寂)의 문하였다.
그리고 이 시대의 대표적인 고승 중에는 혜소(慧昭)가 있다. 본래 얼굴이 검었기 때문에 흑두타(黑頭陀)라고도 일컬어졌던 그는 830년에 귀국하여 지리산 옥천사(玉泉寺)에 6조 혜능(慧能)의 영당을 세우고 선을 크게 떨쳤다. 특히 그는 신라에 처음으로 어산범패(魚山梵唄)를 전하였다. 이 혜소로부터 남종선을 이어받은 도헌(道憲)은 문경 봉암사(鳳巖寺)를 중심으로 크게 선풍을 진작하고 희양산파를 이루었다.
이 밖에도 885년(헌강왕 11)에 귀국하여 선풍을 크게 떨쳤던 행적(行寂), 원성왕 때의 무착(無著), 헌강왕 때의 홍각(弘覺) 등 그 계보를 알 수 없는 선사들도 많이 있어서 통일신라시대 말기의 불교계는 선불교로 뒤덮인 감이 있었다.
선풍이 크게 떨칠 수 있었던 당시는 통일 초기의 율령체제가 붕괴되고 고대적인 국가질서가 해체되어 갔던 시기로서, 이때는 귀족의 증가에 따르는 지배계층 자체 내의 도태로 말미암은 방계 귀족의 억압과 귀족들 사이의 마찰이 심했던 시기이기도 하였다.
성주산파를 개산한 무염도 그 조부 때에는 진골(眞骨)이었으나 아버지 범청(範淸)에 이르러서는 6두품(六頭品)으로 그 신분이 1등급 하강되었으며, 실상산파의 제2조 수철도 증조부 때는 진골이었으나 그 뒤로는 신분이 하강되었다. 선종은 대개 이러한 신분을 지닌 조사(祖師)들에 의하여 영도되어 교종의 전통적인 권위에 대하여 반성을 가하는 동시에, 교종이 지니는 고대적인 사고방식에 맞설만한 새로운 체질을 만드는 데 힘을 기울였던 것이다.
즉, 고대 지성에 대응하는 중세적인 지성으로서의 선종을 모색하였던 것이며, 이는 중앙의 귀족적 진골과의 대립이라는 사회현상이 불교계에 반영된 하나의 움직임으로 파악할 수 있다.
선문구산 중에서 수미산파(須彌山派)는 신라때가 아닌 고려 초기에 성립된 종파이다. 중국에서 형철(逈徹)·경유(慶猷)·여엄(麗嚴) 등과 함께 해동사무외대사(海東四無畏大士)로 일컬어졌던 이엄(利嚴)은 932년(태조 15) 해주 수미산에 광조사(廣照寺)를 창건하여 선풍을 크게 떨쳤으며, 그의 문하에 처광(處光)·도인(道忍) 등이 배출되어 법맥을 전함으로써 수미산파를 이루게 되었다.