수선사는 고려시대 보조국사 지눌에 의해 이루어진 혁신불교적인 신앙결사의 단체명인 동시에 사찰의 명칭이다. 무신정변 이후 불교계와 불자의 각성을 촉구하는 비판의식이 대두되었고 학문불교이자 체제불교적 성격이 강한 교종을 대신해 선종이 두각을 드러냈다. 이 과정에서 각 지방의 신앙단체로서 결사가 유행했는데 선종에서는 수선사가, 천태종에서는 백련사가 탄생했다. 지눌은 수선사 결사를 통해 돈오점수설에 입각한 정혜쌍수의 법을 주창했고 다시 화엄사상과 결합하여 화엄과 선이 하나임을 밝혔다. 수선사의 불교는 오늘날까지도 큰 흐름으로 이어지고 있다.
1190년(명종 20) 공산(公山: 지금의 대구광역시 팔공산) 거조사(居祖社)에서 결성되었다. 초명은 정혜사(定慧社)이며 고려 말기에 송광사(松廣寺)로 개칭되었다. 고려 후기에 결성된 수선사는 고려 중기의 불교를 반성 극복하면서 성립되었다.
고려 중기의 불교계는 현종 이후 교종(敎宗) 계통의 화엄종(華嚴宗)과 법상종(法相宗)이 주류를 이루고 있었다. 전자는 흥왕사(興王寺)를 본거지로 문종의 넷째 아들인 의천(義天)이, 후자는 현화사(玄化寺)를 본거지로 이자연(李資淵)의 다섯째 아들 소현(韶顯)이 각각 영도하였다. 이 두 종파는 신앙 면보다는 학파적인 성격이 강한 학문 불교이며, 체제적인 성격이 강한 귀족불교였다. 그리하여 의천의 천태종(天台宗) 창립과정에서 화엄종과 법상종 사이의 갈등이 있었으며, 마침내 천태종이 창립됨으로써 법상종과 특히 선종(禪宗)은 타격을 입어 약화되었다.
예종대에 이르러 화엄종과 법상종 외에 선종이 약세 속에서 점차 대두해 귀족사회에 널리 퍼졌다. 요컨대 중기의 불교는 교종은 학문불교요 체제불교이며, 선종은 은둔불교적인 성격이 강한 것으로 자연히 일반 대중과는 거리가 멀었다. 그리고 교종 내의 각 종파 사이에 대립 갈등이 있었으며, 교종과 선종 사이에도 선 · 교 우열의 교리적인 갈등이 심각하였다. 이러한 불교계의 상황은 무신란(武臣亂) 이후 고려 후기로 들어서면서 변하였다.
무신정변으로 인한 왕권의 약화와 문신귀족의 몰락, 계속되는 무신 상호간의 권력쟁탈전, 농민과 천민의 봉기, 지방사회 향리지식층의 중앙 진출, 몽골 침입 등 정치사회적인 변화와 함께 불교계도 많은 변화를 보였다. 즉 불교의 주류가 교종에서 선종으로 교체되었고, 교종과 선종 내부의 각 종파가 법계와 사상 면에서 중기와는 다르게 변하였다. 특히 주목되는 것은 지방에서 신앙단체로서의 결사가 유행한 점이다. 결사운동은 고려 중기부터 개경 중심의 귀족불교가 공허화하여 가는 것에 대한 반발에서 나온 것으로서 불교계를 비판해 불자의 각성을 촉구하려는 강렬한 비판의식이 작용하고 있었다. 이러한 신앙결사 가운데 대표적인 것이 선종에서는 수선사이며, 천태종에서는 백련사(白蓮社)였다. 지눌의 수선사는 무신정변 이후 정치사회적인 변화 속에서 고려 중기 이래의 불교계를 비판 반성하면서 성립되었다.
수선사의 창립 과정을 지눌의 사상형성 과정과 결부시켜 살펴보면, 먼저 지눌은 1158년(의종 12)에 황해도 서흥군에서 출생한 뒤, 1165년(의종 19)에 조계혜능(曹溪慧能)의 후손인 대선사 종휘(宗暉)에게 출가해 구족계(具足戒)를 받았다. 1182년(명종 12) 정월에는 개경 보제사(普濟寺)의 담선법회(談禪法會)에 참석하였다가, 동학(同學) 10여 명과 명리(名利)를 버리고 산 속에 들어가 정혜(定慧)를 닦는 결사를 만들자며 맹세하는 글까지 지었다. 그러나 선불장(選佛場)에서의 이해관계로 인한 분쟁 때문에 흩어지게 되었다.
이 해에 지눌은 승과(僧科)에 합격했으나, 선불장에서의 분란 때문에 좌절당하고 동지들과 헤어져 남쪽지방을 돌아다니면서 개인적인 수도에 전념하였다. 즉, 창평(昌平: 지금의 전라남도 담양군 창평면) 청원사(淸源寺)에 머물면서 『육조단경(六祖壇經)』으로 1차로 깨달았다(1182년). 1185년(명종 15)에는 하가산(下柯山: 지금의 경상북도 예천군 학가산) 보문사(普門寺)로 옮겨 은거하면서, 이 때 『화엄경』의 「여래출현품(如來出現品)」과 이통현(李通玄)의 『화엄론(華嚴論)』을 보고 2차로 깨달았다.
1188년(명종 18)에는 이전에 지눌과 결사를 맹세하였던 득재 선백(得才禪伯)이 결사의 성취를 위해 공산 거조사로 지눌을 청했다. 이로 인해서, 1190년(명종 20)에 거조사에서 동지를 모아 법회를 열고 『권수정혜결사문(勸修定慧結社文)』을 반포해 정혜결사를 결성하여 정혜사라 하였다. 그 뒤 모여드는 인파로 장소가 좁아 지리산 상무주암(上無住庵)으로 들어가기 전에, 제자인 수우(守愚)에게 적당한 장소를 물색하도록 하여 송광산(松廣山)에 있는 길상사(吉祥寺)를 택하였다. 1197년(신종 즉위)에는 지리산 상무주암에 은거하면서 『대혜보각선사어록(大慧普覺禪師語錄)』을 보고 3차로 깨달았다.
이 당시에 길상사에 대한 중수를 시작했으며, 1200년(신종 3)에 처음으로 길상사로 근거지를 옮겼다. 1205년(희종 1) 9년 만에 공사를 완공하고 조지(朝旨)를 받들어 약 120일 동안 경찬법회(慶讚法會)를 열었고, 왕명으로 송광산을 조계산으로, 정혜사를 수선사로 개칭한 뒤 6년 동안 수선사에 주석하였다. 「지눌비문(知訥碑文)」에 의하면, 사방의 승려들과 속인들이 소문을 듣고 몰려들었으며, 왕공(王公)과 사서(士庶)들로서 수선사에 들어와 이름을 적은 이도 수백인이 되었다고 한다. 1210년(희종 6) 입적하였다.
수선사의 후원세력을 살펴보면, 시기에 따라 여러 차례 그 성격이 변하였다. 결사 초기인 지눌 당시에는 왕실과는 약간의 관계를 가졌지만 무신집권자와는 직접적인 관계를 갖지 않았다. 1207년(희종 3) 최선(崔詵)이 찬술한 「대승선종조계산수선사중창기(大乘禪宗曹溪山修禪社重創記)」에는 수선사의 창립과 이전 과정에 관여한 승려와 후원자의 명단이 기록되어 있다. 후원자 가운데 가장 두드러진 인물은 금성(錦城: 지금의 전라남도 나주) 안일호장(安逸戶長) 진직승(陳直升)과 그의 처 진의금(珍衣金) 부부였다. 그들은 백금 10근을 시주해 조영(造營)의 비용을 삼게 하였다. 그리고 이들에 이어 남방 주 · 부(州府)의 부자들은 재물을 베풀고, 빈자들은 노동력을 다하여 범우(梵宇)를 이룩하였다는 표현이 보인다. 이로 보아 수선사의 중창은 실로 인근의 지방인들, 특히 향리층의 적극적인 지원이 있어서 가능하였다는 것을 알 수 있다. 중창기를 기록할 때 왕희지의 글자를 집자한 사람은 최우(崔瑀)였으나, 그가 직접 수선사와 관련을 맺은 것 같지는 않다.
최우와 직접적인 관련을 맺게 되는 것은 제2세 진각국사(眞覺國師)혜심(慧諶) 때였다. 혜심 때에는 강종을 비롯한 왕실, 최우를 비롯한 무신세력, 최홍윤(崔洪胤)을 비롯한 유학자 관료 등이 새로 입사함으로써 수선사는 중앙의 정치세력과 연결되었으며, 그에 따라 교단은 크게 발전하였다. 1250년(고종 37)에 세워진 혜심비(慧諶碑)의 음기(陰記: 비갈의 등 뒤에 새긴 글씨)에 기록된 공후(公侯) 6명, 재추(宰樞) 24명, 상서(尙書) · 경(卿) · 감(監) 수준의 관료 32명, 참상(參上) 수준의 관료 39명, 그 밖의 거사(居士) · 녹사(錄事) · 검교(檢校) 9명, 왕실과 최충헌(崔忠獻) 집안의 부녀 8명 등의 명단을 보면 그 밀착 정도를 짐작할 수 있다.
특히, 최우는 자신의 두 아들 만종(萬宗)과 만전(萬全)을 혜심에게 출가시켰고, 또한 축성유향보(祝聖油香寶) · 국대부인송씨기일보(國大夫人宋氏忌日寶) · 동생매씨기일보(同生妹氏忌日寶) 등의 명목으로 전답과 염전 등의 막대한 토지를 수선사에 시납하였다. 혜심은 수차에 걸친 최우의 도성에로의 초청을 끝까지 거절하였음을 볼 때, 중앙 정치세력과의 지나친 밀착을 자제하였던 것 같다. 그러나 수선사와 중앙 정치세력과의 관계는 제3세 몽여(夢如), 제4세 혼원(混元), 제5세 천영(天英) 등을 거치면서 더욱 밀착되어갔다. 1245년(고종 32)에 최우의 원찰(願刹)로서 강도(江都: 지금의 인천광역시 강화군)에 선원사(禪源社)가 창건되고, 그 법주(法主)로 혼원 · 천영 등 수선사의 사주가 될 인물들이 담당하게 되면서 수선사와 당시의 집권자인 최씨정권과의 관계는 더욱 긴밀해졌다.
최씨정권은 자신의 세력을 유지하기 위해 이전 불교계를 좌우하면서 자신의 정권에 적대적인 화엄종과 법상종 중심의 교종 세력을 배제하고, 수선사를 중심으로 불교계를 재편하려고 하였다. 이 시기에 수선사를 주도했던 인물이 수선사 제2세인 혜심이었다. 수선사가 불교 교단의 중심으로 성장한 것은 1219년(고종 6) 최우가 최충헌을 계승한 이후였다. 최우가 수선사를 부각시킨 것은, 수선사가 일반민들이 믿고 있었던 정토신앙(淨土信仰)까지 수용함으로써 기존의 다른 종파에 비해 광범위한 지지를 받았기 때문이다. 그러나 무신정권이 붕괴되고 원나라의 간섭을 받게 되는 제6세 충지(冲止) 때에는 후원세력의 성격이 크게 바뀌었다. 충지와 교유한 인물들을 보면, 원나라의 간섭을 받게 되면서 새로이 권문세족(權門勢族)으로 등장하는 국왕의 측근세력이나 재추들이 중심을 이루고 있었다.
지눌의 수선사 결사는 불교수행의 핵심을 이루는 두 요소인 정(定, Samādhi)과 혜(慧, Prajnā)를 함께 닦자는 실천운동이었다. 이 정혜쌍수(定慧雙修)의 바탕이 되는 이론이 돈오점수(頓悟漸修)이다. 돈오는 인간의 본심을 깨달아 보면 제불(諸佛)과 조금도 다름이 없기 때문에 돈오라고 하며, 비록 돈오하여도 습기는 갑자기 제거되는 것이 아니므로 점수라는 종교적 실천이 뒤따라야 한다는 것이다.
지눌은 이러한 돈오점수설에 입각한 정혜쌍수의 법을 성적등지문(惺寂等持門)이라고 하였으며, 이 밖에 다시 화엄사상을 도입해 원돈신해문(圓頓信解門)을 세워서 화엄(華嚴)과 선(禪)이 근본에 있어서는 둘이 아니라는 것을 밝혔다. 그러나 이 두 문은 아직도 지해(知解)와 어로(語路)의 자취를 벗어난 것이 못되므로 이러한 지해의 장애를 완전히 떨쳐버리려면, 끝으로 선문(禪門)의 활구를 참구(參究)해야 한다고 하였다. 지눌의 선에서 간화경절문(看話徑截門)은 바로 이러한 간화의 출신 활로를 가리키고 있다. 이 경절문은 무심합도문(無心合道門)이라고도 하는데, 이러한 경계는 일체의 지해와 분별을 떠나 정과 혜에도 구속되지 않는 것으로써 지눌의 선이 지향하는 최고의 경지라고 할 수 있다.
성적등지 · 원돈신해 · 경절의 3문으로 이루어진 이러한 지눌의 선의 실천체계는 대단히 독창적인 것이다. 선문에서는 지해라는 것을 가장 싫어하는데 지눌은 그것을 원용하고 있으며, 그것도 혜능(慧能)의 적자(嫡子)가 아닌 하택신회(荷澤神會) · 규봉종밀(圭峯宗密)의 것을 도입하였다. 게다가 화엄에서도 현수(賢首) · 청량(淸凉) 계통이 아니라 방계인 이통현의 것을 채택하였다. 그리고 그러한 기초 위에서 대혜종과(大慧宗果)의 간화선(看話禪)을 받아들여 전통적인 선사상을 펼치고 있는데, 이것 또한 간화적인 선법(禪法)을 크게 발전시킨 것이다.
이로써 수선사의 지눌사상은 선교일치(禪敎一致)의 완성된 철학체계를 마련함으로써 고려 불교사의 기본적 과제인 선교통합 문제를 완전히 해결하였다. 지눌의 뒤에는 제2세 혜심이 나와 지눌의 선사상을 계승해 간화선을 적극적으로 선양함으로써 고려 불교는 새로운 단계로 접어들었다. 지눌과 혜심에 이어 제6세 충지 단계의 수선사 불교는 지눌 이전, 즉 고려 중기의 선의 전통을 강조한 점이 특징이다. 충지의 「혜소국사제문(慧炤國師祭文)」과 「정혜입원축법수소(定慧入院祝法壽疏)」에 의하면, 정혜사의 창건자로서 혜소국사의 공덕을 찬양하고, 그의 선풍이 몽여 · 혼원을 거쳐 자신에게 전승되었음을 감사하고 있다. 예종대 혜소국사의 선은 고답적이며 귀족적인 경향을 가지고 개인적인 수업 형태를 중시하는 것으로, 그러한 선의 전통을 강조하고 있는 충지의 불교는 지눌의 것과 비교할 때 확실히 변질된 것이다.
충지 이후의 수선사 활동은 잘 알 수 없지만, 수선사는 고려 말에 이르기까지 이른바 16국사(실제로는 15국사와 1화상)를 배출하면서 동방 제일의 도량으로서의 위치를 확고히 지니고 있었다. 16국사에 대해서는 신빙할만한 기록이 없어 생애를 알 수 없는 인물도 있다. 또한 자료마다 차이가 있다. 이상에서 세대와 생애를 알 수 있는 국사는 1세 보조, 2세 진각, 3세 청진, 4세 진명, 5세 원오, 6세 원감, 10세 혜감, 13세 각진 등이다. 이들 사주 외에 나옹혜근(懶翁惠勤)과 그의 제자인 환암혼수(幻庵混修), 태고보우의 문인인 상총(尙聰)과 석굉(釋宏) 등이 고려 말에 수선사의 후신인 송광사 사주를 역임하였다. 이들 4명은 지눌의 직계 법손이 아닌 수선사 계통과는 다른 인물들이다.
수선사 사주들에서 주목되는 점은 그들의 출신 신분이 이전의 승려들과는 다르다는 것이다. 즉 지눌을 비롯한 수선사 역대 사주들의 출신가문을 살펴보면, 지눌이 서흥 정씨(瑞興鄭氏), 혜심은 화순 최씨(和順崔氏), 진명국사 혼원은 수안 이씨(遂安李氏), 천영은 남원 양씨(南原梁氏), 원각국사 충지는 장흥 이씨(長興李氏), 각진국사 복구는 고성 이씨(固城李氏)로 사주 가운데 거의 대부분이 지방의 향리지식층으로서 유업(儒業)을 닦았던 인물들이다. 그리고 혜심 · 충지 같은 경우는 불문에 들어오기 이전에 과거(사마시)에 급제하여 태학(太學)에 들어가거나 관리가 된 경험도 가지고 있었다.
수선사의 성립은 선교일치의 완성과 간화선의 선양이라는 불교사상적인 의미와 실천불교로서의 임무를 이루었으며, 우리나라 조계종(曹溪宗)의 시초였음을 알려주고 있다. 이러한 수선사의 불교는 고려 후기 불교계에 많은 영향을 끼쳤다. 당대 불교계 혁신운동의 중심체였을 뿐만 아니라, 그 뒤에도 면면히 이어져서 오늘날까지 한국불교사의 큰 흐름의 하나를 이루고 있다.