불성은 미혹이나 깨달음에 의하여 변하는 일 없이 본래부터 중생에게 갖추어져 부처를 이룰 수 있는 근본 성품을 의미하는 불교 교리이다. 대승불교에서 모두가 부처가 될 수 있는 요소, ‘부처가 되기 위한 인자’ 혹은 '부처의 본성'이라는 의미로 사용되는데, 모든 중생이 불성을 가지고 있다는 실유불성설이 잘 알려져 있으며 불성과 동의어로 여래장이 사용되기도 한다. 불성사상은 중국 불교의 흐름에서는 열반경, 승만경, 대승기신론, 불성론이 자주 활용되며, 인도 불교의 흐름에서는 여래장경, 승만경, 보성론이 중시된다.
보성론에서 불성은 buddha-dhātu, buddha-garbha, buddha-gotra 혹은 tathāgata-dhātu, tathāgata-garbha, tathāgata-gotra의 역어로 나타난다. 대승불교의 실유불성[모두가 부처의 성품을 가지고 있다] 사상을 해명하기 위해 ‘불성’ 개념의 명확한 이해는 중요하다. 위의 복합어적인 술어를 풀이하면 buddha-dhātu[性]는 부처가 될 수 있는 요소라는 뜻이다. buddha-garbha[藏]는 부처가 태아로서 태내에 있는 상태라는 의미이다. buddha-gotra[種姓]는 부처의 가족, 동류라는 의미이다. 보성론에서 공통적으로 나타나는 불성의 의미는 ‘부처가 될 가능성’이다. 즉 ‘부처를 얻기 위한 인자’라는 의미로 사용된다. 불성은 주1으로도 한역되는데, 이러한 현상은 열반경에서도 동일한 예가 발견된다. 이후 불성은 ‘부처의 본성’이라는 의미로도 이해된다.
불성사상의 흐름은 크게 중국→한국→일본으로 이어지는 불성사상과 인도→티벳으로 이어지는 불성사상의 조류로 나눌 수 있다. 전자의 흐름에서 채택하고 있는 주요 경전은 열반경, 승만경, 논서로는 대승기신론, 불성론이며, 후자의 흐름에서 채택하고 있는 주요 경전은 여래장경, 승만경, 논서는 보성론이라고 할 수 있다. 물론 그밖에 불성사상과 관련이 깊은 능가경, 화엄경과 같은 경전들이 있다.
우선, 가장 일반적으로 알려져있는 ‘실유불성’에 대한 고찰을 통해 불성 개념에 대해서 이해할 필요가 있다. 실유불성설은 열반경에 나오는 구절이며, 보성론에서 실유불성이라 말하는 이유에 대해서 다음과 같이 설명한다. 즉, 부처의 지혜가 우리들 가운데 작용하기 때문이다. 본성으로서 청정한 진여가 모두에게 평등하기 때문이다. 모든 사람들이 여래장을 지니고 있기 때문이다라는 세가지 이유를 든다. 세번째 이유는 여래의 종성이 존재한다는 전제로 성립한다. 여래의 종성은 두 가지로 존재한다. 첫째는 본성주종성이다. 즉 마음에 본성으로서 존재하는 종성이다. 둘째는 수득완성된 종성이다. 즉 수행에 의해 새롭게 증득되어 완성된 종성이다. 여기서 마음에 본성으로서 존재하는 종성에 대해서 불도를 배우고 닦아가는 과정에서 완성해가는 존재양태를 보이고자 하여 두 가지 종성을 설정하였다고 해석된다. 동아시아 문헌에서 보성론 보다 많이 활용되는 불성론에서는 붓다가 불성을 설한 이유에 대해서 여래는 다섯 가지 오류를 제거하고 다섯 가지 공덕을 낳기 위해 모든 중생에게 남김없이 불성이 있다고 설한다고 한다. 제거할 다섯가지 오류는 자신에 대한 열등감, 타인에 대한 거만한 마음, 비존재에 대한 집착, 실제로 존재하는 대상을 비방하는 것, 자아에 대한 집착이다. 구체적으로 설명하면, 첫째는 열등감을 벗어남으로써 주2하여 미래에 주3할 수 있도록 하는 것이다. 둘째는 불성이 자타에게 공유됨을 설함으로써 자기보다 못한 사람에 대한 경멸하는 마음을 없애는 것이다. 셋째는 사람에게 자만심이 있으면 진리성과 전체성에 대한 바른 인식이 발생할 수 없기 때문에 본래 없는 것을 있다고 하고, 우연적인 것을 본래적이라고 집착하는 오류가 발생하기 때문이다. 넷째로 실제로 존재하는 대상은 주4, 주5의 2공을 이해함으로써 발생하는 청정한 인식의 주6이다. 또한 불성을 설하지 않으면 공을 이해하지 못하기 때문이다. 다섯째는 불성을 설함으로써 비존재에 대한 오류를 벗어나고, 실재하는 것은 공덕이라는 것을 알아서 중생에게 대비심을 일으키며, 자타의 구별이 없기 때문에 주7을 제거하기 때문이다. 불성을 설함으로써 얻어지는 다섯가지 공덕은 바르게 노력하는 마음을 일으키며, 스승에 대해 존경하는 마음이 생기며, 반야지혜를 낳으며, 정려[dhyana]를 낳으며, 대비를 낳는 것이다라고 설명한다. 이 다섯가지 공덕은 앞의 다섯가지 오류를 바꿀 수 있다고 한다. 즉 바른 노력으로 열등감을 바꾸며, 공경으로하여 경멸하는 마음을 바꾸며, 반야지혜로 망상에 대한 집착을 바꾸며, 정려로 말미암아 진실에 대한 인식과 공덕을 드러내므로 진실한 법을 비방하는 것을 바꾸며, 대비심으로 평등한 마음이 생겨 아집을 바꾼다고 말한다.
또한 불성은 여러 가지로 분류된다. 그 가운데 성득불성, 수득불성은 앞에서 설명하였다. 불성론 현체분에서는 세 가지 원인으로서의 불성과 세가지 불성을 제시한다. 첫째는 획득해야할 것의 원인[應得因]이다. 두 가지 공성으로 특징지워지는 것이 진여인데, 두 가지 공성을 원인으로 하여 법신까지 획득해야 하기 때문에 획득해야 할 것의 원인으로 정의된다. 둘째는 노력의 원인[加行因]이다. 주8을 원인으로 하여 법신까지 얻을 수 있기 때문이다. 셋째는 완성의 원인[圓滿因]이다. 노력을 원인으로 하여 원인의 완성과 결과의 완성을 얻는 것이다. 원인의 완성은 복덕과 지혜라는 행위이다. 결과의 완성은 지혜와 번뇌의 단절, 자비의 은혜라는 세가지 속성이다. 세가지 불성은 획득해야 할 것의 원인[=진여] 가운데 모두 갖추고 있는 세가지 불성을 말한다. 첫째는 본래 상태의 불성[住自性性], 둘째 개발된 불성[引出性], 셋째는 결과를 획득한 불성[至得性]이다.
이 가운데 세가지 불성은 주9의 주10, 주11의 공목장 등에서 자세히 다루고 있다. 지엄은 삼종불성장에서 불성은 허공과 같은 법이며, 범부와 성인에게 제한이 없다고 한다. 그리고 불성은 깨달았을 때를 근거하여 말한 표현임을 명시한다. 중생을 불성이라고는 말하지 않는다는 것이다. 또한 주12지의가 분류한 주13, 요인(了因), 연인(緣因) 불성의 3가지 분류가 있다. 정인불성은 본래 우리에게 갖추어진 불성이다. 요인불성은 스스로의 불성을 자각함으로써 얻어지는 지혜를 일컫는다. 연인불성은 요인을 도와 스스로의 불성을 자각하게 하고, 정인을 작동하게 하는 역할을 하는 불성이다.
이(불)성, 행(불)성의 두 가지 분류도 있다. 이성과 행성은 대승현론에서 지론사의 불성론이라고 설명한다. 이때 이불성인 이성은 주14를 의미한다. 실천이 쌓여 수행이 완성함으로 행불성인 행성은 시유이다. 중국에서 활동한 신라 출신 승장의 범망경술기에서는 불성은 계의 본체로 보고 이것을 이불성(理佛性)으로 정의한다. 한편, 화엄종에서는 실유불성설을 삼승종교의 교설로 인식한다. 신라 견등의 화엄일승성불묘의에서는 지엄의 화엄오십요문답을 그대로 인용하여 삼승종교에서는 본유불성과 행성을 갖추고 있다고 설명한다. 본유불성은 이불성을 의미한다. 견등은 다른 곳에서 종성에는 이불성과 행불성이 있다고 언급하며, 이 둘의 관계를 일체이의(一體二義)라고 정의한다. 즉 종성을 불성으로 이해하고 있음을 알 수 있다. 위에서 불성은 여래장으로도 번역된다고 하였다. 그런데 여래장과 불성은 주15적 의미에서 달리 사용되는 예가 있다. 지엄은 화엄오십요문답에서 여래장은 직진하는 보살 근기를 위한 설명이고, 불성은 수행이 잘 성숙된 성문 주16를 위한 설이라고 한다. 이러한 설명을 신라의 견등은 그대로 수용한다.
한편, 원효는 열반종요의 불성문에서 불성에 대한 견해 6가지를 소개한다. 첫째, 미래에 있을 주17를 불성의 체로 삼는다. 이것은 미래에 있을 부처의 주18가 바른 인자[正因]임을 말하는 것이다. 현재의 과위는 장차 있을 부처의 과위를 이루는데 근본이 되기 때문에 장차 있을 부처의 과위를 정인으로 삼는다는 것이다. 원효는 이것을 주19의 뜻이라고 한다. 둘째, 현재의 중생을 불성의 체로 삼는다. 장엄사 승민법사의 뜻이라고 한다. 셋째, 중생의 심성을 불성의 체로 삼는다. 마음이 있는 자는 장차 깨달음을 얻을 것이기 때문이다. 이것은 광택사 법운사의 뜻이라고 한다. 넷째, 마음에 없어지지 않는 신령한 성품을 불성의 체로 삼는다. 양무제 소연천자의 뜻이라고 한다. 다섯째, 아뢰야식의 법이종자가 불성의 체가 된다. 성종성을 의미한다. 이것은 새로운 논사들[현장 및 현장의 제자]의 뜻이다. 여섯째는 아마라식 진여의 신해한 성품을 불성의 체로 삼는다. 열반경에서 불성은 제일의공을 의미하고, 제일의공은 지혜라고 이름한 것과 같다는 등 여섯 논사의 불성 해석을 인용한다. 원효는 이 여섯 가지의 불성의 뜻이 딱 맞는 것도 아니면서 벗어난 것도 아니라고 판단한다. 원효는 불성은 인도 아니면서 과도 아니지만, 그렇지 않은 것도 아니어서 전체가 인이 되기도 하고 전체가 과가 되기도 한다고 해석한다.