자성은 자신의 본질, 본성 등에 이어 실체, 본체 등의 가리키는 불교 용어이다. 자성에 대해 설일체유부와 대승불교의 중관파, 유식학파의 입장은 서로 다르다. 설일체유부는 인무아(人無我)개념과 법유(法有)의 개념을 설정하여 아공법유(我空法有)를 주장하였다. 대승불교는 인무아는 물론 제법의 공으로서 법무아를 주장하여 아공법공(我空法空)을 주장하였다. 유식학파는 자성을 변계소집성, 의타기성, 원성실성인 3성(性)과 상무자성, 생무자성, 승의무자성인 3무자성(無自性)으로 분류하였다.
자성이라는 말은 자신의 본질, 본성 등을 의미하는 말로 일반적으로는 실체, 본체 등의 의미를 갖는다. 그리고 이러한 실체, 본성을 지니고 있는 것을 법(法)이라 표현한다. 설일체유부에서는 각각의 법은 자성을 지니는 것으로 간주하고, 우리들의 삶은 각각의 법들의 집합으로서 소위 5위75법의 제법으로 이루어진다고 설명하였다. 곧 설일체유부의 입장은 인간의 내면에 본질적인 실체적 개념이 없다는 인무아(人無我)의 개념과 함께 일체존재로서 제법이 자성으로 실재한다는 법유(法有)의 개념을 설정하여 아공법유(我空法有)의 입장을 가진 것으로 간주된다.
이에 대해 이후 성립하는 대승불교는 인무아는 물론 제법의 공으로서 법무아를 주장하여 아공법공(我空法空)의 입장에 근거한다. 자성으로서 제법의 유에 대한 비판은 초기 대승 경전에 빈번하게 나타나며, 대본(大本) 『반야심경』에서는 그것을 오온(五蘊)의 자성공(自性空) 내지는 제법공상(諸法空相)으로 표현하고 있다. 그리고 이러한 자성의 개념을 보다 더 철저하게 논리적으로 비판한 사람이 대승불교의 철학적 체계를 세운 최초의 인물로 간주되는 나가르주나이다.
나가르주나는 자신의 저술 『근본중송(根本中頌)』[Mūlamadhyamaka-kārikā, 中論으로도 불림]에서 이 자성의 개념을 비롯해 당시 인도에서 실체적 개념으로 간주된 다양한 개념들을 비판하고 있다. 나가르주나는 『근본중송』에서 자성의 개념은 인과 연에 의해 생기는 것이 아닌 것으로서 1) 만들어진 것이 아닌 것 2) 다른 것에 의존하지 않는 것이라고 정의를 내리고 있다(제15장-1,2게송) 이렇게 자성이란 그 자체로서 동일성을 유지하며 다른 것에 의존하지 않는 것으로 간주되어 당시 인도철학 일반에서 주장하는 실체, 본질, 자아 등의 개념과 동일시되고 있다. 나가르주나의 『근본중송』은 이렇게 자성의 개념을 비판하여 불교의 입장을 무자성(無自性)이라는 말로 표현하고 있으며, 따라서 『근본중송』의 목적은 이 무자성의 개념이 불교의 근본 개념인 연기와 공의 철학적 의미와 상통한다는 의미에서 연기-무자성-공에 대한 논증을 시도한 것이라 할 수 있다.
이러한 『근본중송』의 목적은 자성이나 본질의 존재를 주장하는 인도의 여타 철학들에 대한 비판과 함께 불교 내부의 설일체유부에 대한 비판의 의도가 담겨있는 것이다. 이렇듯 대승불교의 기본 입장은 무자성, 자성공의 입장에 근거하여 제법의 무자성을 주장한 것으로, 이러한 입장은 오랫동안 나가르주나의 철학 사상을 받드는 중관학파의 기본적인 입장으로 간주되었다. 인도에서 후대 중관사상의 입장에서 인도의 전 학파의 사상을 비판적으로 논파한 샨타라크쉬타도 주저 『중관장엄론(中觀莊嚴論)』에서 자신의 입장이 “일체법무자성(一切法無自性)”을 논증하는데 있음을 분명히 하고 있다.
그렇지만 이 자성이란 말은 중관학파와 같이 부정적 비판의 입장에서만 쓰이지 않고 불교 역사에서는 적극적인 긍정의 입장에서도 쓰이고 있다. 그 대표적인 예가 중관 사상과 더불어 대표적인 대승불교의 철학 체계로 간주되는 유식학파(唯識學派)로서, 유식사상에서는 이 자성이 긍정적인 의미로 사용되고 있다. 그 대표적인 예가 3성(性)과 3무자성(無自性)의 철학적 입장이다. 곧 세 가지의 자성을 의미하는 삼성은 변계소집성(遍計所執性), 의타기성(依他起性), 원성실성(圓成實性)으로 삶에 대한 의식의 세 가지 성질을 말하는 것이며, 이것을 무자성의 입장에서 재론한 것이 3무자성으로 상무자성(相無自性), 생무자성(生無自性), 승의무자성(勝義無自性)이다.
변계소집성이란 우리들이 보고 듣는 일체의 모습은 분별망상에 사로잡힌 것이란 말로, 따라서 범부들이 인식하는 대상은 실체가 있는 것처럼 보이지만, 실제로는 실체로서의 모습이란 없다는 의미에서 상무자성인 것이다. 의타기성이란 우리 인식의 대상은 반드시 타자 즉 다른 것에 의존한다는 것으로, 그런 의미에서 홀로 생겨난 것은 없다는 뜻으로 생무자성이다. 그리고 깨달음을 통해 얻어지는 진실의 경계인 원성실성은 진여(眞如)로서의 진실된 경계로서, 이것은 궁극적이라는 의미에서 승의무자성인 것이다. 여기에서 원성실성으로 표현되는 진여의 경계는 부정적 비판의 대상이 아니라 적극적 긍정적으로 사용되고, 또한 후에 불교적 사유에 큰 영향을 끼쳤다.
이렇게 자성이 적극적으로 긍정되는 입장은 불교논리학의 완성자라고 할 수 있는 다르마키르티(Dharmakīrti) 즉 법칭(法稱)에게서도 나타난다. 법칭의 사상적 입장은 학자들에 따라 해석이 다양하지만, 그가 유식사상에 근거하여 철학적 논의를 한 것은 분명하다. 따라서 그가 사용하는 자성이란 말도 긍정적인 의미로 적극 사용되고 있음을 알 수 있다. 법칭이 사용하는 자성이라는 말은 네 가지 정도로 구분되어 사용되지만 그 의미는 긍정적이며 현상을 이해하는데 중요한 의미를 갖는 것으로 이해된다. 그 네 가지의 용례는 다음과 같다. 즉 1) 존재론적 문맥에서 자성은 실재하는 대상[승의적 존재] ‘그 자체’를 의미하여, 독자상(獨自相)과 동일시된다. 2) 실재하는 대상=독자상은 인과적 존재이며, 특유의 ‘인과효력을 갖는 것’이다. 따라서 자성은 ‘인과효력’을 갖는 것과도 동일시된다. 3) 실재하는 대상에는 고유한 ‘본질’이 있다. 따라서 ‘자성’은 ‘본질’과 동일시된다. 4) 인과적 존재는 자기동일성을 가지며 단일하며 그것이 놓인 상황에 따라 갖가지 인과효력=본질을 가지며, 논리적인 면에서 ‘본질인’에 해당되는 것의 넷이다. 이 법칭의 설명에서도 자성의 개념은 우리들의 삶을 구성하는 다양한 개념을 구분 가능케 해주는 본질적인 속성을 갖는 것을 의미해, 긍정적인 의미로 사용되고 있음을 알 수 있다.
이렇듯 자성이라는 말은 대승불교의 성립과 함께 부정적 · 비판적인 입장에서 무자성의 규명이라는 철학적 명제가 제시되었다. 그러나 대승불교의 철학적 전개와 함께 적극적이고 긍정적인 의미로 사용되어 그 사용 범위가 매우 다양했음을 알 수 있다. 따라서 자성은 불교 역사상 부정과 긍정의 양쪽 입장에서 매우 중요하고 적극적으로 사용된 대표적인 용어라고 할 수 있을 것이다.