자질문자는 문자가 나타내는 음소들의 자질이 그 글자의 외형에 체계적으로 반영되어 있는 문자체계이다. 영국 서섹스 대학의 샘슨 교수가 저술한 『문자체계』(1985)에서 제안된 용어이다. 한국어 음소의 ‘변별적 자질’이 한글의 글자 모양에 반영되는 특징을 설명하고자 만들어졌다. 분절음에 바탕을 둔 음소문자보다 발달한 체계로 음성적 자질에 바탕을 두고 있다. 샘슨은 자질문자의 대표 문자체계로 한글을 들면서 15개의 변별적 요소를 제시하였다. 자질문자의 설정은 국어의 음운론적 특성과 한글의 문자론적 특성의 관계를 체계적으로 조망했다는 점에 의의가 있다.
‘자질문자’는 영국 서섹스 대학의 샘슨(Geoffrey Sampson) 교수가 저술한 『문자체계(Writing Systems)』라는 책에서, 한국어 음소의 ‘변별적 자질’이 한글의 글자 모양에 반영되어 있다는 특징을 설명하기 위해 만든 문자학의 용어이다. 이를 문자론적 관점에서 일반화하여 말하면 ‘자질문자’는 ‘각 글자가 나타내는 음소들의 변별적 자질이 그 글자의 외형에 반영되어 있는 문자 체계’를 지칭하는 샘슨(1985)의 용어이다.
‘한글’의 문자론적 특성을 음운론적 관점에서 접근하여 초성이나 중성이 갖는 자질 특성은 꾸준히 논의되어 왔다. 『훈민정음』 「제자해」에서는 초성의 기본자 ‘ㄱ, ㄴ, ㅁ, ㅅ, ㅇ’은 이들 글자가 담당하는 음의 조음기관의 모양을 본뜨고, 이들 기본자의 음보다 더 센 음은 조음위치별 기본자에 획을 더하여 ‘ㄱ→ㅋ, ㄴ→ㄷ→ㅌ, ㅁ→ㅂ→ㅍ, ㅅ→ㅈ→ㅊ, ㅇ→ㆆ→ㅎ’과 같이 만들었다고 설명하였다.
이러한 설명에서 ‘획’은 더 센 음을 나타내는 부호로 사용된 일종의 변별적 부호로 논의되어 왔다. 중성의 경우에도 초출자 ‘ㅗ, ㅏ, ㅜ, ㅓ’에 ‘ㆍ’를 더하여 만든 재출자 ‘ㅛ, ㅑ, ㅠ, ㅕ’에서 ‘ㆍ’는 ‘ㅣ’로 시작함을 나타내는 음운론적 변별 부호라 할 수 있다. 이러한 『훈민정음』의 설명을 바탕으로 ‘훈민정음’의 문자체계가 음운론적인 조직성이나 체계성을 갖는다는 논의는 일찍부터 이루어져 왔던 것이다.
그런데 이러한 한글의 체계성이나 조직성을 음운론적인 관점에서 설명하고자 한 기존의 논의와 달리, 샘슨(1985)은 ‘한글’을 음소문자와 구분되는 자질체계(featural system)를 갖는 문자 유형으로 분류하여, ‘(그림문자) → 표의문자: 단어문자 → 표음문자: 음절문자 → 표음문자: 음소문자’로 전개되어 온 세계 문자사에서 음소문자보다 더 발달한 단계의 문자 유형으로 ‘자질문자’를 설정하고, 그 대표적인 문자체계로 ‘한글’을 들었다.
이를 위해 샘슨(1985)은 한글이 음소문자와 구분되는 자질문자임을 보이기 위해 자음을 표기하기 위한 초성자와 모음을 표기하기 위한 중성자의 분류표를 제시한 다음, 15개 정도의 자질을 제시하였다. 자음에서는 ‘조음 위치 자질’로 ‘양순음, 설단음, 파찰음, 연구개음, 후두음’, ‘조음 방법 자질’로 ‘이완지속음, 이완폐쇄음, 긴장유기폐쇄음, 긴장지속음, 긴장무기폐쇄음, 유음’ 등을 설정하였다. 그리고 모음에서는 ‘혀의 전후 위치자질’로 ‘전설성’과 ‘후설성’, ‘원순성 여부’에 따라 ‘평순성’과 ‘원순성’, ‘혀의 높이 자질’로 ‘고설성, 중설성, 저설성’으로 나누었다.
이러한 논의를 바탕으로 샘슨(1985)은 한글은 분절음에 바탕을 둔 음소문자라기보다 음성적 자질에 기초를 둔 자질문자의 체계라고 주장하였다. 그리고 이러한 한글의 자질 문자 체계는 배워야 할 글자 단위의 수가 적다는 장점을 가지는데, 이론적으로 볼 때, 한글은 조음점을 위한 5개의 외형, 4개의 조음 방식의 변화, 3개의 양모음과 ‘ㅣ’를 위한 외형과 양(陽)의 외형과 음(陰)의 외형으로 변환하는 원칙 및 /j-/로 이중모음을 표시하는 원칙 등 15개의 변별적 요소로 구성되어 있다고 주장할 수 있다고 보았다. 물론 양순폐쇄음 ‘ㅁ, ㅂ, ㅍ’의 불규칙적인 외형과 같은 부가로 해명해야 할 복잡한 문제가 남아 있다고 하면서도, 전반적으로 한글은 한국어에 필요한 30개 정도의 분절 음소의 수보다 한글 문자 요소가 훨씬 적다는 장점을 갖는 자질문자의 체계라고 주장하였다.
샘슨의 주장은 산발적으로, 그리고 부분적으로 논의되어 오던 국어의 음운론적 특성과 한글의 문자론적 특성의 관계를 보다 체계적으로, 그리고 전면적으로 조망해야 한다는 인식을 일깨웠다는 점에서 의미가 있다. 그러나 이 주장은 여러 가지 반론도 제기되고 있어서 한글이 자질문자라는 하나의 문자 유형으로 설정할 수 있는지에 대해서는 앞으로 심도 있는 논의가 필요하다.
가령 안명철(2004: 48~56)은 “1) ‘훈민정음’에는 독립되고 결정적인 자질 부호가 명확하게 존재하지 않는다. 2) 기본자의 선정이 음운론적 무표성과 관련이 없다. 3) 자음자의 가획 과정이나 모음자의 초출과 재출의 생성 절차가 음운론적 절차와 무관하다. 4) 각자병서나 연서자, 합용자와 같은 복합자는 자질의 결합이 아니라 문자의 결합인데도 자질 층위에서 논의하고 있다.”고 지적하였다. 이것은 한글을 자질문자로 설정하는 것이 타당하지 않다는 관점에서 자질문자에 대한 근본적인 문제를 제기한 것으로서, 앞으로 자질문자의 설정이 타당한가, 한글은 자질문자라 할 수 있는가 등에 대한 심도 있는 논의가 필요하다.