모음조화는 두 음절 이상의 단어나 어간형태소와 접사형태소들과의 결합에서 그에 포함되는 모음들이 일정한 자질을 공유하는 모음동화규칙이다. 예컨대 양성모음은 양성모음끼리만 이어지고 음성모음은 음성모음끼리만 이어지는 현상으로 한국어를 비롯한 알타이제어는 물론이고 우랄제어에서도 널리 나타나는 공통 특질이다. 우리 한국어의 역사를 보면 중립모음 ‘아래아(·)’가 있어서 모음조화가 부분적으로 파괴되는 현상이 나타났는데 현대 국어에서는 극히 제한된 경우에만 찾아볼 수 있다. 현대국어의 모음조화는 19세기에 대체로 정착되었던 것과 크게 다르지 않다.
예컨대 양성모음은 양성모음끼리만 이어지고, 음성모음은 음성모음끼리만 이어지는 현상이 모음조화이다. 이 모음조화현상은 한국어를 비롯한 알타이제어는 물론이고 우랄제어에서도 널리 나타나는 공통특질의 하나로 주목되어왔다.
모음조화는 모음체계와 관련하여 볼 때에 대립되는 두 모음군의 대립양상에 따라 그 유형을 나눌 수 있다. 첫째, 수직적 조화는 전설모음(前舌母音) 대 후설모음(後舌母音)의 상관적 대립에 따라 모음조화가 이루어지는 유형으로 구개적 조화라고 부르기도 한다.
둘째, 수평적 조화는 고모음 대 저모음의 상관적 대립을 특징으로 하는 유형이다.
셋째, 두 모음군이 전후 대립이나 고저 대립과 같이 자연부류로 묶이지 않는 사선적 모음조화가 있다. 이는 두 모음군이 모음도상에서 사선에 의해서 나누어지기 때문에 붙여진 명칭이다.
그밖에 모음조화에 있어서 부차적인 것으로 순적조화(脣的調和)가 있는데 이는 원순모음(圓脣母音) 뒤에는 반드시 원순모음만이 오는 것을 일컫는다.
모음조화의 유형을 이와 같이 분류하는 것은 모음조화를 지배하는 모음부류를 모음체계와의 관련 속에서 밝히려 한 동기에서 나온 것이다. 모음조화를 보이는 언어들에서 모음들이 두 모음군으로 남김없이 나누어지지 않을 수도 있어서 어느 쪽과도 어울릴 수 있는 중립모음이 존재할 수도 있는데, 이는 흔히 대립되는 두 계열에 속하는 둘 또는 그 이상의 모음의 합류에서 생긴다.
따라서 중립모음의 발생은 모음조화의 부분적 파괴를 뜻한다. 국어의 모음조화는 15세기 국어에서 비교적 엄격하게 나타나고 있었으나, 현대국어에서는 극히 제한된 경우에 그 흔적이 남아 있다.
15세기 국어의 모음조화규칙은 양성모음 ‘아 · ᄋᆞ · 오’, 음성모음 ‘어 · 으 · 우’ 및 중립모음 ‘이’의 대립에 의존한다.
예를 들면 ᄉᆞᆯ고[杏], 가ᄉᆞᆷ[胸], 아로ᄆᆞᆯ[知], 서르[相], 붓그러우미[恥], 가치, 누비[衲衣], 일훔 > ‘ᄉᆞᆯ고[杏], 가ᄉᆞᆷ[胸], 아로ᄆᆞᆯ[知], 서르[相], 붓그러우미[厚顔], 가치, 누비[訥衣], 일훔’ 등이 있다. 기본적으로 양성모음계열과 음성모음계열의 대립에 기초를 둔 구조인데, 모음조화의 구조가 당시의 모음체계와 어떻게 관련되고 있는가 하는 것이 문제이다.
중세국어에서는 어휘형태소 내부에서 모음조화규칙이 비교적 철저하게 지켜지면서 순행적으로 반복, 적용되었다. 예를 들면 'ᄆᆞᅀᆞᆷ, 하야로비, 거우루 ' 등이 있다. 어휘형태소와 문법형태소)와의 결합에서는 특정의 제약조건 아래에서만 모음조화규칙의 적용을 받는다.
즉, 모음으로 시작되는 어미나 조사의 경우에 그 첫 모음이 모음조화규칙의 적용을 받는다(ᄋᆞᆫ/은, ᄋᆞᆯ/을, ᄋᆞ로/으로, ᄋᆞ시/으시, ᄋᆞ나/으나, ᄋᆞ며/으며, 아-어, 오 · 우).
자음으로 시작되는 형태소들(ᄉᆞ · ᄂᆞ · 다 · 더)은 모음조화와는 무관하여 늘 고정된 모음을 지니고, 자음으로 시작되는 이형태를 가진 형태소들(와 · 과, 오 · 고, 어 · 거)도 모음조화와는 무관하다.
‘ᄂᆞᆫ/는, ᄅᆞᆯ/를’ 등이 자음으로 시작되면서도 모음조화규칙의 지배를 받는 것은 본래 각각 ‘ᄋᆞᆫ+ᄋᆞᆫ(또는 은+은)’과 ‘ᄋᆞᆯ+ᄋᆞᆯ(또는 을+을)’과 같은 형태소의 중가(重加)에 의한 형태론적 구성이기 때문이다.
16세기에 들어서서 단어의 첫음절 이외의 위치에서 ‘ᄋᆞ’의 ‘으’로의 합류가 확대되어 ‘으’가 이 위치에서는 중립모음이 되어버렸고, 결국 ‘ᄋᆞ’가 소실되어버린 이후에는 모음조화와 무관하게 되었다.
‘ᄋᆞ’의 소실은 결국 첫음절에 이를 포함했던 어미나 조사들을 모음조화와는 상관 없이 만들어 버려서, 부사형어미 ‘-아/어’만이 모음조화규칙의 지배를 받는 유일한 경우가 되어 오늘에 이르게 되었다.
15세기 국어의 7모음체계( · , ㅡ, ㅣ, ㅗ, ㅏ, ㅜ, ㅓ)에서 ‘ · ’의 소실과 ‘ㅔ, ㅐ’의 단모음화로 18세기 후기에는 8모음체계(ㅣ, ㅔ, ㅐ, ㅡ, ㅓ, ㅏ, ㅜ, ㅗ)로 재구조화되었는데, 19세기에는 이미 현대국어의 모음조화와 같은 양상이 되었다. 즉 부사형어미로 ‘ㅣ, ㅔ, ㅐ, ㅡ, ㅓ, ㅜ’ 다음에서는 ‘ · 어’가 쓰였고, ‘ㅗ’ 다음에서는 ‘-아’가 쓰였으며, ‘ㅏ’ 다음에서는 주로 ‘-아’가 쓰이면서도 때로는 ‘-어’가 쓰이기도 하였다.
그러나 일반적으로 음운변화에 있어서 보수적인 파생의 모음조화는 기본적으로 나타나서 중세국어에서의 모음조화에 의한 모음분류와 거의 일치하고 있다.
현대국어에서의 모음조화는 이 19세기 국어의 그것과 크게 다를 바 없다. 단모음화하여 이루어진 ‘ㅟ, ㅚ’ 다음에서도 ‘ · 어’를 취한다.