가곡은 서로 연결되는 일종의 노래 모음인데, 사설로 연결되는 것이 아니라 선율적으로 연결되며 모두 27곡으로 짜여진다. 조(調)는 우조(羽調)와 계면조(界面調)로 구별되고, 또다시 남창(男唱)과 여창(女唱)의 구별이 있는 독창 성악곡이다.
시조 및 가사와 함께 정가(正歌)에 속하며, 거문고, 가야고, 대금, 단소, 세피리, 장구, 해금 등의 관현 반주가 따르는 발전된 형태의 예술 가곡이다.
곡수(曲數)는 남창이 26곡, 여창이 15곡이지만, 이 가운데 여창은 남창 가곡과 거의 동일한 것이기 때문에, 전 바탕은 27곡이 된다. 이상의 27곡은 그 각각의 곡명으로 불리고, 각각 특징적인 선율을 갖는다.
그러나 각 곡의 사설(가사)은 곡에 따라서 하나[一首]부터 열[十首]씩까지 불릴 수 있다. 『청구영언』과 『가곡원류(歌曲源流)』를 참고하여 가곡의 곡명과 남·여창의 유무, 각 곡에 붙이는 사설의 편수(篇數)를 살펴보면 다음과 같다.
각 곡에 여러 편의 가사가 붙여지기 때문에 어느 사설을 사용하는가를 구분하기 위해서, 예를 들면 「우조초수대엽(동창이)」화편(花偏), 모시편이라고 표시한다.
가곡의 역사는 고려 말기에서 비롯되는데, 『양금신보(梁琴新譜)』에 의하면 가곡의 원형인 「만대엽(慢大葉)」, 「중대엽(中大葉)」, 「삭대엽(數大葉)」이 모두 고려 시대 음악인 「정과정(鄭瓜亭)」 삼기(三機), 즉 만기(慢機), 중기(中機), 급기(急機)에서 파생되었다고 한다.
만대엽이 처음 보이는 악보로는 1572년에 판본으로 간행된 안상(安瑺)의 『금합자보(琴合字譜)』인데, 그 뒤 1610년의 『양금신보』, 그리고 『양금신보』를 모사한 『대악후보(大樂後譜)』, 1620년경의 『현금동문유기(玄琴東文類記)』 등에도 「만대엽」이 실려 있다. 영조 때 이익(李瀷)의 『성호사설(星湖僿說)』에 의하면, 당시에는 「만대엽」이 너무 느려서, 사람들이 싫어하여 없어진 지 오래라고 한다.
「만대엽」의 쇠퇴와 더불어 「중대엽」이 대두하게 된다. 「중대엽」(일명 心方曲)이 최초로 보이는 악보는 『양금신보』이고, 그 이래로 수많은 악보에 수록되어 조선 말기 고종 때의 『삼죽금보(三竹琴譜)』에까지 보인다.
「만대엽」이 평조(平調)의 곡이었던 것에 비하여 『양금신보』에서 「중대엽」은 평조, 우조, 평조계면조, 우조계면조의 네 가지로 나타난다.
이러한 「중대엽」은 뒤에 1680년경의 『신증금보(新證琴譜)』와 1724년의 『한금신보(韓琴新譜)』 등에서는 「평조중대엽」 제1, 제2, 제3, 「우조중대엽」 제1, 제2, 제3 등과 같이 각각 1, 2, 3으로 곡수가 증가된다.
따라서 이 시기에는 「중대엽」이 「만대엽」과 「삭대엽」보다도 중요한 성악곡이었음을 알 수 있는데, 그것은 『양금신보』의 기록, 즉 “「삭대엽」, 「영산회상」 등은 무용곡으로 사용되므로 수록하지 않았다.”는 사실로도 입증된다.
그 뒤 「중대엽」은 「만대엽」처럼 점차로 폐절되는데, 『삼죽금보』에서는 이미 「중대엽」의 장단 모습을 알 수 없다고 기록하고 있다.
「삭대엽」은 1620년의 『현금동문유기』에 처음으로 기록되어 있다. 이 악보에서는 「우조삭대엽」과 우조계면조인 「사조삭대엽(斜調數大葉)」이 한 곡씩 기록되어 있으나, 약간 후대에 속하는 『증보고금보(增補古琴譜)』에는 우조와 평조 「삭대엽」이 각각 두 곡, 그리고 계면조와 평조계면조의 「삭대엽」이 각각 한 곡씩 있어서, 발전된 모습을 처음 보여준다.
그 뒤 1680년경의 『신증금보』에 이르면 네 가지로 조성된 「삭대엽」이 모두 1, 2, 3으로 증가되고, 다시 1728년에 간행된 가곡의 사설본, 『청구영언』에는 새로 「농(弄)」, 「낙시조(樂時調)」, 「편수대엽(編數大葉)」과 같은 변화형 삭대엽이 등장한다. 그리고 네 가지 조도 서서히 단순화되어 우조와 우조계면조 두 가지가 주로 쓰이게 된다.
「삭대엽」은 조선 후기에 더욱 발전하게 되는데, 예를 들면 1876년의 『가곡원류』에는 전에 없던 「중거(中擧)」, 「평거(平擧)」, 「두거(頭擧)」가 보이고, 「얼락(乻樂)」, 「얼편(乻編)」이 추가되었다.
한편, 「만대엽」과 「중대엽」에서는 구분하지 않던 남창 가곡과 여창 가곡의 구별도 생겼고, 여러 곡들이 차츰 한 바탕을 이루어 연창(連唱)되기 시작하였다. 그리하여 「삭대엽」은 조선 후기부터 선율적으로 관계가 있는 여러 곡이 하나의 노래 모음곡을 이루었고, 가곡으로 불리게 되어 오늘에 전한다.
주로 단형시를 가사로 사용하여 노래하는 5장과, 기악만 연주하는 중여음(中餘音)과 대여음(大餘音)으로 짜여지는데, 「초수대엽(동창이)」을 예로 하여 각 장의 길이와 가사 배치를 살펴보면 다음과 같다.
가곡은 위와 같은 기본적 구조를 갖지만 예외도 많이 있다. 즉, 「소용(불아니)」과 같이 관현만으로 연주되는 중여음에서도 노래가 들어가는 경우가 있고, 「태평가」처럼 대여음이 없는 경우도 있다. 또한, 각 장의 길이도 「초수대엽」부터 「삼수대엽」까지는 대체로 앞에 적은 길이와 같으나, 그 이하인 「평롱」, 「얼락」 등에서는 3장과 5장이 확대되어 더 길어지기도 한다.
그렇게 곡이 길어지는 것은 가사의 자수(字數)가 일·이·삼수대엽보다 훨씬 더 많기 때문인데, 예를 들면 「얼락(벽사창이)」의 1장·2장 중여음, 4장 대여음의 길이는 변함이 없으나, 3장은 37박이 아닌 95박이고 5장은 48박이 아닌 56박에 이른다.
또한, 반대로 선율과 장단이 생략되는 ‘각’에 의하여 「계면조 중거(있으렴)」와 같이, 1장의 길이가 32박에서 25박으로 오히려 짧아지는 경우도 있다. 또, 「편락」, 「편수대엽」, 「얼편」과 같은 ‘편’은 그 길이가 사뭇 다르다. 즉, 「편수대엽(진국명산)」을 예로 들면 1장·2장 중여음, 4장 대여음의 길이는 기본 장단을 사용하는 「초수대엽」의 길이에 상응하고, 3장과 5장은 위의 얼락처럼 가사의 글자 수 때문에 길이가 확대된다.
대여음은 본래 후주곡(後奏曲)이었고, 현재에도 「우조초수대엽」 등에서는 5장 뒤에 악보가 기록되어 있다. 그러나 가곡이 연속으로 불릴 경우 그 기능은 오늘날 전주곡(前奏曲)으로 바뀌었다. 따라서 「우조삼수대엽」 이하에서는 대여음이 악보에서도 5장 끝이 아니고 1장 앞에 위치하고 있다.
한 장단은 16정간(井間)에 해당하는 16박이다. 그런데 박수(拍數)는 16박이지만 장구점[杖鼓點: 그 한 단위에서 장구 치는 점수]은 10점이다. 따라서 한 장단은 10점 16박(十點十六拍)이라고 일컬어지고, 그 속도도 매우 느리다. 이처럼 16박이 한 단위를 이루는 가곡은 현재 한국 음악 중에서 유일하게 『세종실록』 악보나 『세조실록』 악보 등의 악보와의 연관성을 보여준다.
이러한 연관성은 또 한 가지 가곡 장단의 특색, 제1박과 제12박에서 합장단(떵)을 두 번 갖는 점으로도 설명된다. 오늘날 가곡 장단에는 합장단이 두 번 출현하기 때문에 처음 11박을 ‘왼각’이라고 하고, 나머지 5박을 ‘반각’이라고 부른다.
그리고 왼각과 반각의 장구 점수를 따져서 왼각을 선7점(先七點), 반각을 후3점(後三點)이라고도 하는데, 이처럼 현행 가곡 1·2·4장에서는 늘 왼각이 반각을 선행한다.
그러나 그 순서를 뒤집어서 반각(5박)부터 계산하면 장구점의 ‘쿵’에 의하여, 가곡의 16박이 3·2·3·3·2·3의 6대강(六大綱) 악보와 상응하게 된다. 따라서 현행 가곡은 그 장단법으로 보아 옛 악보의 제3대강에서 시작하는 음악임을 알 수 있다.
가곡 장단에는 10점 10박의 변형 장단이 또 하나 있다. 이것은 ‘편장단’이라고도 하는데, 가곡의 「편락」, 「편수대엽」, 「얼편」에서 쓰인다. 편장단 10박은 기본 장단(16박)에서 장구점이 없는 박자를 모두 빼 버리고 장구점이 있는 박자만 계산한 것이며, 그 속도도 기본 장단보다 비교적 빠르다. 기본 장단과 편장단의 상관관계는 다음과 같다.
편장단도 장구점의 합장단에 의하여 선7박을 왼각, 후3박을 반각이라고 한다. 한편 『가곡원류』 등에 나타나 있는 것처럼 매화점(梅花點)장단을 쓰기도 했다. 매화점 장단은 세 개의 음점(陰點)인 왼편과 두 개의 양점(陽點)인 오른편을 합하여 모두 5점으로 만들어진 것인데, 이는 현행 가곡 기본 장단의 8박(편장단에서는 5박)과 일치한다. 즉, 매화점 2장단이 가곡 1장단에 해당한다.
가곡의 사설붙임은 불규칙한 길이로 된 각 장의 길이와 깊은 연관성을 가지고 있다. 『삼죽금보』에 의하면 가곡의 1장, 2장, 3장에 붙인 사설을 초두(初頭)와 이두(二頭), 혹은 일각(一脚)과 이두(二頭)로 양분할 수 있다. 1장 초두 ‘동창이’라는 사설은 11박(왼각)에 붙여졌고, 1장 이두 ‘밝았느냐’는 21박(반각+왼각+반각)에 붙여진다.
또 2장 초두는 1장의 초두와 마찬가지로 11박(왼각)에 붙여지지만, 2장 이두는 16박(반각+왼각)에 붙여진다. 3장 일각은 16박(반각+왼각)에 붙여지고, 3장 이두는 1장 이두와 마찬가지로 21박(반각+왼각+반각)에 그 사설이 붙여진다.
이상과 같은 가곡[數大葉]의 1장부터 3장까지의 사설 붙임은 『세종실록』 악보 가운데 「치화평하(致和平下)」의 사설 붙임과 밀접한 관계를 가지고 있어서, 가곡은 사설 붙임에서 오랜 전통을 지니고 있음을 알 수 있다.
조(調)는 우조나 계면조 음계를 사용한다. 우조는 5음 음계 평조와 마찬가지인데, 다만 황종(黃鐘)을 중심음(中心音)으로 삼고 있다. 따라서 우조는 율명(律名)으로 ‘황종, 태주(太簇), 중려(仲呂), 임종(林鐘), 남려(南呂)’의 음계가 된다. 이 우조는 예전의 우조 평조에 해당한다.
한편, 현행 계면조는 3음 음계인데, 중심음은 우조와 마찬가지로 황종이다. 따라서 계면조는 율명으로는 ‘황종, 중려, 임종’의 음계를 이룬다. 이 때 중려와 임종의 음정은 우조보다 약간 좁은 것이 특색이다.
그리고 현행 계면조는 예전의 우조계면조에 해당한다. 그러나 예전의 우조계면조는 황종을 중심음으로 하는 5음 음계였던 점에서 현행 계면조와는 다르다. 계면조는 5음음계(황종, 협종, 중려, 임종, 무역)에서 3음 음계로 변질되었기 때문이다.
우조와 계면조는 지금 5음 음계와 3음 음계로 그 구성 조건이 사뭇 다르지만, 본래 5음 음계이던 계면조와 5음 음계의 우조는 밀접한 관계가 있었다. 즉, 우조의 제2음 태주와 제5음 남려를 반음(半音: 단2도) 높여 주면, 우조 음계를 곧바로 계면조 음계로 뒤집을 수 있다. 반대로 계면조의 제2음 협종과 제5음 무역을 반음씩 낮추면 우조가 된다.
이러한 관계 때문에 우조를 계면조로 뒤집거나, 계면조를 우조로 뒤집어서 새로운 곡을 만들 수 있었고, 그러한 관계를 갖는 곡이 현행 가곡의 「우조초수대엽」과 「계면조초수대엽」이다. 다만, 「계면조초수대엽」이 5음 음계에서 3음 음계로 변질되었기 때문에 그 관계가 분명하게는 나타나지 않는다.
우조에는 「우조초수대엽」 이하 「우조소용」까지와 「우롱」, 「우락」, 「얼락」, 「우편」 등이 있고, 계면조에는 「계면조초수대엽」 이하 「계면조소용」까지와 「얼롱」, 「평롱」, 「계락」, 「편수대엽」, 「얼편」, 「태평가」등이 있다.
또한, 우조와 계면조를 모두 쓰는 반우반계(半羽半界)로는 「반엽」, 「편락」, 「환계락」 등이 있다. 반우반계의 곡은 처음에는 우조로 곡이 시작되지만 제3장과 중여음에서 계면조로 바뀐다.
한편, 「계락」, 「평롱」의 악곡은 반우반계로 불리지는 않지만, 곡의 제5장에서 본래의 계면조가 우조로 바뀌어서 다음의 곡(우조)으로 연결된다.
음역은 성악으로 볼 때 대개 두 옥타브를 넘지 않는다. 우조 곡의 최저음은 탁태주[㑀]이고 최고음은 청중려[㳞]이지만, 이 가운데 최저음인 탁태주는 곡의 5장 종지(終止)에서만 나타나고, 최고음인 청중려는 「삼수대엽」, 「소용」과 같은 질러내는 곡에서만 조금 쓰인다. 또 계면조의 곡에서는 최저음이 탁중려[㑖]이기 때문에 그 음역은 우조보다 좁다고 하겠다.
창법(唱法)은 대개 시조, 가사(歌詞)의 창법과 비슷한데, 통소리를 쓰는 민속음악에 비하여, 횡경막을 밀어올리는 복식호흡(腹式呼吸)에 의한 창법을 주로 쓰고 있다. 이름 있는 가객들은 뒷목을 쓴다고도 한다. 따라서 가곡창법은 매우 꿋꿋한 느낌을 준다.
또한, 어느 음역에서 소리를 낼 때에도 그 음색을 달리하지 않는 것이 특색인데, 가사와 시조가 속소리[細聲]를 쓰는 데 비하여 남창 가곡에서는 전혀 그것을 사용하지 않는다. 그러나 여창 가곡에서는 빈번하게 속소리를 쓴다. 이 점이 남창 가곡과 여창 가곡의 가장 큰 차이라고 하겠다.
창법과 관련하여 가곡의 발음법에는 민속 음악에서는 찾아볼 수 없는 모음(母音)을 변화시켜 주는 특징이 있다. 예를 들어, ‘아’ 발음은 ‘아으’로 모음이 바뀌는데, 이렇게 함으로써 소리가 되바라지지 않고 무거운 소리를 유지할 수 있다. 또한, 같은 모음을 두 번 발음할 때는 ‘아’가 ‘하’로 바뀌는 것과 같은 변음수법(變音手法)을 사용한다. 이러한 발음법은 대개 시조와 마찬가지이다.
한편, 창법과 선율 진행은 우조와 계면조가 서로 다른 성질을 가지고 있다. 우조창법과 계면창법의 차이는 극히 미묘한 시김새(표현기법)의 처리에 있는데, 우조는 대체로 장중하게 소리내며 요성을 느리게 해주는 데 비하여, 계면조에서는 조금 부드럽게 소리내며 요성도 빠르게 한다.
선율 진행상의 우조와 계면의 두드러진 차이는 중려에서 탁임종으로 진행할 때와 청황종[潢]에서 중려로 진행할 때 가장 잘 나타난다.
먼저 중(仲)→임(林)의 진행에서 보면, 우조는 태주, 황종, 태주, 탁남려[㑲]를 고루 거쳐서 탁임종에 이르는 데 비하여, 계면조는 단지 황종 한 음 또는 황종, 태주, 황종의 세 음만을 거친다. 따라서 우조보다 계면조의 진행이 더 직접적이라고 할 것이다.
두번째의 진행, 즉 청황종→중려의 경우는, 우조가 일찍 중려에 이르러 길게 끌어 주는 데 비하여, 계면조에서는 먼저 임종을 길게 끌어 준 뒤, 끝에 가서 중려로 진행하는 차이를 보여준다. 이러한 선율 진행상의 우조와 계면조의 차이는 그 조성과 밀접한 관계가 있다.
가곡은 한 사람의 독창과 그것을 반주하는 단재비 편성의 관현악으로 편성된다. 이때 남창은 독창으로만 노래하지만 여창은 2명 이상이 함께 부르기도 한다. 반주 악기로는 거문고, 대금, 세피리, 해금, 장구가 원칙적으로 사용되며, 별도로 가야금과 단소가 추가되기도 한다.
이들 반주 악기들은 대개 가곡의 노래 선율과 비슷한 가락으로 반주하는데, 거문고가 두드러지게 핵심적인 선율을 연주하고, 피리, 대금은 조금씩 장식음을 붙여서 연주한다. 그리고 남창과 여창의 반주 음악은 근본적으로 같다.
연주는 「초수대엽」부터 일정한 순서에 의하여 「태평가」까지 한꺼번에 부르는 연창 형태가 원칙이다. 그러한 연창 순서로는 두 가지 방식이 있는데, 첫째로 남창과 여창이 별도로 부르는 방식이 있고, 둘째로 남창과 여창이 교대로 부르는 방식이 있다.
남창 가곡의 경우 그 순서는 ①우조초수대엽, ②우조이수대엽, ③우조중거, ④우조평거, ⑤우조두거, ⑥우조삼수대엽, ⑦우조소용, ⑧반엽, ⑨계면조초수대엽, ⑩계면조이수대엽, ⑪계면조중거, ⑫계면조평거, ⑬계면조두거, ⑭계면조삼수대엽, ⑮계면조 소용, 얼롱[乻弄, 言弄], 평롱(平弄), 계락(界樂), 우락(羽樂), 얼락[乻樂·言樂], 편락(編樂), 편수대엽(編數大葉), 얼편[乻編, 言編], 태평가의 순이다.
한편, 여창 가곡의 경우는 ①우조이수대엽, ②우조중거, ③우조평거, ④우조두거, ⑤반엽, ⑥계면조이수대엽, ⑦계면조중거, ⑧계면조평거, ⑨계면조두거, ⑩평롱, ⑪우락, ⑫환계락, ⑬계락, ⑭편수대엽, ⑮태평가의 순이다.
남녀창가곡의 순서는 ①남창 우조초수대엽, ②여창 우조이수대엽, ③남창 우조중거, ④여창 우조중거, ⑤남창 우조평거, ⑥여창 우조평거, ⑦남창 우조삼수대엽, ⑧여창 우조두거, ⑨남창 우조소용, ⑩여창 반엽, ⑪남창 계면조초수대엽, ⑫여창 계면조이수대엽, ⑬남창 계면조중거, ⑭여창 계면조중거, ⑮남창 계면조평거, 여창 계면조평거, 남창 계면조삼수대엽, 여창 계면조두거, 남창 얼롱, 여창 평롱, 남창 계락, 여창 계락, 남창 얼락, 여창 우락, 남창 편락, 여창 편수대엽, 남녀 병창 태평가의 순이다.
이러한 원칙대로 가곡을 연주할 때는 「초수대엽」 앞에서 무장단(無長短)으로 된 기악만의 ‘다스름’을 연주하고, 다스름이 끝나면 바로 「초수대엽」 1장으로 이어진다.
그 뒤 「이수대엽」부터는 대여음이 각 곡 사이에서 전주격으로 연주되면서 앞뒤 각 곡을 자연스럽게 연결해 준다. 다만, 종곡(終曲)인 「태평가」에는 대여음이 없는데, 1장의 첫 11박을 거문고가 연주하여 대여음을 대신한다.
한편, 오늘날에는 가곡 전곡을 부르지 않고 한두 곡만 발췌하여 연주하기도 하는데 이때에는 먼저 곡의 머리에서 대여음을 연주하고 1장으로 이어지고, 5장이 끝나면 바로 곡을 마친다. 대여음을 곡의 머리에서 연주하는 것은 대여음이 후주(後奏)에서 전주(前奏)로 바뀌었음을 말해 주는데, 이때 대여음의 끝 5박을 생략하고 바로 노래로 이어진다.
1장의 연주 때 반주는 첫머리를 생략하여 노래보다 늦게 시작하는데, 장구가 먼저 6박부터 연주하면 거문고, 가야금이 9박부터 들어오고, 나머지 악기들은 12박부터 반주를 시작한다. 장구는 원칙적으로 채편[鞭]의 변죽을 친다. 그러나 곡(편락·태평가)의 분위기에 따라서 부분적으로 채편의 복판을 치기도 한다.
가곡에 관한 문헌에는 악보(樂譜)와 사설집[歌集]이 있다. 악보는 대체로 거문고 악보가 많고, 그 밖에도 비파보(琵琶譜), 휘금보(徽琴譜), 가야금보(伽倻琴譜), 양금보(洋琴譜) 등이 남아 있다.
한편, 사설을 모아 놓은 것을 가집이라고 하는데 사설과 더불어 연음표(連音標)를 기록한 경우도 있다. 「삭대엽」이 최초로 보이는 악보는 1620년에 만들어진 이득윤(李得胤)의 『현금동문유기(玄琴東文類記)』이다.
이후 『백운암금보(白雲庵琴譜)』, 『신증금보(新證琴譜)』, 『신작금보(新作琴譜)』, 『증보고금보』, 『연대금보(延大琴譜)』, 『한금신보(韓琴新譜)』, 『어은보(漁隱譜)』, 『낭옹신보(浪翁新譜)』, 『유예지(遊藝志)』, 『삼죽금보(三竹琴譜)』, 『금학절요(琴學切要)』, 『우헌금보(愚軒琴譜)』, 『현금오음통론(玄琴五音統論)』, 『원객유운( 園客遺韻)』, 『학포금보(學圃琴譜)』, 『방산한씨금보(芳山韓氏琴譜)』, 『아금고보(峨琴古譜)』 등 많은 거문고 악보가 있다.
또한 양금보로는 『구라철사금자보(歐邏鐵絲琴字譜)』, 『협률대성(協律大成)』, 『서금보(西琴譜)』, 『일사금보(一蓑琴譜)』, 『서금가곡보(西琴歌曲譜)』 등이 있고, 휘금보로는 『휘금가곡보(徽琴歌曲譜)』가 있으며, 가야금보로는 『졸장만록(拙庄慢錄)』이 있다.
현전하는 가집으로 가장 오래된 것은 1728년에 김천택(金天澤)이 엮은 『청구영언』이다. 그 밖에도 『해동가요』, 『동가선(東歌選)』, 『대동풍아(大東風雅)』, 『객악보(客樂譜)』, 『병와가곡집(甁窩歌曲集)』, 『가곡원류』, 『고금가곡(古今歌曲)』, 『남훈태평가(南薰太平歌)』, 『여창가요집(女唱歌謠集)』 등이 전한다.