조선의 문학인과 음악인이 새로운 가요를 창작하여 퇴폐적이며 현실도피적인 가요를 배격한다는 취지로 결성하여, 좋은 가사를 수집하여 작곡하고 작곡 감상회를 열었다. 이후 지속적인 활동 없이 1934년경까지 간혹 언급되기만 하였다.
‘건전한 조선가요의 민중화를 바란다’는 강령과 ‘퇴폐적 악종(惡種)가요를 배격하자’·‘조선 사람은 진취적 노래를 부르자’는 주장을 가지고 설립하였다.
1929년 2월 22일 문학인과 음악인들이 모여 퇴폐가요를 배격하고 민중들의 시대적 요구에 부흥할 만한 진취적인 신가요(新歌謠)를 만들어 보고자 결성했다. 결성 당시 문학계의 이광수·주요한·김소월·변영로·이은상·김형원·안석영·김억·양주동·박팔양·김동환과 음악계의 김영환·안기영·김형준·정순철·윤극영 등이 참여하였다. 작가부·작곡부·선전부를 두었다. 협회 결성 후 각 신문에 장문의 설립관련 선언문을 게재하면서 적극적인 모습을 보였다. 당시 이들은 배격해야할 악곡으로 ‘수심가’·‘아리랑타령’·‘추풍감별곡’·‘춘향가’ 등 민속악곡들과 퇴폐한 유행가를 거론했다.
1929년 4월15일 총회에서 제1회 작품수집보고회를 열고, 12편을 작곡부에 넘겼다. 작곡부원 김영환(金永煥)·김형준(金亨俊)·정순철(鄭順哲)에 의해 작곡되면 선전부 안기영(安基永)·안석주(安碩柱)·김동환(金東煥)에게 보내기로 하였다. 5월 25일 청년회관에서 총회를 열어 작곡된 14편의 감상회를 열었다. 동요·민요·독창곡이 섞여 있고 서양과 조선식 음악어법으로 작곡된 곡이었다. 이후 작품을 출판하고 음악발표회를 개최하고자 하였다. 창작된 작품을 『가요협회가곡선』(1930)으로 간행하려고 했으나 악보집이나 작품으로 나온 것은 없다. 활동을 하지 않은 채 1934년 무렵에도 단체는 유지되고 있었다. 이후 자연스레 해산되었을 것으로 판단된다.
문학과 음악계에서 함께 대중음악에 대한 문제점을 지적하였다. 조선의 민속음악과 유행음악에 비판적인 입장을 밝히면서도 해결책으로 민요를 새로운 작곡기법으로 수용하려 했다. 이들의 가요정화운동은 1940년 친일단체인 조선방송협회의 가요정화협의회 설립의 역사적 근거로 이용되었다.