신라의 대야성(大耶城)이 위치했던 지역이다. 565년(진흥왕 26) 대량주(大良州)를 이곳에 설치하였다가 무열왕 때 삽량주(歃良州)로 옮겼고, 757년(경덕왕 16) 강양군(江陽郡)으로 고쳐 삼기(三岐) · 팔계(八谿) · 의상(宜桑)을 영현(領縣)으로 하였으며 강주(康州)에 예속시켰다.
고려 현종이 대량원군(大良院君)으로서 왕위에 올랐고 어머니 효숙왕후(孝肅王后)의 고향이라 하여 강양군을 지합주사(知陜州事)로 높였다. 거창군(居昌郡)과 삼기 · 가수(嘉樹) · 산음(山陰) · 단계(丹溪) · 가조(加祚) · 함음(咸陰) · 이안(利安) · 신번(新繁) · 야로(冶爐) · 초계(草溪) · 사양(舍陽)을 속현으로 하였으며, 1413년(태종 13) 합천으로 바꾸었다.