본래 신라의 근암현(近嵒縣, 또는 近品縣)이었는데, 경덕왕 때 가유현(嘉猷縣)으로 고쳐 예천군(醴泉郡)의 영현으로 삼았다. 1018년(현종 9) 산양현으로 고쳐 상주(尙州)의 임내(任內)로 하였다. 한때 이곳에 감무(監務)를 둔 적이 있으나 명종 때 다시 상주에 예속시켰고, 조선 말기까지 산양면으로 존속하였다.
1914년 행정구역 개편 때 문경군 산양면으로 개편되고 일부는 호계면에 편입되었다. 1996년 1월 1일 점촌시와 통합되어 문경시 관할이 되었다.
산양의 옛 지명인 ‘근품’이나 ‘가유’는 모두 ‘큰 산(大山)’을 뜻한다. 조선시대에 이 지역은 낙동강 상류의 산양천변에 발달한 산간분지에 자리잡고 있어 용궁(龍宮)과 문경을 잇는 도로가 발달하였고, 북서부에는 선암산(禪巖山) 봉수가 있어서 소백산맥의 탄항(炭項) 봉수와 연결되었다.