신라 때 삽량(歃良)이었는데, 665년(문무왕 5) 상주(上州)와 하주(下州)를 합쳐 삽량주로 하였다. 757년(경덕왕 16) 한화정책(漢化政策)으로 지명을 한자명으로 고칠 때 양주(良州)가 되었고 헌양(巚陽)을 속현으로 하였다.
940년(태조 23) 양주로 고쳤고, 성종 때 방어사(防禦使)를 두었으며, 1018년(현종 9) 지군사(知郡事)로 바꾸고 동평(東平)·기장(機張)을 속현으로 하였다. 뒤에 밀성(密城)에 속하였다가 1304년(충렬왕 30) 양주로 복구하였다. 1413년(태종 13) 양산군으로 바꾸었다.
이곳은 낙동강 하류의 넓은 분지에 있어 신라 초기 가야와 왜구의 침입이 잦았던 곳으로, 신라의 외곽을 방어하는 군사적인 요지였다.