본래 신라의 거지화현(居知火縣)이었는데, 757년(경덕왕 16) 헌양현(巚陽縣)으로 고치고 양주군(良州郡)의 영현으로 하였다. 1018년(현종 9) 울주의 속현이 되었다가 1143년(인종 21) 감무를 두었으며, 그 뒤 지금의 이름인 언양으로 고쳤다.
1413년(태종 13) 감무를 현감으로 하였으나, 1599년(선조 32) 울산에 병합되었다가 1612년(광해군 4) 다시 현감을 두었다. 1895년(고종 32) 동래부 소속의 언양군이 되었다가 다음해에 경상남도에 속하였으며, 1914년 행정구역 개편 때 울산군에 병합되었다.
1962년 울산읍이 시로 승격되면서 울주군 언양면이 되고, 1991년 울산군에, 1995년 울산군과 울산시가 통합된 새로운 울산시에, 1997년 7월에는 울산광역시에 소속되었다.
언양의 지명유래는 이곳이 항상 양지바른 곳이라는 데서 나온 것이라 한다. 신라 때는 이곳이 경주를 방어하는 남부의 외곽지대로 취서산(鷲棲山)에는 옛 성이 있었고, 북쪽의 은현(隱峴)이나 진고개〔進峴〕는 경주의 방어선 구실을 하였다.
조선시대에는 부로산(夫老山) 봉수가 양산군의 원적산(圓寂山), 경주의 소산(所山) 봉수에 연결되었다. 지형상으로는 대화강(大和江: 지금의 太和江)의 지류인 남천(南川) 유역에 발달한 산간분지로 주위에 언불산(焉弗山)ㆍ정족산(鼎足山)ㆍ고암산(高巖山)ㆍ화장산(華藏山) 등에 둘러싸여 있다.
조선시대에는 경주ㆍ밀양ㆍ울산ㆍ자인ㆍ양산 등지와 연결되는 도로가 발달하였다. 고려 말에는 왜구가 여러 번 침입하여 주민들에게 많은 피해를 주었다.