1406년(태종 6)에 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건되었다.
임진왜란 때 소실되었으나 위패는 유생 정호인(鄭好仁)이 송림정결처(松林淨潔處)에 매안(埋安)하여 화를 면하였다. 1603년(선조 36) 군수 문홍도(文弘道)가 구지(舊地)에 대성전을 중창하였고, 1612년(광해군 4) 군수 조익(趙翊)이 동무(東廡) · 서무(西廡)와 정문을 건립하였으며, 1626년(인조 4) 군수 박곤원(朴坤元)이 대성전과 동 · 서무를 중수하였다.
1633년 군수 조신준(趙臣俊)이 명륜당 · 전사고(典祀庫) 등을 신축하였고 1676년(숙종 2) 현재의 위치로 옮겼으며, 1683년 다시 옛터로 이건하였다가 1828년(순조 28) 군수 황찬희(黃賛熙)와 향중유림(鄕中儒林)이 협의하여 현재의 위치로 이건하였다.
1863년(철종 14)안경록(安景祿)의 노력으로 전반적으로 중수하였으며, 1898년 장의(掌議) 이규영(李奎泳) · 김용회(金容會) 등이 대성전을 중수하였다.
1906년에는 향교 내에 사립 원명학교(元明學校)를 설립하고, 1955년 전교(典校) 이의문(李義文) · 정인홍(鄭寅洪) · 유인목(柳寅沐) 등이 명륜당을 중수하였으며, 1956년 향교 내에 양산고등공민학교(梁山高等公民學校)를 설립하였다.
1970년에 국고보조와 자체자금으로 대성전과 명륜당을 비롯하여 풍영루(風泳樓) 등 부속건물의 대대적인 보수가 있었으며, 1977년 양산고등공민학교가 분리되었다.
현존하는 건물로는 3칸의 대성전, 각 3칸의 동무 · 서무, 5칸의 청원재(淸源齋), 3칸의 풍영루 등이 있다. 대성전에는 5성(五聖), 10철(十哲), 송조6현(宋朝六賢),우리나라 18현(十八賢)의 위패가 봉안되어 있다. 건축형태는 교육공간인 명륜당과 동재 · 서재를 앞쪽에 두고 대성전 등의 제사 공간을 뒤로 둔 전학후묘(前學後廟)의 형태이다. 4채의 건물과 고직사(庫直舍)로 구성된 목조기와집이며, 풍영루는 정면 3칸, 측면 2칸의 중층누각(重層樓閣)의 팔작지붕집이다. 명륜당은 정면 5칸, 측면 2칸의 단층 팔작지붕집이다.
조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 조선 후기 이래 향교는 교육 기능이 쇠퇴하고 대신 선현에 대한 제향을 통한 교화 기능을 주로 담당하였다. 봄 · 가을에 석전(釋奠)을 봉행하며 초하루 · 보름에 분향을 하고 있다. 이 향교는 1982년 경상남도 유형문화재(현, 유형문화유산)로 지정되었으며, 향교의 운영은 전교 1명과 장의 수명이 담당하고 있다.