조선 세종 때에 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건되었다. 창건연대는 미상이며, 1843년(헌종 9)에 대성전을 중수하였고, 1881년(고종 18)에 수해로 인하여 합천군청이 야로면으로 이전되자 향교도 같이 이건되었다.
1967년에 대성전 · 명륜당 · 동무(東廡) · 서무(西廡)의 보수와 번와작업(飜瓦作業)이 있었다. 현존하는 건물로는 5칸의 대성전, 7칸의 명륜당, 각 5칸의 동무와 서무, 5칸의 영귀루(永歸樓), 내삼문(內三門) 등이 있다. 대성전에는 5성(五聖), 10철(十哲), 송조6현(宋朝六賢), 우리 나라 18현(十八賢)의 위패가 봉안되어 있다. 건축형태는 명륜당이 앞에 있고 대성전이 뒤에 있는 전학후묘(前學後廟)의 배치이다.
조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 조선 후기 이래 향교는 교육 기능이 쇠퇴하고 대신 선현에 대한 제향을 통한 교화 기능을 주로 담당하였다. 봄 · 가을에 석전(釋奠)을 봉행하며, 초하루 · 보름에 분향하고 있다.
이 향교는 1983년 경상남도 유형문화재(현, 유형문화유산)로 지정되었으며, 운영은 전교(典校) 1명과 장의(掌議) 수 명이 담당하고 있다.