고려 충렬왕 때 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건되었다. 1705년(숙종 31) 읍(邑)을 옮기자는 논의가 있어 향교를 부(府)의 서쪽 청룡산 아래로 옮겼다.
그 뒤 1748년(영조 24) 지부(知府) 이윤덕(李潤德)이 부임하자 향교의 이건을 건의, 다음해에 교임(校任) 정한걸(鄭漢杰) · 조대연(曺大淵) · 김광정(金光鼎) 등의 노력으로 현재의 위치에 이건하였다.
1780년(정조 4) 유생 김규혁(金奎爀)의 힘으로 명륜당을 중수하였고, 1841년(헌종 7) 퐁화루(風化樓)와 서재(西齋)를 중수하였다. 1975년과 1976년에 전체적인 보수가 있었다.
현존하는 건물로는 7칸의 대성전, 6칸의 명륜당, 4칸의 풍화루, 각 4칸의 동무(東廡)와 서무(西廡), 각 6칸의 동재(東齋)와 서재, 내삼문(內三門) 등이 있다. 대성전에는 5성(五聖), 10철(十哲), 송조2현(宋朝二賢), 우리 나라 18현(十八賢)의 위패가 봉안되어 있다.
조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 갑오개혁 이후 신학제 실시에 따라 교육적 기능은 없어지고 봄 · 가을에 석전(釋奠)을 봉행하며 초하루 · 보름에 분향을 하고 있다.
이 향교의 대성전은 1974년 경상남도 유형문화재(현, 유형문화유산)로 지정되었으며, 소장전적 가운데 《조선청금록 朝鮮靑襟錄》 · 《향리약법 鄕里約法》 · 《계약장정 契約章程》 · 《청금록 靑襟錄》 등은 이 지방의 향토사연구에 귀중한 자료이다. 현재 향교의 운영은 전교(典校) 1명과 장의(掌議) 35명이 담당하고 있다.