조선시대에 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건되었다. 창건연대는 미상이며, 처음에는 파수리에 위치하였다가, 1595년(선조 28)에 정구(鄭逑)가 현재의 위치로 이건하였다.
다음해에 동무 · 서무와 내삼문(內三門) · 명륜당 · 동재(東齋) · 서재(西齋) · 풍화루(風化樓) 등을 건립하였고, 1910년에 중수하였다. 1950년 6·25동란으로 대성전 · 명륜당 · 동재 · 서재 등이 소실되면서 소장되어 있던 전적도 이때 모두 타버렸다.
1955년 전교(典校) 황우석(黃禹錫)과 1957년 전교 조학래(趙學來)의 노력으로 명륜당과 동재 · 서재를 복구하였다. 현존하는 건물로는 4칸의 대성전, 5칸의 명륜당, 내삼문, 각 3칸의 동재와 서재, 풍화루, 외삼문, 홍살문〔紅箭門〕 등이 있다. 건축형태는 명륜당이 앞에 있고 대성전이 그 뒤에 놓인 전형적인 전학후묘(前學後廟)의 형태이다. 『함주지(咸州誌)』에 의하면 이 향교는 명륜당 6칸, 좌우 협실 각 3칸, 동재(東齋) 8칸, 서재(西齋) 7칸, 동루각 6칸, 부고 5칸, 교아 13칸이 있었음을 보인다.
대성전에는 5성(五聖), 송조3현(宋朝三賢), 동무 · 서무에는 우리 나라 18현(十八賢)의 위패가 봉안되어 있다. 조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 조선 후기 이래 향교는 교육 기능이 쇠퇴하고 대신 선현에 대한 제향을 통한 교화 기능을 주로 담당하였다. 봄 · 가을에 석전(釋奠)을 봉행(奉行)하며, 초하루 · 보름에 분향을 하고 있다.
대성전은 1983년 경상남도 유형문화재(현, 유형문화유산)로 지정되었으며, 1985년부터 방학기간을 통하여 학생 60여명을 대상으로 충효교육을 실시하고 있다. 현재 전교 1명과 장의(掌議) 수명이 운영을 담당하고 있다.