1426년(세종 8) 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건되었다. 임진왜란 때 전소되었다가 1606년(선조 39) 부사 이영도(李泳道)가 국동(菊洞)에 대성전을 건립하고, 1629년(인조 7) 부사 이문증(李文證)이 동무(東廡) · 서무(西廡)와 강당 등을 보축, 중수하였다.
이 후 1693년(숙종 19) 부사 이문징(李文徵)이 현재의 위치로 이건하였다. 1700년 부사 이상훈(李相勛)이 청아루(菁莪樓)를 증축하였고, 1869년(고종 6) 부사 윤현기(尹顯岐)가 대대적인 개수와 보수를 하였다.
1962년 동무 · 서무를 철거하고 청아루를 보수하였으며, 1975년 대성전을 보수하였다. 현존하는 건물로는 대성전, 7칸의 청아루, 5칸의 명륜당, 외삼문(外三門), 일각문(一閣門), 주사(厨舍) 등이 있다. 대성전에는 5성(五聖), 송조2현(宋朝二賢), 우리 나라 18현(十八賢)의 위패가 봉안되어 있다.
조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나 갑오개혁 이후 신학제 실시에 따라 교육적 기능은 없어지고 봄 · 가을에 석전(釋奠)을 봉행하며 초하루 · 보름에 분향을 하고 있다.
1986년부터 동계 · 하계 방학기간을 이용하여 충효교실(忠孝敎室)을 운영하고 있으며, 현재 향교의 운영은 전교(典校) 1명과 장의(掌議) 수명이 담당하고 있다.