조선시대에 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건되었다. 고려 충숙왕 때 창건되었다는 설도 있으나 확실하지 않다.
1779년(정조 3) 현재의 위치로 이건하였으며, 1823년(순조 23) 명륜당을 중수하고, 1882년(고종 19) 부사 윤제홍(尹濟弘)이 중수하였다. 이후 1926년 · 1949년 · 1954년에 각각 중수하였다.
현존하는 건물로는 7칸의 대성전, 6칸의 명륜당, 각 4칸의 동재(東齋)와 서재(西齋), 내삼문(內三門) 등이 있다. 대성전에는 5성(五聖), 10철(十哲), 송조6현(宋朝六賢)의 위패가, 동무 · 서무에는 우리 나라 18현(十八賢)의 위패가 봉안되어 있다.
조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 갑오개혁 이후 신학제 실시에 따라 교육적 기능은 없어지고 봄 · 가을에 석전(釋奠)을 봉행하며 초하루 · 보름에 분향을 하고 있다.
이 향교는 1980년 충청북도 유형문화재(현, 유형문화유산)로 지정되었으며, 향교의 운영은 전교(典校) 1명과 장의(掌議) 6, 7명이 담당하고 있다.