1399년(정종 1) 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건되었다. 임진왜란 때 소실되었다가 1614년(광해군 6) 남천리로 이건하였으며, 화재로 소실되어 1659년(효종 10) 눌대(訥臺)로 이건하였다.
그 뒤 수해로 폐허화되어 1791년(정조 15) 현재의 위치로 이건하였으며, 1811년 · 1870년 · 1891년 중수하고, 1977년 전면보수하였다. 현존하는 건물로는 대성전 · 명륜당 · 동재(東齋) · 서재(西齋) · 내삼문(內三門) · 외삼문(外三門) 등이 있다. 대성전에는 5성(五聖), 송조4현(宋朝四賢), 우리 나라 18현(十八賢)의 위패가 봉안되어 있다.
조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 갑오경장 이후 신학제 실시에 따라 교육적 기능은 없어지고 봄 · 가을에 석전(釋奠)을 봉행(奉行)하며, 초하루 · 보름에 분향하고 있다.
이 향교는 1981년 충청북도 유형문화재(현, 유형문화유산)로 지정되었으며, 전교(典校) 1명과 장의(掌議) 수명이 운영을 담당하고 있다.