조선 태조때에 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건되었다. 1804년(순조 4)에 명륜당과 동재(東齋) · 서재(西齋)를 중수하고 풍화루를 건립하였으며, 1816년에 대성전을 중수하였다.
그 뒤 1851·1873·1935·1942·1959·1966·1967·1972년에 각각 중수하였다. 대성전에는 5성(五聖), 송조4현(宋朝四賢)의 위패를, 동무 · 서무에는 우리나라 18현(十八賢)의 위패를 봉안하고 있다.
조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 갑오개혁 이후 신학제 실시에 따라 교육적 기능은 없어지고 봄 · 가을에 석전(釋奠)을 봉행(奉行)하며, 초하루 · 보름에 분향을 하고 있다.
1981년 충청북도 유형문화재(현, 유형문화유산)로 지정되었으며, 향교의 운영은 전교(典校) 1명과 장의(掌議) 수명이 담당하고 있다.