1389년(공양왕 1)에 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건되었다. 1590년(선조 23)에 현재의 위치로 이전하였으나 임진왜란으로 퇴폐되었으며, 그 뒤 1907년 의병장 이강년(李康䄵)이 왜군과 교전중 소진되었다.
1909년 대성전이 중건된 것을 시작으로 1922년에 명륜당, 1980년에 동재(東齋), 1981년에 서재(西齋) 등을 중건하였다. 현존하는 건물로는 정면 3칸, 측면 2칸의 맞배지붕으로 된 대성전, 정면 3칸, 측면 2칸의 팔작지붕으로 된 명륜당, 각 정면 4칸, 측면 1칸의 맞배지붕으로 된 동재와 서재, 제기고(祭器庫), 내신문(內神門), 외신문(外神門) 등이 있다.
대성전에는 5성(五聖), 송조4현(宋朝四賢), 우리 나라 18현(十八賢)의 위패를 봉안하고 있다. 조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 갑오개혁 이후 신학제 실시에 따라 교육적 기능은 없어지고 봄 · 가을에 석전(釋奠)을 봉행(奉行)하며 초하루 · 보름에 분향을 하고 있다.
1981년 충청북도 유형문화재(현, 유형문화유산)로 지정되었으며, 현재 지방학생들을 대상으로 사설 명륜학원(明倫學院)을 운영하고 있다. 향교의 운영은 전교(典校) 1명과 장의(掌議) 수명이 담당하고 있다.