1398년(태조 7) 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건되었다. 1400년(정종 2) 소실된 뒤 1512년(중종 7) 현재의 위치로 이건하였으며, 임진왜란 때 다시 소실되었다.
1603년(선조 36) 대성전과 명륜당을, 1636년(인조 14) 세심루(洗心樓)를 각각 중건하였고, 그 뒤 여러 차례에 걸쳐 중수하였다. 현존하는 건물로는 6칸의 대성전, 7칸의 명륜당, 9칸의 세심루, 6칸의 동재(東齋), 신도문(神道門) 등이 있다. 대성전에는 5성(五聖), 송조4현(宋朝四賢), 우리나라 18현(十八賢)의 위패가 봉안되어 있다.
조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 갑오개혁 이후 신학제 실시에 따라 교육적 기능은 없어지고 봄 · 가을에 석전(釋奠)을 봉행하며, 초하루 · 보름에 분향하고 있다.
이 향교는 1985년 경상북도 유형문화재(현, 유형문화유산)로 지정되었으며, 향교의 운영은 전교(典校) 1명과 장의(掌議) 수명이 담당하고 있다.