1407년(태종 7)에 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 현재의 서본리에 창건되었다. 1418년에 군수 김겸(金謙)이 현재의 위치로 이건하였으며, 1656년(효종 7) 군수 심유행(沈儒行)이, 1658년 군수 이휘조(李徽祚)가 각각 중수하였다.
현재 동재(東齋) · 서재(西齋) · 동무(東廡) · 서무(西廡) 건물은 남아 있지 않다. 현존하는 건물로는 6칸의 대성전, 7칸의 명륜당, 동소문(東小門) · 묘남문(廟南門) · 주사(厨舍) 등이 있다. 대성전에는 5성(五聖), 송조2현(宋朝二賢), 우리 나라 18현(十八賢)의 위패를 봉안하고 있다.
조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 갑오개혁 이후 신학제 실시에 따라 교육적 기능은 없어지고 봄 · 가을에 석전(釋奠)을 봉행(奉行)하며 초하루 · 보름에 분향하고 있다.
이 향교는 1985년 경상북도 문화재자료(현, 문화유산자료)로 지정되었으며, 운영은 전교(典校) 1명과 장의(掌議) 수명이 담당하고 있다.