1415년(태종 15)에 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건되었다. 1490년에 중수하고 1569년에 현감 손영제(孫英濟)가 중수하였으며, 1625년에 중수하고 1745년에 현감 김광수(金光遂)가 중수하였다.
1841년에 보수하고 1900년에 현감 남정필(南廷弼)이 중수하였으며, 1954년에 교장 이탁(李鐸)이 중수하였다. 1981년에 전교(典校) 이윤항(李潤恒)이 도와 군에서 지원을 받아 명륜당 · 동재(東齋) · 서재(西齋) · 전사청(典祀廳) · 주사(厨舍) · 원장(垣墻) 등을 보수하였다.
현존하는 건물로는 대성전 · 내삼문(內三門) · 전사청 · 명륜당 · 동재 · 서재 · 주사 · 제기고(祭器庫) 등이 있다. 대성전에는 5성(五聖), 송조4현(宋朝四賢), 우리나라 18현(十八賢)의 위패를 봉안하고 있다.
조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 갑오개혁 이후 신학제 실시에 따라 교육적 기능은 없어지고 봄 · 가을에 석전을 봉행하며, 초하루 · 보름에 분향하고 있다.
이 향교는 1973년 경상북도 유형문화재(현, 유형문화유산)로 지정되었으며, 향교의 운영은 전교 1명과 장의(掌議) 수명이 담당하고 있다.