1357년(고려 공민왕 6)에 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건되었다. 1407년(태종 7) 군수 김한철(金漢徹)과 향중유림이 협의하여 송릉(松陵)으로 이전하였다가 1470년에는 대성전이, 1474년에는 명륜당이 지어지면서 향교로서의 규모를 갖추었다. 1612년(광해군 4) 현재의 위치로 이건되었고, 1732년에 대성전과 명륜당이 중수되었다. 1742년에 동 · 서무가 지어졌고, 1869년에 동 · 서무와 태화루(太和樓)가 중수되었다. 1886년에는 대성전과 명륜당이 고쳐졌다.
1976년 대성전을 보수하였으며, 1977년 전교(典校) 김이두(金利斗)의 사재(私財)와 국고보조로 태화루(太和樓)를 복원하고 명륜당을 중수하였다. 현존하는 건물로는 8칸의 대성전, 동재(東齋)와 서재(西齋), 삼문(三門), 7칸의 명륜당, 8칸의 태화루 등이 있다. 건축형태는 명륜당 앞면에 동 · 서재 대신 태화루가 자리하여 대성전과 동일선상에 배치되어 있는 전학후묘(前學後廟)의 형태이다. 대성전은 양 측면에 풍판을 단 맞배기와집인정면 5칸, 측면 3칸 규모로, 정면은 겹처마로 되어 있으며, 배면은 홑처마로 되어 있다. 명륜당은 팔작 기와집으로 정면 5칸, 측면 2칸 규모로 지어졌다.
대성전에는 5성(五聖), 송조2현(宋朝二賢), 우리 나라 18현(十八賢)의 위패가 봉안되어 있다. 조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 조선 후기 이래 향교는 교육 기능이 쇠퇴하고 대신 선현에 대한 제향을 통한 교화 기능을 주로 담당하였다. 봄 · 가을에 석전(釋奠)을 봉행하며 초하루 · 보름에 분향을 하고 있다.
대성전은 1985년 경상북도 문화재자료(현, 문화유산자료)로 지정되었으며, 소장전적 가운데 『조선청금록(朝鮮靑衿錄)』 · 『유안(儒案)』 · 『고금향안서(古今鄕案序)』 · 『고금유안총록(古今儒案總錄)』 · 『액내외안(額內外案)』 · 『향헌령(鄕憲令)』 · 『접중완의(接中完議)』 · 『평해동몽안(平海童蒙案)』 등은 이 지방의 향토사 연구에 귀중한 자료이다. 현재 향교의 운영은 전교(典校) 1명과 장의(掌議) 수명이 담당하고 있다.