고려시대에 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건하였다. 1567년(명종 22)에 지금의 안동시 명륜동에 중건(重建)되었다. 그 규모가 성균관(成均館)과 동일하여 영남지방에서 가장 컸으나, 6·25전쟁 때 모두 불타 버렸고, 1983년 향교복설추진위원회가 발족되어 지금의 위치인 송천동에 터를 잡고, 『영가지(永嘉誌)』를 참고로 1986년 다시 중건되었다.
현존하는 건물로는 대성전 등이 있으며, 대성전에는 5성(五聖), 송조4현(宋朝四賢), 우리 나라 18현(十八賢)의 위패를 봉안하고 있다. 규모는 1곽 6동이다. 6동은 정전(正殿)인 대성전과 명륜당, 유생들이 거처하며 공부하던 동재(東齋)와 서재(西齋), 청아루(菁莪樓), 부엌을 뜻하는 주사(廚舍)로 구성되어 있다. 고려시대부터 조선시대까지의 유생들의 교육에 힘써 온 기관으로, 많은 유학자들을 배양하였다. 지금까지도 안동 지역의 유학교육과 보급에 힘쓰고 있으며, 우리나라와 중국의 위대한 유학자를 배양하여 그 뜻을 기리고 있다.
조선시대에는 국가로부터 토지와 전적·노비 등을 지급받아 교관 1명이 정원 50명의 교생을 가르쳤으나, 조선 후기 이래 향교는 교육 기능이 쇠퇴하고 대신 선현에 대한 제향을 통한 교화 기능을 주로 담당하였다. 봄·가을에 석전(釋奠)을 봉행하며, 초하루·보름에 분향하고 있다. 현재 향교의 운영은 전교(典校) 1명과 장의(掌議) 수명이 담당하고 있다.