1368년(공민왕 17)에 현유(賢儒)의 위패를 봉안, 배향(配享:학덕 있는 사람의 신주를 모시는 것)하고 지방민의 교육과 교화를 위하여 창건되었다. 1433년(세종 15)에 군수 반저(潘渚)가 중수하고, 1577년(선조 10)에 군수 이희득(李希得)이 중수하였다.
1597년에는 명나라 장수 아국기(芽國器)가 군사를 거느리고 영주를 지날 때 문묘에 알묘(謁廟)한 뒤 향교 주위의 지형지세를 극찬하였으나 백호(白虎)인 오른쪽 산맥이 낮고 인마(人馬)가 다니는 오솔길이 있어 결점이라 하여, 1635년(인조 13)에 진사 박종무(朴樅茂)가 유림과 협의하여 오솔길을 막고 낮은 산목을 흙으로 쌓아 올렸다.
광복 후 향교 경내에 영주여자중학교를 설립하여 향교 건물의 일부를 학교에서 사용하기도 하였다. 1970년 명륜당을 중수하고 1975년 대성전과 명륜당의 단청을 보수하였다.
현존하는 건물로는 6칸의 대성전, 6칸의 명륜당, 각 10칸의 동무(東廡)와 서무(西廡) 각 10칸의 동재(東齋)와 서재(西齋), 존현당(尊賢堂), 횡루(橫樓), 전사청(典祀廳), 전곡청(錢穀廳) 등이 있다. 대성전에는 5성(五聖)의 위패가, 동무 · 서무에는 송조 2현(宋朝二賢)과 우리 나라 18현(十八賢)의 위패가 봉안되어 있다.
조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 갑오경장 이후 신학제 실시에 따라 교육적 기능은 없어지고 봄 · 가을에 석전(釋奠:공자에게 지내는 제사)을 봉행하며 초하루 · 보름에 분향하고 있다.
현재는 향교 내에서 중고등학생을 대상으로 충효교실을 운영하고 있다. 이 향교의 대성전은 1985년 경상북도 문화재자료(현, 문화유산자료)로 지정되었으며, 운영은 전교(典校) 1명과 장의(掌議) 수명이 담당하고 있다.