1398년(태조 7)에 현유(賢儒)의 위패를 봉안, 배향(配享)하고 지방의 중등교육과 지방민의 교화를 위해 서석산(瑞石山) 장원봉(壯元峰) 아래에 창건되었다.
전설에 의하면 호환(虎患)이 있어서 동문 안으로 옮겨 세웠다가, 1488년(성종 19)에 수해(水害)로 현감 권수평(權守平)이 현재의 위치로 이건하였다고 한다. 당시의 건물은 정유재란 때에 소실되었고 지금의 건물은 그 뒤에 중건한 것이다.
1974년에 대성전을 보수하고 단청하였으며, 1976년에 동 · 서재와 1978년에 명륜당을 보수하고 1981년에 담장 등을 보수하였다.
이 향교는 1985년 광주광역시 유형문화재(현, 유형문화유산)로 지정되었으며, 현존하는 건물로는 대성전 · 명륜당 · 동무(東廡) · 서무(西廡) · 동재 · 서재 · 내삼문(內三門) · 외삼문(外三門) · 비각 등이 있다.
정면 3칸, 측면 3칸의 맞배지붕으로 된 대성전에는 5성(五聖), 송조2현(宋朝二賢) 및 우리나라 18현(十八賢)의 위패가 봉안되어 있다. 외삼문 밖에 있는 비각에는 흥학비(興學碑)와 중수비(重修碑) · 위성묘비(衛聖廟碑) 등이 있는데, 흥학비는 1563년에 세워진 것으로, 기대승(奇大升)이 찬기(撰記)하고 박광옥(朴光玉)이 음기(陰記)를 찬하였다.
중수비는 둘이 있는데 하나는 1803년에 목사 김선(金銑)이 중수하고 교리 기학민(奇學敏)이 찬기한 것이며, 또 하나는 1855년에 목사 홍재응(洪在應)이 중수하고 기정진(奇正鎭)이 찬기한 것이다. 위성묘비는 권일제가 성묘를 지킨 것을 1843년에 목사 조철영(趙徹永)이 그 기(記)를 새겨 세운 비이다.
조선시대에는 국가로부터 전답과 노비 · 전적 등을 지급받아 교관이 교생을 가르쳤으나, 현재는 교육적 기능은 없어지고 봄 · 가을에 석전(釋奠: 공자에게 지내는 제사)을 봉행(奉行)하고 초하루 · 보름에 분향을 하고 있으며, 전교(典校) 1명과 장의(掌議) 수명이 운영을 담당하고 있다.
소장 전적은 189종 306책으로 주로 경서와 문집류이며, 필사본인 『관안(官案)』 · 『광주유림안(光州儒林案)』 등은 이 지방의 향토사연구에 좋은 자료이다.