조선중기에 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건되었다. 임진왜란 때 소실되었다가 1847년(헌종 13)에 중건하였으며, 1927년에 명륜당 등을 보수하였다.
경내의 건물로는 3칸의 대성전, 3칸의 명륜당, 4칸의 동재(東齋), 3칸의 서재(西齋), 5칸의 강학루(講學樓), 5칸의 전사청(典祀廳), 내삼문(內三門), 외삼문(外三門) 등이 있다. 대성전에는 5성(五聖)의 위패가, 동무·서무에는 송조4현(宋朝四賢), 우리나라 18현(十八賢)의 위패를 봉안하고 있다. 건축형태는 전학후묘(前學後廟)이다. 향교 입구에 2층의 정아루(菁我樓)가 있고, 보수할 때 콘크리트와 시멘트로 된 부분을 해체하고 자연석으로 대체하였다.
조선시대에는 국가로부터 토지와 전적·노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 조선 후기 이래 향교는 교육 기능이 쇠퇴하고 대신 선현에 대한 제향을 통한 교화 기능을 주로 담당하였다. 봄·가을에 석전을 봉행하며 초하루·보름에 분향을 하고 있다.
소장 전적으로는 판본 3종 9책, 사본 13종 34책이 있으며, 이 중 『정산현서재유생안(定山縣西齋儒生案)』·『정산현교생안(定山縣敎生案)』·『청금록(靑衿錄)』·『선생안(先生案)』·『모성계중수안(慕聖契重修案)』 등은 이 지방의 향토사연구에 귀중한 자료이다.
이 향교는 1997년 충청남도 기념물로 지정되었으며, 현재 전교(典校) 1명과 장의(掌議) 수명이 운영하고 있다.