창건연대는 미상이나, 조선시대에 현유(賢儒)의 위패를 봉안, 배향하고 지방의 유학교육과 지방민의 교화를 위해서 하옥리 백학동(白鶴洞)에 창건되었다.
1684년에 지금의 위치로 이건하였으며, 1967년에 명륜당과 부속건물을 보수하였다. 현존하는 건물로는 대성전·명륜당·동무(東廡)·서무(西廡)·내삼문·외삼문·동재·서재·교직실·제기고·창고 등이 있다. 대성전 안에는 5성(五聖), 송조2현(宋朝二賢), 우리나라 18현(十八賢)의 위패가 봉안되어 있다. 전학후묘(前學後廟)의 건축형태이며, 대성전은 정면3칸, 측면 3칸이고, 명륜당은 정면 5칸, 측면 2칸의 홀처마 팔작지붕이고, 동재·서재는 정면 3칸, 측면 1칸의 홑처마 우진각 지붕이다. 동재·서재 옆에는 동재각과 서재각이 있는 것이 특징이다.
조선시대에는 국가로부터 전답과 노비·전적 등을 지급받아 교관이 교생을 가르쳤으나, 조선 후기 이래 향교는 교육 기능이 쇠퇴하고 대신 선현에 대한 제향을 통한 교화 기능을 주로 담당하였다. 봄·가을에 석전(釋奠)을 봉행(奉行)하고 초하루·보름에 분향을 올리고 있으며, 전교(典校) 1명과 장의(掌議) 수명이 운영을 담당하고 있다.
소장 전적은 판본 45종 171책과 사본 13종 17책이 있으며, 이 가운데 『계약장정(契約章程)』·『완의(完議)』·『유안(儒案)』·『유계좌목(儒稧座目)』·『청금록(靑衿錄)』·『향안(鄕案)』 등은 이 지방의 향토사연구를 위한 귀중한 자료이다. 금산향교는 충청남도 기념물 제121호로 지정되어 있다.