시대의 변천에 따라 신교육을 통한 인재 양성의 필요성을 깨달은 금산읍의 김진현(金晉鉉)·박태서(朴台緖)·김제룡(金濟龍) 등이, 사립 금신학교(錦新學校)를 설립하여 1907년 3월 16일에 개교하였다. 3년제 보통학교 과정이었으며, 현재 위치인 금산 객사(客舍)를 교실로 사용하여 남학생 50명이 입학하였다.
같은 해 10월에 을사조약 반대 의거로 50일간 휴교 후 11월 20일 재개교하여 학생이 20명으로 감소되었다. 1910년 3월에 제1회 졸업생 6명을 배출하였으며, 1911년 4월에 수업연한을 4년으로 연장하였다. 같은 해 9월 4년제 공립학교로 개편되어 금산공립보통학교로 개칭하였다. 1913년 공립간이농업학교가 부설되었고, 1914년부터는 여학생도 모집하였으며, 1920년에 수업연한이 6년으로 연장되었다.
1921년에 부설 간이농업학교를 폐지하고 1923년 육성학교를 부설하였다가 1925년에 폐지하였으며, 1929년 광주학생운동 때에는 전교생이 동맹 휴학하여 10여 명이 무기정학 처분을 받고 1명은 붙잡혀 옥사하였다. 1938년 금산제일공립심상소학교로, 1941년 금산중앙공립국민학교로 개칭되었고, 광복 당시의 재학생은 2,000여 명, 졸업생은 약 3,000명이었다.
1945년 11월에 3개 학급을 분리하여 금산국민학교를 분리하였고, 1947년에는 2개 교실을 할애하여 금산고등공민학교를 발족하게 하여 오늘날의 금산중·고등학교로 발전하였다.
1962년에는 재학생이 3,000여 명으로 증가되자 분교를 설립하였다가, 1963년에 5개 학급을 분리하여 현재의 금산동국민학교를 발족하게 하였다. 1996년 3월에 금산중앙초등학교로 교명을 변경하였다. 1999년 9월 1일 석동 분교장과 통폐합되었다.
2007년 3월 16일 개교 100주년 기념식이 있었으며, 2008년 3월 1일부터 충남교육청 지정 학력증진연구 시범학교로 운영되고 있다.
2010년 현재 특수 1학급을 포함한 초등 17학급에 여학생 222명, 남학생 268명 등 총 490명이 재학 중이며 병설 유치원 3학급이 개설되어 남아 25명, 여아 25명 등 총 50명이 재원 중이다. 또한 교원 22명과 행정직원 6명 등 총 28명의 교직원이 재직 중이다. 교육지표를 “행복 ․ 보람 ․ 감동이 샘솟는 우리학교”로 삼아 ‘기초 ․ 기본 학력을 다지는 학생, 몸과 마음을 튼튼히 하는 학생, 자기의 문제를 스스로 해결하는 학생, 바르게 행동하고 공동체 의식을 키우는 학생, 소질을 계발하고 개성을 키우는 학생’을 교육목표로 하고 있다. 특색사업으로는 ‘그린마일리지 디지털 시스템 운영’과 ‘학생건강체력증진 프로그램(PAPS)' 등을 운영하고 있다.