1907년 3월 1일 김영진이 당시 여산군 향청(鄕廳)건물을 활용하여 사립호산학교를 설립하였다. 1909년 3월 1일 김문환이 사립보성학교를 설립하였다. 1909년 8월 1일 이 2개의 사립학교를 합병하여 사립호성학교라 칭하였다. 1912년 5월 1일 여산공립보통학교 설립인가를 받았다. 1946년 5월 31일 여산국민학교로 개명하였다. 1963년 3월 1일 32학급 규모의 학교가 되었다. 1965년 3월 2일 4학급 규모의 여산남분교를 개교하였다.
1967년 3월 1일 여산남분교를 9학급 규모의 여산남국민학교로 승격 분리하였다. 1972년 3월 7일 3학급 규모의 여산서분교를 개교하였고, 1976년 3월 1일 여산서분교를 7학급 규모의 여산서국민학교로 승격 분리하였다. 1981년 3월 9일 1학급 규모의 병설유치원이 개원하였다. 1996년 여산초등학교로 개명하였다. 농촌 학생 수 감소로 인하여 2009년 3월 1일 여산남초등학교와 여산서초등학교 2개교를 본교와 통폐합하였다.
교훈은 ‘슬기롭고 바르고 튼튼하게’이며, 학교를 상징하는 나무는 느티나무, 꽃은 개나리, 새는 까치이다. 2010년 3월 현재 학생 수는 11학급 198명이다. 유치원은 1학급 16명이다. 총교직원 수는 24명이고, 일반교사 수는 10명이다. 2010년 2월 제96회 졸업식을 하였고, 총 누적졸업생 수는 약 9,518명이다.