1908년 7월 사립 계명학교(稽明學校)로 설립되어, 초대교장에 민인호(閔仁鎬)가 취임하였다. 1911년 2월 색동리의 환아정(換鵞亭)으로 교사를 이전하였으며, 1912년 사립보통학교로 인가되었다가 다시 공립으로 이관되어 같은해 5월 산청공립보통학교로 개칭하였다.
당시 3학급에 재학생 79명, 교원 3명이었으며, 1924년 산청공립속수학교(山淸公立速修學校)를 부설하였다. 1936년 사설강습회가 개설되었고 1938년에 산청공립심상소학교, 1941년 산청읍내공립국민학교로 교명을 개칭하였다.
광복 당시 15학급에 재학생 927명, 교원 16명이었으며, 1949년 9월 교명을 산청공립국민학교로 개칭하였다가 그 뒤 산청국민학교로 변경하였다. 1996년 3월에 산청초등학교로 교명을 변경하였다.
2008년 현재 18학급에 재학생 420명, 교원 49명이다. 졸업생은 94회 총 1만 3,263명이 배출되었다.
‘미래사회를 준비하는 건강하고 참되며 슬기로운 어린이’라는 교육목표 아래 100대 교육과정우수학교, 특성화 교육 으뜸학교, 진주교육대학교 실습협력학교로서의 위상과 면모를 다지고 있다.