1907년 12월 거창향교에서 신교육 실시를 목적으로 사립학교의 설립인가를 받았다.
1908년 5월에 사립 거창보통학교로 개칭하고 7∼12세 되는 학도를 모집, 4년제 보통교육을 실시하였다. 1911년 5월에 공립으로 인가되어 같은 해 6월 4학년 학생들로 첫 입학식을 가짐으로써 정규 학교로 개교하게 되었다.
1912년에 제1회 졸업생 18명을 배출하였으며, 교과과정은 국어·수신·일본어·한문·산술·도화·체조·창가였고, 3·4학년에게 농업·이과 등을 추가로 가르쳤다. 1915년 2윌에 현재의 위치로 이전하고, 1921년 4월 6년제로 인가되어 각 학년 한 반씩 6학급으로 편성되었으며, 일본역사·지리·재봉 등이 5·6학년에 첨가되었다.
1938년에 거창읍심상소학교, 1941년에 거창읍공립국민학교 등으로 개칭되었다가 1945년 10월에 거창공립국민학교로 재개교하여 이듬해 거창국민학교로 개칭하였다. 1950년대 중반 이후 학생 수가 점차 증가해 1964년 41학급, 1974년 50학급까지 편성되었다가, 1976년 3월에 학생 과밀로 1∼4학년 12학급을 창동국민학교(昌東國民學校)로 분리하였다.
1974년에 특수학급을 1984년 9월에 병설 유치원을 설치하였으며, 1996년 3월에 거창초등학교로 교명을 변경하였다.
2008년 현재 31학급 852명이 재학중이며, 교원은 61명, 졸업생은 96회 총 2만 5,112명을 배출하였다. ‘아름다운 마음씨를 지닌 지혜롭고 건강한 어린이’라는 교육목표 아래 정직하고 예절 바르며 이웃을 생각하고 더불어 살아라는 어린이와 스스로 공부하고 탐구하며 꿈을 가꾸는 슬기로운 어린이, 몸과 마음이 튼튼하며 긍정적인 생활 태도로 실천하는 어린이를 육성하기 위해 교육력을 모으고 있다.