1907년 2월 10일 거제사립보통학교가 2년제로 설립되었다. 거제사립보통학교는 1911년 4월 8일 4년제의 거제공립보통학교로 바뀌었다. 조선총독부의 사립학교 통제강화와 사립의 공립화 추세에 따른 것이다. 1946년 거제국민학교로 개칭되었다.
1995년 12월 29일 개정된 「교육법」에 따라 1996년 3월 1일거제초등학교로 이름을 고쳤다.
1998년 3월 1일 산달초등학교를 분교로 편입시켰다가 2003년 3월 1일 산달분교를 폐교하여 통합시켰다. 1999년 3월 1일에는 법동초등학교를 분교로 편입하였다가 9월 1일 법동분교를 폐교하여 거제초등학교에 통합시켰다. 2007년 5월 19일 개교 100주년 기념행사를 하였다. 2007년 9월 21일 거제초등학교 본관 건물이 등록문화재(현, 등록문화유산)로 지정되었다.
교훈은 ‘큰 꿈과 바른 마음을 지닌 건강한 어린이’이며, 교목은 은행나무, 교화는 동백이다. 교육목표는 ‘기본 생활습관과 기초 학력이 바로 된 당당한 어린이, 창의력과 특기를 가진 똑똑한 어린이, 몸과 마음이 건강한 어린이’를 육성하는 것이다. 중점 교육 활동은 기초와 기본 학력 신장, 사고력 신장을 위한 독서와 논술 교육, 학교체육을 활성화한 체력 향상에 두었다.
2010년 3월 현재 1개 특수반을 포함하여 15학급에 학생 344명, 유치원 2개 학급 29명이며, 교직원은 31명이다. 2010년 2월 제101회 졸업식을 하였고, 총 11,633명의 졸업생을 배출하였다.