1922년 2월 조선총독부가 제정한 제2차 조선교육령과 사범학교 규정에 의거하여 1923년에 평안남도 공립사범학교가 평양에 설치되어 특과(特科)와 강습과를 두고 주로 한국인 초등교원 양성교육을 실시하였다.
조선총독부는 1929년 4월에 조선교육령 중 사범학교에 관한 규정을 개정하여 각 도에 설치된 특과사범학교를 폐지하고 대신 각 도별로 심상과를 두는 관립사범학교를 설치하도록 하였다. 이 같은 조치에 따라 1929년 6월에 제1차로 관립평양사범학교가 신설되었다.
즉 1929년 6월 1일자 조선총독부 고시 제196호에 의거하여 평안남도 공립사범학교가 폐지되고, 관립평양사범학교는 본교의 신설에 대비하여 1929년 4월 그 자리에 경성사범학교가 미리 모집해 놓은 심상과 신입생 99명을 인수받아 1929년 6월 1일 개교되었다.
관립평양사범학교는 개설 당시 5년제의 심상과와 1년과정의 강습과를 두는 한편 특과를 1931년 3월 말까지 존속시켜 평안남도 공립사범학교의 특과 재학생을 대상으로 한 교육도 계속 실시하였다. 1933년 4월에 보통학교 교원의 학력 보충에 필요한 강습을 실시하는 강습과가 개설되어 같은 해 4월 12일에 63명의 강습과생이 입학하였다.
소학교와 보통학교 교원의 연수를 위한 강습과의 입학자는 도지사의 추천을 받은 자 중에서 선발하여 갑종 강습과와 을종 강습과로 편성, 운영되었는바, 갑종 강습과에는 사범학교의 심상과나 특과 졸업자와 소학교·보통학교 교원 제2종시험 합격자를 수용하고, 을종 강습과는 소학교·보통학교 교원 제3종시험 합격자를 수용하였다.
1938년 4월에 2년제의 연수과(演修科)가 개설되어 심상과 수료자를 수용하여 초등교원 양성의 완성교육이 실시되었다. 1940년에는 1년제의 특설강습과가 개설되어 고등소학교(2년제)졸업 정도의 학력을 가진 14세 이상인 자를 대상으로 한 초등교원 양성교육도 실시되었다.
조선총독부가 1943년 3월에 단행한 사범학교 제도의 개편에 따라 평양사범학교는 1944년 4월에 본과(3년제)를 설치하여 전문학교 수준의 사범학교로 개편되었다. 이에 따라 종전의 연습과는 폐지되고 연습과 재학생과 수료자는 본과의 과정에 편입되었다.
그리하여 광복 때까지 관립평양사범학교는 본과(3년), 심상과(5년), 강습과 등의 과정을 개설하여 소정의 초등교원양성 교육을 실시하였다.