본래 고구려의 비열홀군(比列忽郡)이었는데, 신라 진흥왕 때 이곳에 군주(軍主)를 두어 비열주(比列州)라 하였다. 일설에는 신라의 기림왕이 이곳에 들렀을 때 낙랑ㆍ대방의 많은 백성이 귀순하였고, 소지왕은 이곳을 순행(巡幸)하였다고 한다. 이로 미루어 이곳은 진흥왕 이전부터 신라의 영토였던 것으로 보인다.
문무왕 때비열정(比列停)으로 바꾸어 총관(摠官)이 다스리게 하였는데, 이는 당시 이곳이 신라의 북쪽 경계지였으므로 군사상 중요시되었기 때문이다. 경덕왕 때 삭주(朔州) 관할의 삭정군(朔庭郡)으로 고치고 서곡(瑞谷: 지금의 안변군 서곡면)ㆍ난산(蘭山)ㆍ상음(霜陰: 지금의 안변군동쪽)ㆍ청산(菁山: 지금의 안변군 남쪽)ㆍ익계(翊溪: 지금의 안변군 남쪽) 등 다섯 개의 속현을 두었다.
신라 효소왕 때 쌓은 학성(鶴城)은 주위가 3,930척이 된다고 하였다. 고려 때까지 이곳에 읍성(邑城) 외에 세 개의 성을 쌓았다. 역사적으로 말갈ㆍ여진ㆍ거란ㆍ몽고ㆍ왜구 등 수없이 많은 외적이 침입하였다.