고려시대에 장주 또는 가림(窕特)·단곡(端谷)이라고 불렀는데 1012년(현종 3) 성을 쌓고 장주방어사(長州防禦使)를 두었다. 그 뒤 한때 원나라가 설치한 쌍성총관부(雙城摠管府)의 통치를 받기도 하였으나 얼마가지 않아 수복된 뒤, 현(縣)이 되어 정평도호부에 예속되었다.
1442년(세종 4) 장곡사(長谷社)를 두었다. 이곳은 장계천(長溪川) 상류의 좁고도 긴 골짜기를 차지하였는데, 고려시대에는 국경 요지로 중요시되었고, 조선시대에는 낭림산맥(狼林山脈)을 넘어 관서지방으로 넘어가는 기점이 되었다.