거란의 1차침입을 물리친 고려가 재침에 대비하여 중앙집권적인 지방통치질서를 강화할 목적으로 995년(성종 14) 당나라의 제도를 모방하여 전국을 10도(道)로 나누고 각 지방을 절도사·도단련사(都團練使)·단련사(團練使)·방어사(防禦使)·자사(刺史) 등의 군사적인 절도사체제로 개편할 때 이전의 12목(牧)을 12주(州) 절도사로 바꾸고 각 주에 하나의 군(軍)을 두었다.
안절군은 하남도(河南道)에 속하는 공주에 설치된 것이다. 이후 거란의 2차침입을 물리칠 때까지는 존속하였지만, 1012년(현종 3) 전쟁의 피해를 복구하고 행정적인 지방조직으로 환원하기 위하여 절도사를 폐지, 전국을 5도호(都護)·75도안무사(道安撫使)로 개편하면서 안절군도 소멸되었다. 거기에 소속된 군인은 광군(光軍)과 함께 지방군인 주현군(州縣軍)을 형성하는 근원이 되었다.