고려는 995년 10도(道)의 설치와 동시에 당나라의 제도를 모방하여 절도사·도단련사·단련사·자사·방어사 등의 군사적인 절도사체제의 지방제도를 실시하였는데, 성종초에 두었던 12목(牧)을 12주 절도사로 개편하고, 여기에 절도사를 장관으로 하는 12군을 설치하였다.
이 때 영남도(嶺南道)에 속하는 상주절도사에 귀덕군을 두었다. 그 성격은 5도호부(都護府)가 국경지에서의 국방에 중심을 두고 있는 데 비해서 귀덕군을 위시한 12군은 국내에서의 호족세력의 견제를 위한 것이라고 할 수 있다.
1005년(목종 8) 도단련사·단련사·자사 등을 혁파하였고, 이어 1012년(현종 3)에 절도사마저 혁파하여 5도호·75도안무사(按撫使)를 설치, 군사적 감찰기관에서 행정적인 지방관제로 전환하였다.
이 때 상주절도사도 혁파되고 대신 안동대도호부가 설치되었고, 귀덕군을 비롯한 12군에 배치되었던 군대는 지방군 조직 속에 흡수되어 그 일부인 보승(保勝)과 정용(精勇)이 되어 광군(光軍)과 함께 고려 주현군(州縣軍)의 2대근원이 되었을 것으로 추정된다.