도호부(都護府) 및 대도호부와 마찬가지로 군사적인 목적에서 국방상의 요충지에 설치된 것으로 이해되는데, 1107(예종 2)년윤관(尹瓘)의 여진(女眞) 정벌이 있은 후 이듬해 함주(咸州)에 설치한 대도독부가 유일하다. 그나마 설치 1년여만에 구성(九城)의 환부와 함께 폐지되었다.
그러나 『고려사』 백관지에 따르면 대도호부 및 목(牧)의 경우와 같이 관원으로 사(使 : 3품 이상), 부사(副使 : 4품 이상), 판관(判官 : 6품 이상), 사록겸장서기(司錄兼掌書記 : 7품 이상), 법조(法曹 : 8품 이상), 의사(醫師 : 9품) 및 문사(文師 : 9품)가 1명씩 두어졌다고 한다.
이에 앞서 후삼국 통일 직후인 940년(태조 23)경주를 대도독부로 삼은 바 있으나, 이 또한 오래 존속하지는 못했다.