1394년(태조 3) 판의흥삼군부사 정도전(鄭道傳)의 건의에 따라 각 도에 절제사·부절제사·검할사(鈐轄使)와 주군(州郡)에 단련사(團練使)를 두고 그 아래 단련판관을 두었는데, 대개 5·6품의 수령이 이를 겸대하였다.
그 뒤 1466년(세조 12) 진관체제(鎭管體制)에 의하여 거진(巨鎭)을 중심으로 이루어진 지역단위 군사조직의 말단으로 각 군현에 제진이 설치될 때 병마절제도위(兵馬節制都尉)로 개칭되었다.
그리고 제진 가운데 동첨절제사를 수령인 군수가 겸한 예와 같이, 병마절제도위 또한 동반의 수령인 현령·현감이 겸하도록 하였다.