고려시대에 변방에 외침이나 변란이 발생하였을 때 특별히 파견되어 병마(兵馬)를 통솔하고 적을 막도록 도병마사에 설치된 기구이다.
외침이나 변란 등 유사 시에 병마의 권한을 지고 임시의 군영에 파견되어 적과 전투를 지휘하는 임무를 가졌다. 기구의 구성은 위로는 재신(宰臣)이 임명되는 판행영병마사(判行營兵馬事)가 있고, 아래로 추밀(樞密)과 3품관이 주로 맡는 지행영병마사(知行營兵馬事), 행영병마판관(行營兵馬判官), 행영병마녹사(行營兵馬錄事), 행영병마별감(行營兵馬別監) 등이 있다. 조직은 병마사 기구와 거의 동일하다.
차이점은 병마사는 상설 기구로, 주로 3품관이 맡았고, 군사적 변란에 직접 대처하기도 하지만 필요한 사전 준비와 국경 획정, 성지(城池) 개척 등의 일을 주로 맡았다면, 행영병마사는 외침과 소요를 막기 위한 군사적 지휘 통솔의 역할을 맡았다.
한편 직무상 중복과 충돌 가능성도 있어 사안에 따라 재추의 지위에 있는 병마판사(兵馬判事)와 행영병마판사(行營兵馬判事) · 행영병마사를 파견할 때 어느 한쪽만 임명하는 경우가 많았다. 또한 병마판사가 행영병마사를 겸직하거나 병마사와 행영병마사직을 겸직하기도 하였으며, 병마사가 지행영병마사를 겸하게 하여 원할한 협조체제를 운영하도록 하였다.