정식 명칭은 함경도북도병마절도사영(咸鏡道北道兵馬節度使營)이다. 이는 1400년(정종 2)에 함경도병마절도영으로 개설되었다가, 1467년(세조 13)북청(北靑)에 남병영이 설치되면서 북도병마절도영으로 개칭되고 관할구역을 남병영과 분담하게 되었다.
여기에는 종2품 병마절도사 1인, 종3품 병마우후(兵馬虞候) 1인, 정6품 병마평사(兵馬評事) 1인이 파견되어 함경북도 지역의 방위를 담당하였다.
이 곳 는 1400년 설치 때부터 경성군의 수령(守令 : 지방행정관)직을 겸하였는데, 처음에는 판군사(判郡事)로 불리다가 1436년(세종 18) 도호부(都護府)로 승격되면서 판부사(判府事)로 개칭되었고, 뒤에 다시 도호부사(都護府使)로 개칭되었다.
북병사는 또한 함경북도수군절도사를 당연직으로 겸하였다. 북병영은 경원진·회령진·종성진·온성진·경흥진·부령진·훈융진(訓戎鎭)·동관진(潼關鎭)·고령진(高嶺鎭)·유원진(柔遠鎭)·미전진(美錢鎭) 및 조산포(造山浦) 등 거진(巨鎭)과 여기에 속한 여러 작은 진들을 관할하였다.
북병영은 조선 초기 6진개척의 보루가 되었고, 최전방사령부로서 여진족의 부단한 침입과 소요에 대응하여 방어하는 임무를 맡았다. 따라서, 북병사는 조선시대의 가장 중요한 무관직의 하나였으며, 여기에는 신망 있고 탁월한 무장들이 선임, 파견되었다. →병영