사병은 국가의 공적(公的)인 군제(軍制)에 포함되지 않고, 특정한 개인 또는 집단에 사적(私的)으로 예속되어 있는 무력집단이다. 족병(族兵)·가병(家兵) 등으로도 불리며, 주로 가노(家奴)나 유민(流民)로 구성되었다. 9세기 말 중앙정부의 통제력이 약화되자 각지의 호족들이 유민들을 모아 조직하였다. 고려 정부는 중앙집권화정책을 추진하여 호족들의 사병을 해체하였는데, 무신란 이후 무신들이 다시 사병을 양성하였다. 조선이 건국된 직후에 의흥삼군부를 설치하여 사병을 혁파하고자 하였으나 제2차 왕자의 난 이후에 이방원에 의해 혁파되었다.
한편, 9세기 말 진성여왕(眞聖女王) 때부터 중앙정부의 지방에 대한 통제력이 이완되자, 각지의 호족(豪族)들은 성주(城主) · 장군(將軍) 등을 자칭하면서 초적(草賊) · 유민들을 모아 사병을 조직하고 중앙정부에 대항하였다.
고려의 후삼국 통일 뒤에도 호족들은 자신의 사병을 그대로 유지하면서 독립된 세력을 이루고 있었으므로, 고려 정부에 커다란 위협이 되었다. 더구나 이들은 독자적으로 병부(兵部)를 두고 그 아래 병부경(兵部卿) · 연상(筵上) · 유내(維乃) 등의 관직을 설치해 사병을 조직화하고 있었다.
이에 고려 정부는 중앙집권화정책을 꾸준히 추진하면서 호족들의 사병을 해체시켜 나갔다. 983년(성종 2) 향직(鄕職)을 개정해 호족들이 설치했던 병부를 사병(司兵)으로 고치고, 병부경 · 연상 · 유내를 각각 병정(兵正) · 부병정(副兵正) · 병사(兵史) 등 향직으로 바꾸어 호족들의 사병을 향직제도 안으로 흡수, 이를 해체시키려 하였다. 987년에는 주(州) · 군(郡)의 병기(兵器)를 거두어 농기구를 만들도록 하여 사병의 병기를 회수하기도 하였다. 이러한 정책은 이후에도 계속되어 호족의 사병은 점차 소멸했던 것으로 보인다.
그러나 무신란(武臣亂) 이후 집권무신을 중심으로 다시 사병이 양성되기 시작하였다. 무신정권(武臣政權) 초기에는 주로 악소(惡小, 惡少) · 가동(家僮) · 문객(門客) 등이 그들의 사적인 무력 기반을 이루었다. 1179년(명종 9) 경대승(慶大升)이 자신의 신변 보호를 위해 백 수십 명 규모의 도방(都房)을 설치하였다. 이로써 처음으로 조직적인 사병집단이 출현하게 되었다. 도방은 경대승의 죽음과 함께 해체되었다.
그러나 1200년(신종 3) 최충헌(崔忠獻)에 의해 더욱 확대된 규모로 재건되었다. 주로 그의 문객으로 구성되었으며, 3천명에 이르는 큰 규모였고, 6번(番)으로 나뉘어 있었다. 이 밖에도 최씨 정권은 야별초(夜別抄) · 마별초(馬別抄) 등 별초군(別抄軍)을 두어 자신의 무력 기반으로 삼았다. 별초군은 국가로부터 녹봉을 받으면서 치안 · 국방 등의 임무를 수행하는 공적인 군대였지만 실제로는 도방과 함께 최씨 정권의 사병 노릇을 하였다. 이에 이르러 고려의 군사제도는 유명무실해지고 무신정권의 사병이 가장 유력한 군사력이 되었다.
그러나 이러한 사병 조직은 무신정권의 붕괴와 동시에 모두 해체되었다. 이후 고려 말에는 홍건적(紅巾賊)이나 왜구의 침략이 빈발해 중앙정부가 군사권을 장악하지 못하였다. 이에 여러 장수들에게 군대의 징발과 통수권을 위임하였는데, 그들이 각지의 군사들을 자신의 사병처럼 예속시키게 되었다. 당시의 장수들은 패기(牌記), 즉 군사들의 군적(軍籍)을 관장하면서 이를 사병화해 자신의 무력 기반으로 삼았다. 한 예로 이성계(李成桂)의 무력 기반은 그가 함경도 지방에 있을 때부터 거느렸던 사병집단이었다.
조선이 건국된 직후에는 이러한 사병을 혁파하기 위해 의흥삼군부(義興三軍府)를 설치하고 군사권의 통제를 꾀하였다. 그러나 종친(宗親)과 훈신(勳臣)들의 사병은 혁파하지 못하였고, 이 때문에 1398년(태조 7)과 1400년(정종 2)의 두 차례에 걸친 왕자의 난이 일어나게 되었다. 제2차 왕자의 난 이후 실권을 장악한 이방원(李芳遠)은 국왕과 세자의 시위(侍衛)를 제외한 모든 사병을 혁파하였다.