정3품 당하관으로부터 종6품 참상관에 이르는 중견무관들 중에서 임명되었다. 태조 때의 의흥친군위(義興親軍衛)와 태종 때의 삼군진무소(三軍鎭撫所)·오위진무소·의금부 등에 설치되었다.
1400년(정종 2)에는 궁중의 경호를 위하여 궐내에 설치되기도 하였으나, 본격적인 활동을 한 것은 1409년(태종 9) 삼군진무소가 설치되면서부터였다. 여기에는 도진무(都鎭撫)·상진무(上鎭撫)·부진무(副鎭撫) 각 1인 외에 진무 27인이 소속되어 있었다. 이들은 병조의 낭관급으로 각종 군령을 수령, 전달하고 감독하는 임무를 담당하였다.
이들은 초기에는 승정원에서 직접 왕명을 수령하였으나 1418년 세종의 즉위와 함께 병조의 권한이 강화되면서 병조로부터 간접적으로 군령을 수령하게 되었고, 또 병조에서 직접 삼군부(三軍府)에 군령을 전달하는 관례가 생기면서 그 기능이 크게 위축되었다.
1457년(세조 3) 삼군진무소가 오위진무소로 개편되고, 1466년 다시 오위도총부로 개편되면서 그 명칭이 사라지게 되었다.