1895년(고종 32)에 창설되어 참령(參領)이 주관하였다. 1894년에 신식군대인 훈련대(訓鍊隊)가 조직되었으나, 이에 편입되지 못한 구식군대를 중심으로 13개의 신설대(新設隊)가 편성되었는데, 이 가운데 3대가 마병(馬兵)으로 편제되었고, 이 마병이 이듬해에 기병대로 개편되었다.
마병 3대는 2개 대대로 편제되었고, 장교 70명, 병졸 800명으로 구성되었으며, 중앙군의 후비군(後備軍)에 속하였다. 그러나 기병대는 을미사변 이후 훈련대가 친위대(親衛隊)로 개편되면서 이에 흡수되어 폐지되고, 1896년 친위대 안에 친위기병중대와 치중마병대(輜重馬兵隊)로 재편성되었다.
더욱이 궁성호위를 목적으로 설립된 시위대(侍衛隊)가 1897년에 증강되자 마침내 기병대도 1900년(광무 4)에는 시위대에 예속되었다. 여기에서 시위기병대대로 발전됨으로써 명실상부한 우리 나라 최초로 독립부대로서 근대적 기병대로 개편된 것이다.
기병대대는 4개 중대로 이루어졌고, 1개 중대는 4개 소대로 편제되었으며, 참령인 대대장을 비롯하여, 장교 80명과 병졸 328명으로 구성되었다. 특히, 여기에는 1개 군악소대가 배속되어 있었다.
그러나 이같은 기병대대는 러일전쟁에 승리한 일본에 의해 1개 중대로 감축되었으며, 1개 소대로 잔존했던 군악소대도 폐지되었고, 마침내 1907년 일본의 강제군대해산으로 완전히 사라지고 말았다.