본관은 문화(文化). 평안북도 박천 출신. 호는 춘교(春郊). 아버지는 유종정(柳淙楨)이다.
1894년(고종 31) 일본으로 건너가 세이쇼학교(成城學校)를 거쳐 1903년 일본 육군사관학교를 졸업했다. 졸업 이후 일본 근위사단에서 실무경험을 쌓고, 1904년 러일전쟁 때 대한제국 파견 무관 자격으로 일본군에 종군하여 선천 부근에서 러시아군과 싸우기도 했다. 서울에 주둔해 있던 일본군 6군사령부에서 근무하다가 대한제국군에 복귀하였다.
대한제국군 무관학교와 유년학교 교관을 지내고, 1905년 군무국으로 전속된 뒤 참령(參領)으로 승진하여 시위대 기병대장과 참모국 제2과장을 지냈다. 1907년 8월 대한제국 군대가 강제 해산되자 지하운동을 시작했다. 이때 안창호(安昌浩) 등이 주도한 신민회의 반일운동에 참여하였으며, 서북학회(西北學會)를 통해 계몽운동도 전개했다.
1911년 소위 ‘105인사건’에 연루되어 1심에서 10년, 2심에서 무죄를 선고받았으나, 1년 6개월 간 복역했다. 1913년 출옥 후 만주로 망명해 주로 길림(吉林) 등지에서 독립운동에 참여했다. 1917년 노령 연해주 쌍성(雙城)에서 문창범(文昌範) 등과 전로한족회(全露韓族會)를 조직했다. 1918년에는 서일(徐一)의 중광단(重光團)에 가입했고, 1919년 2월 김동삼(金東三) · 김좌진(金佐鎭) 등과 「대한독립선언서」의 39인 중 한 명으로 참여했다.
국내외 임시정부 추진세력으로부터 신망이 높아 한성임시정부에서는 참모부총장, 노령 대한국민회의에서는 참모총장, 상해 대한민국 임시정부에서는 군무총장(초대)에 각각 임명되었다. 이후에도 노백린(盧伯麟)과 교대로 총장직을 수행했다. 한때 사회주의운동에도 관심을 보였는데, 1921년 이르쿠츠크에서 개최된 고려공산당대회(高麗共産黨大會)에서 중앙위원이 되었고, 1926년 중국 길림(吉林)에서 고려혁명당이 창당될 때 위원에 임명되었다. 그러나 1930년 임시정부로 복귀해 국무위원 · 군무부장을 지냈다. 1935년 난징(南京)에서 김규식(金奎植) · 지청천(池靑天) 등과 조선민족혁명당을 조직해 통일전선을 구축했다. 1938년 한국국민당 · 조선혁명당 · 한국독립당의 통합을 추진해 한국독립당 중앙집행위원에 임명되었다. 1945년 2월 신한민주당을 창당해 홍진(洪震)과 당을 이끌며 광복에 대비했다.
1945년 광복 후 귀국하여 미군정청 초대 통위부장(統衛部長)을 지냈고, 한국전쟁 때 74세로 납북되었다.
1989년 건국훈장 대통령장에 추서되었다.