아호는 성재(誠齋)로 함경남도 단천 출신이다.
8세 때부터 향리 대성재(大成齋)에서 한문을 수학하였다. 18세 때 지방관장의 잔심부름을 하다가 서울에 올라와 이용익(李容翊)의 소개로 군관학교에 입학, 졸업 후 육군 참령(參領)을 지냈다.
1907년 7월 한일신협약에 의해 한국군이 강제로 해산될 당시까지 참령으로서 강화진위대(江華鎭衛隊)를 이끌어 왔다. 일제의 강압에 의한 군대해산에 분노, 1909년 3월 군대동지 연기우(延其羽)·김동수(金東秀) 등과 더불어 강화도 전등사에서 의병을 조직할 계획을 세우다가 잡혀 유배되었다.
그러나 미국인 선교사 벙커(Bunker,D. A., 房巨)의 활약으로 10월 초순경 풀려나왔다. 이 해에 이동녕(李東寧)·안창호(安昌浩) 등과 신민회(新民會) 산하 무관학교와 독립군기지를 물색하기 위해 만주 일대를 답사하였다. 또 신민회 간부로서 개화운동과 항일투쟁을 벌였다. 1911년에는 윤치호(尹致昊)·양기탁(梁起鐸) 등과 105인사건에 연루, 투옥되었다가 무혐의로 석방되었다.
한편, 이동휘는 무관 출신이긴 했으나 교육문화 사업에도 적지 않은 활동을 하였다. 강화도진위대장으로 있으면서도 미국인 선교사 벙커와 박능일(朴能一) 목사를 움직여 강화도에 합일학교(合一學校)를 설립하였고, 개성·평양·원산 등지에도 여러 학교를 설립하였다.
또한, 민족계몽을 위한 단체로서 1906년 오상규(吳相奎)·유진호(兪鎭浩) 등 함경도 출신 청년들을 중심으로 한북흥학회(漢北興學會)를 조직, 1908년 서우학회(西友學會)와 합하여 서북학회(西北學會)로 발전시켰다. 1915년경 노령(露領)으로 망명, 그곳에서 한인사회당(韓人社會黨)을 조직하였다.
1919년 8월 말경에는 김립(金立)의 사위인 오영선(吳永善)을 데리고 대한민국임시정부의 국무총리에 취임하기 위해 상해(上海)에 도착하였다. 취임 후 자파 세력을 확장하기 위해 민족진영의 인사까지도 끌어들여 1920년 봄 공산주의자그룹을 조직하였다.
이것의 발전 형태로서 1921년 종래의 한인사회당을 고려공산당(高麗共産黨)으로 개칭하였다. 국무총리직에 있는 동안 모스크바의 레닌으로부터 200만 루블의 원조를 받았으며, 그 중 40만 루블을 고려공산당 조직기금으로 쓴 일이 임시정부에 발각되어 사임하였다.
한편, 만주·간도 방면의 독립운동 무장단에도 일찍부터 관심을 가져서, 1920년 말에는 간도의 독립군이 일본에게 쫓겨 밀산(密山)을 거쳐 시베리아의 이만으로 퇴각할 때 긴급구호금으로 1만 원을 보냈다.
비록 공산주의운동의 선구적 활동을 하였으나, 이동휘의 근본적인 사상에는 무엇보다 반일민족독립이 최우선에 놓여 있었다. 이동휘 자신도 “공산주의가 무엇인지 아무것도 모르는 인물이었다.”라고 스스로 고백한 바 있다.
이동휘는 오직 반일민족독립운동의 숙원을 이루기 위한 한 방편으로서 소련 정부와 제휴한 민족주의적 혁명운동자라고 할 수 있다. 대한민국임시정부 국무총리를 사임한 이후 시베리아에서 죽었다.
1995년 대통령장이 추서되었다.