본관은 전주(全州). 아버지는 이경하(李景夏)이며, 법부대신 및 주로공사(駐露公使) 이범진(李範晉)이 형이다.
1902년 6월 간도시찰원, 1903년 7월 간도관리사(間島管理使)가 되어 간도지방의 한인보호에 힘썼다.
특히, 사포대(私砲隊)를 조직하고 연발총을 비치하여 군사훈련을 시켰으며, 모아산(帽兒山)·마안산(馬鞍山) 및 두도구(頭道溝) 등에 병영을 설치하였다. 그래서 한인의 지위는 향상되었고 청국의 조세징수에서 벗어나게 되었다.
1904년 러일전쟁 중에는 500여 명의 부대를 이끌고 참전하여 일본군과 교전하였다. 이범윤의 부대는 사포대를 중심으로 이뤄졌고, 구한국군과 의병 출신들이 포함되어 있어 항일의식이 투철하였다.
1905년 청국측의 강력한 철수 요구를 받은 정부로부터 소환명령이 내려졌으나, 소환에 응하지 않고 청국령을 떠나 노령 연해주로 근거지를 옮겼다. 노령의 노키에프스크[煙秋]에서 부하들의 생계문제를 해결하면서 창의회(彰義會)를 조직, 부대를 재정비하였다. 노령에는 이미 많은 지도자들이 활동하고 있었는데 이범윤이 동의회(同義會) 부총장에 추대되었다.
1907년을 전후로 노령 내에서 확고한 위치를 점하여 가장 유력한 지도자의 한 사람이 되었다. 한인지도자의 최고 영수이며 자산가인 최재형(崔才亨, 일명 在亨)과 결의형제하고 최재형의 원조로 대부대의 의병부대를 편성하였다.
러시아와 청국을 통한 일본의 끈질긴 간섭에도 불구하고 3,000명의 부대원으로 1908년부터 국내진공작전을 폈다. 안중근(安重根)·전덕제(全德濟)·엄인섭(嚴仁燮) 등이 100명 내외의 소부대를 이끌고 작전을 펼쳐, 갑산·혜산진·무산·회령 등 국경일대의 일제기관을 공격하였다. 그 결과 많은 성과를 얻었으나 일본군의 총반격으로 큰 희생을 치르기도 하였다. 그 뒤 대종교에 입교하여 참교(參敎)가 되었으며, 민족의식은 더욱 강렬해졌다.
1910년 5월경 가쓰라[桂太郎] 등 일본의 요인을 암살할 계획을 세웠으나 실패하였다. 그 해 8월 일제가 한반도를 강점하자 유인석(柳麟錫) 등과 성명회(聲明會)를 조직하여 병합반대와 무장투쟁을 호소하였다. 9월에는 개척리(開拓里)에서 이상설(李相卨)·홍범도(洪範圖) 등과 함께 의병5군단(義兵五軍團)을 조직하고 계획을 세웠다. 그런데 이무렵 러시아당국의 취체가 심하여 한때 붙잡히는 등 큰 곤경에 빠지기도 하였다.
그러나 노령뿐만 아니라 간도 백초구(百草溝) 등지의 김창규(金昌奎)·박만흥(朴萬興)·노우선(盧禹善) 등 240여 명의 의병이 러시아식 연발총으로 무장하고 명령을 고대하고 있었다.
1911년 5월 블라디보스토크에서 조직된 권업회(勸業會) 총재로 추대되었다. 이 회는 유인석이 수총재(首總裁), 최재형·최봉준(崔鳳俊)이 부총재, 이상설이 의장, 홍범도가 경찰부장 등으로 구성된 전 노령 최대 최고의 한인기관이었다.
1912년 6월 이후에도 이범윤의 부대는 이근보(李根甫, 中軍)·최병준(崔秉俊, 部將)·허모(許某, 領將)·서상교(徐尙敎, 李의 書記) 등이 회령 등지에서 일본군을 공격하였다. 그리고 3·1독립운동이 일어나자 최재형·이동휘(李東輝)·김약연(金躍淵)·황병길(黃丙吉)·김영학(金永學) 등과 완전독립 쟁취를 위한 논의를 하였다.
4월부터 의병부대가 독립군으로 개편될 때 연길현(延吉縣)에서 진학신(秦學新)·최우익(崔友翼) 등과 의군부(義軍府)를 조직하고 총재가 되었다. 그 뒤 서일(徐一)의 북로군정서와 합동으로 무장투쟁을 본격화하였다.
1920년 김성극(金星極)·홍두식(洪斗植) 등이 조직한 대한광복단의 단장으로 추대되어 400여 명의 독립군을 통솔하였다. 일본군의 간도 출병으로 독립군이 일시 노령으로 근거를 옮겼으나 만주에 남아 계속해서 활동하였다.
청산리전투 후 서일·홍범도 등 각 군단 수령들이 전만군사통일체(全滿軍事統一體)를 조직하기로 하고 대한독립군단을 조직하였을 때 의군부도 가맹시키고, 서일의 뒤를 이어 총재로 추대되었다. 1921년 자유시참변(自由市慘變)으로 대한독립군단이 거의 전멸할 정도의 희생을 당하자 각 단은 독자적 정비에 들어갔다.
그리고 1924년 9월 해림(海林)에서 문창범(文昌範)·지청천(池靑天)·이동휘·최명록(崔明祿)·김좌진(金佐鎭)·김규식(金奎植)·현천묵(玄天默)·나중소(羅仲昭) 등과 군사연합회의준비회를 조직하고 회장에 추대되었다. 1925년 신민부가 조직되었을 때, 63세의 노령으로 참여하여 고문이 되었으며 그 뒤로도 각 단의 고문역을 계속하였다.
1962년 건국훈장 대통령장이 추서되었다.