이현상은 1949년부터 지리산지구에서 인민유격대 제2병단을 편성하여 활동하였으며, 6.25전쟁시에는 광범한 지역에 걸쳐 협동작전을 벌였다. 유엔군의 반격으로 다시 지리산지구로 잠입하여 활동하였으며, 1950년 11월에는 후평리에서 남반부인민유격대로 재편한 다음 남하하였다. 같은 해 12월 제천지구에서 조선인민유격대 남부군단으로 부대를 개편한 후 덕유산일대에서 활동하였다. 이현상은 남부군단 총사령관의 직함으로 1951년 7월 중순부터 남한일대의 유격부대들을 총지휘하였다. 이들은 주로 지리산, 백운산, 덕유산 일대를 중심으로 활동하였으나, 한국군 백야전전투사령부 등의 토벌작전에 의해 대부분 토벌되었다.
이현상은 1950년 11월 중순 유격대를 지휘하여 강원 후평리로 후퇴하였다. 여기에서 그는
이승엽 등과 남한지역의 당사업과 유격투쟁에 관한 문제를 토의했다. 이승엽은 6개 도당(충남북, 전남북, 경남북)에 대한 지도권한을 여운철에게 위임했고 이현상에게는 유격대의 통일적 지도를 맡겼다. 이현상은 후평리에 집결된 유격대로 남반부인민유격대를 조직하여 다시 지리산을 향했다. 이때 편성된 인민유격대는 유리사단(4백명), 혁명지대(60명), 인민여단(1백50명)과 사령부 및 기타 직속부대(1백50명) 등 약 8백 명의 병력이었다.
남반부인민유격대는 중공군 참전으로 1950년 12월 태백산맥을 타고 침투했다. 12월말에는 충북 단양을 거쳐 문경경찰서를 습격한 후 그 일대에서 유격전을 전개했다. 이현상은 제천지구로 이동하여 ‘조선인민유격대 남부군단’으로 부대를 다시 개편했다. 이 남부군단은 1951년 2월초에 속리산을 거쳐 덕유산으로 들어갔다.
덕유산에 들어간 남부군단 총사령관 이현상은 여운철과 함께 1951년 7월 중순 충남북, 전남북, 경남북의 6개 도당회의를 열기도 했다. 이후 남한일대의 유격투쟁은 이현상이 총지휘하게 되었다. 남부군단 예하에는 제1전구(전북의 북부지구와 충남)와 제2전구(전북의 남부지구)가 있었다. 제1전구에는 충남 빨치산 5백 70명을 68사단으로, 전북북부지방 빨치산 7백 명을 45사단으로 각각 개편했다. 제2전구는 전북 남부에 있는 각 유격대를 46사단, 53사단으로 개편했다. 직속부대로는 81사단, 92사단, 602사단이 있었다. 이들은 지리산에도 병기수리소를 설치하여 하루에 1천발의 탄환을 만들었으며 병원시설도 있을 만큼 체계를 갖추고 있었다. 1951년 7월부터 노동당은 남한지역에서 제2전선 역할을 담당하고 있던 각 지대유격대 체제로부터 당 사업을 주로 하는 지구당 체제로 개편하는 조치를 취하였다.
남부군단 예하의 지리산 빨치산은 남부군의 직속부대인 제81, 제92사단과 경남도당 사단인 제57사단, 그리고 전북도당 사단들이 주류를 이루고 있었다. 이들은 여순 10.19사건 당시 반란군 출신 중 생존해 있던 인원과 북한군 전투부대의 낙오병들로 주로 구성되어 있었다. 이들은 비교적 전투경험이 많은 병력들로 이루어져 있었기 때문에 한국군으로서는 큰 부담이었다. 이들은 지리산을 중심으로 백운산과 덕유산 등 험준한 산악지대에 거점을 두고 한국군과 유엔군의 보급로 차단, 식량약탈, 지서습격, 차량기습, 통신망 절단, 살인, 방화 등을 자행하였으며, 이들의 행동은 전후방 한국군 전투력에까지 영향을 주었고 민심을 크게 동요시켰다.
한국군은 남부군을 토벌하기 위하여 2개 사단 규모의 토벌부대를 편성하여 제1군단장 백선엽 소장을 사령관으로 하는 군단급 ‘백야전전투사령부’ 창설을 명령하였다. 토벌작전이 개시되자, 기동타격부대는 지리산을 남북으로 양분하여 북쪽은 제8사단이, 남쪽은 수도사단이 담당하여 공비 주력을 타격하였고 저지부대는 빨치산의 퇴로를 차단하였다. 백야사 예하 부대들은 지리산, 백운산, 덕유산 일대 전투부대를 동시에 투입하여 대부분 토벌하였고, 핵심지도자 대부분을 사살하거나 포획하였다. 백야사의 전과는 작전기간 동안 사살 포로 투항 등을 포함하여 1만 6천여 명에 달했고 노획무기도 3천여 정을 상회하였다.
6.25전쟁 기간 이현상이 이끄는 남부군단은 지리산, 덕유산 일대에서 한국군과 유엔군의 후방을 교란하여 전체 전선에 큰 영향을 미쳤을 뿐만 아니라 한국군과 국민들의 사기를 크게 저하시켰다. 이들은 결과적으로 한국군이 빨치산 토벌작전을 위해 군단급 규모의 부대를 전선에서 이동시키게 하여 한국군의 전투력을 분산시키는 역할을 수행했다.