1937년부터 1938년 11월까지 동북항일연군 제2군 제6사 제7단에서 정치위원으로 활동했다. 이 사이 남만주(南滿州) 장백현(長白縣)과 국내의 함경남도 보천군 일대에서 재만조선인조국광복회를 결성하기 위한 활동에 종사하는 한편, 장백현을 근거지로 한 유격투쟁에도 참가하였다.
1940년 3월 화전현(樺甸縣) 두도류하(頭道溜河)에서 중국공산당 남만성위원회와 동북항일연군 제1로군의 주요간부들이 참가한 제2차 두도류하회의가 열렸다. 이 때 남만성위원회 산하에 오성륜(吳成崙)을 책임자로 하는 지방공작부를 두고 그동안 일제의 공세에 밀려 홀시했던 지방공작을 활성하시키기로 결정하였다.
지방공작부에서는 김재범을 책임자로 하는 5명을 동만주(東滿州)지방에 파견하였다. 이들은 연길현(延吉縣) 동북사(銅佛寺) 일대에서 활동했지만, 얼마되지 않아 제1로군 경위려 제3단의 단장인 김백산(金白山)의 밀고로 체포되었다. 이들의 체포로 인해 소련으로 월경하려고 하던 제1로군 대원들은 암호문을 전달받지 못해 월경과정에서 고초를 겪기도 하였다.