当时大部队随六军军长夏云杰去打鹤岗。驻地仅有二三十人的警戒人员。经戴洪滨同志提议，让洼区区委书记李凤林同志把游击连和青年义勇军带来，集结了150余人。由李兆麟、戴洪滨率领，从浩良河东面上山出发，冒着零下三十多摄氏度的严寒，沿着汤旺河走了一天。当走到岔巴气地方，夜幕降临，趁黑夜活捉了木制岗楼里的两个伪警察。从中了解东岸有40多伪警察都住在大院套里，东院住有中队长黄毛、丁山、张保安，仅有一个岗哨。经过教育，这两个伪警察愿意为我军带路，六军四团团长戴洪滨、区委书记李凤林、连长刘世杰、洼区青年义勇军排长王钧等人押着这两个警察分别率部队摸到了北岸的警察大院，巧妙地解决了伪岗哨。李凤林机警地带着30多人冲到西院封住门窗，与此同时李兆麟、戴洪滨带着20多人闯入东院，敌黄毛等人见势不好，放下大烟枪（吸鸦片的工具），随手去取挂在墙上的匣枪，当即被李兆麟“砰”的一枪，把烟灯打掉在地，并用枪指着他们说：“不许动！你们的枪要拿出来打日本。”
这时窗外抗联战士的枪都从窗户伸了进来，同志们跳上炕取下来敌人的匣枪。几个曾威风一时的森林警察大队的中队长黄毛、丁山、张保安乖乖地当了俘虏。此时，西院的敌人也被顺利地解决了。李兆麟决定留少部分兵力守住岔巴气，封死山口，切断敌人的联系，余者直向南岔挺进。李兆麟让先头部队换上敌人的服装，乘着几张爬犁（雪橇），押着黄毛、丁山、张保安向南岔进发。途中迎面来了一张爬犁，走近才认出是戴洪滨家乡陈永山的儿子陈贵（是五炮宋喜彬派出来的哨兵），他告诉我军说五炮已带6个人出来巡视，很快就到。李兆麟决定叫黄毛、丁山坐在最前边的一张爬犁上，继续向前赶路。不大功夫，迎面来了一张爬犁，在距200米的地方停住了。对方高喊：“是什么人？”李兆麟用手枪顶着黄毛的背后，指令他回答说：“是自己人，你是老五吗？”五炮宋喜彬又问：“后边那么多的爬犁是干什么的？”黄毛忙答：“是山下送粮的。”瞬间李兆麟等乘坐的马爬犁有如离弦的箭一样奔向五炮。五炮还没有清醒过来就做了俘虏。经过我军教育，宋喜彬同意带路去缴南岔。到南岔，我军顺利地缴了南岔营地警察的械。在此地部队稍加休整，于次日3时，用最快的速度直捣距这里有500里路程的老钱柜。
这是在数九寒天里的一段艰苦的进军路程。战士们手脚冻麻了，就跳下爬犁跑一阵；饿了就啃几口冻饼子。由于宋喜彬（后参加我军，1938年9月在南岔一带被日寇包围，英勇战斗，壮烈牺牲）在前面起到了掩护作用，李兆麟同志指挥部队顺利地拿下老钱柜，森林警察一个个举手投降。后续部队到达后，迅即直捣老钱柜后边十几里路的日寇指挥部，消灭了森山大尉等7名日寇指导官。我抗联将士两天两夜，行程800里，彻底拔掉了在伊春沟里猖獗一时的森林警察大队这个钉子，胜利地结束了这场战斗。除于四炮（大队长）外出没有抓到，其余全被生俘，共缴获100多支枪、30多万发子弹，100多磅大烟土和几万斤米面。烧了敌人的大本营，遣散了伐木工人，从此抗联六军威名大震，汤原一带的抗日形势出现了新局面，成为我抗联三、六军的根据地。
为了斗争的需要，从抗联三、六军抽出一部分力量组成留守处，建立了许多密营，设立小型兵工厂、被服厂、仓库、医院。同时还设立了军政干部学校，赵尚志兼任校长，教育长是李兆麟。在3个地点办了3期学爬山、渡河、射击的训练班。除学习训练军事科目外，还学习马列主义政治课。三、六军师、团以上干部和地方主要领导人，都得到了轮训，为北满抗联各军培养了许多干部。
1936年9月18日，在汤原帽儿山北坡召开了珠河、汤原中心县委及三、六军党委联席会议，李兆麟被选为中共北满临时省委委员。同年冬，日本帝国主义为加紧对下江地区人民的反动统治，妄图扑灭正在兴起的人民抗日斗争的烈火，集中了大量伪军，抓了数百名民工，在铁力县境内的神树建造了一座大兵营。六军闻讯后，在一个大雪纷飞的深夜，李兆麟率六军200多名战士奇袭和破坏了这个兵营，打死日寇指挥官，消灭了这股伪军。
1937年，根据中共北满临时省委决定，东北抗日联军总司令部改为北满抗日联军总司令部，包括三、四、六、九、十一军，赵尚志仍为总司令，李兆麟任总政治部主任兼六军政治委员。“七七”事变后，日本关东军司令部狂妄地制订了3年内消灭我抗日联军的“肃正计划”，在司令长官山田乙三大将率领下，调集了日寇31个步兵师团（相当于军）、10个步兵旅（相当于师），还有伪军15个步兵师、15个骑兵旅等几十万人的兵力，又凭借两个航空军和两个装甲旅团的支援，以及汉奸特务警察来对我抗日联军和根据地人民实行疯狂的“围剿”及惨无人道的“三光政策”。我抗日联军损失严重，根据地党组织也受到极大的破坏，人民遭到残酷的屠杀。为保存实力，中共北满省委决定三江地区的抗联主力部队到小兴安岭西麓开辟新的根据地。李兆麟积极认真贯彻这一正确的西征决定。7月，抗联六军派出了西征先遣部队，六军军长戴洪滨率领二师、三师、四师和军部王钧为首的保安团开始进行西征。李兆麟率六军司令部和一师、五师及地方部队仍在下江地区坚持斗争，迷惑敌人，掩护部队西征。为了安定军心，他耐心帮助十一军军长祁致中和他领导的队伍，坚定地走上抗日救国的道路。六军西征先遣部队因与敌人力量相差悬殊，在海伦活动一个月后返回三江平原。
1938年初，李兆麟带领六军骑兵二师和梧桐金矿哗变出来的队伍，解决了东西梧桐河、东西杜鲁河、东西火烧营和老沟等7处敌人金矿区的重要据点，缴获许多战利品。在行军作战中他和战士们同甘共苦，替体弱战士背大枪、挎背包，休息时给大家讲故事、上文化政治课和教唱歌。
在敌人追围十分紧张、到处都有险情的情况下，一天，李兆麟对警卫员王琨严肃认真地说：“小王，我若是牺牲了，你千万要记住，不要让敌人得去我身边的皮包，你要把它送到北满省委去，因为皮包里有许多重要的党内文件。”为保护1938年4月在依兰县四块石西北青山里召开的中共北满临时省委第七次常委会议全体同志的安全，李兆麟率一部分队伍把敌人引向自己的方面来，边打边退，最后甩掉了敌人。之后又在率六军教导队向萝北、绥滨地区转移途中，在格金河打退了三四百名追击的敌人。
这期间，日本关东军又集中10万多兵力扫荡三江平原。抗联部队伤亡很大，曾先后有3名军长（赵尚志、戴洪滨、祁致中）过境而被苏军押审；有两名军长（谢文东、李华堂）投敌。北满抗联军以上干部只剩李兆麟一人。在遭受如此严重挫折的情况下，李兆麟独撑危局，担负起各军的指挥责任。他日夜奔波于松花江两岸，巩固了抗日联军的各部队并先后组织了3批部队西征，为保持抗联实力、创造新的根据地和游击区，做出了突出的贡献。
三江地区抗联主力于1938年7至8月间由冯志刚、陈雷、王钧、王明贵、金策等同志分别率领抗联队伍开始陆续西征时，为保证部队顺利西征，李兆麟率六军司令部仍在三江活动。他曾率领抗联战士在富锦境内，为四军留守处、十一军一师师长李景荫领导的300多名同志解了围。
1938年11月，党决定李兆麟率六军军部教导队和十一军李景荫部最后一批由富锦出发西征，当时不少战士冬服还没有穿上，李兆麟派部队袭击鹤岗市郊区的日本仓库，用缴回来的棉布、棉花带领同志们赶制棉衣100多套。山区乡亲们又送来不少套棉装，看到战士仍有没换上冬装的，不少乡亲把自己身上的棉衣脱下给子弟兵穿上。抗联战士感动得直流泪，更坚定了西征抗日救国的决心。西征途中，在百里不见人烟的林海雪原里，没过多久，战士们身上带的粮食就吃光了。李兆麟鼓励大家说：“同志们，为了抗日，我们必须保住生命。”他和大家一起吃干蘑菇、皮带和发霉的烂马皮。饥饿、严寒及长途跋涉，战士们都疲惫不堪，不少战士还没有到达西征的目的地，就长眠在皑皑白雪的林海里。有一位小战士小陈同志，平时好说好笑，这天在齐腰深的大雪里走着走着就一声不响地屹立在风雪中死去。每每出现这些不幸的情景，李兆麟都含着泪水小心翼翼地用雪掩埋好这些战友的遗体，悲痛地在风雪中继续率部前进。一天，零下40多摄氏度，在森林里露营。一个战士由于冻得神经错乱，一头扑到火堆里，当同志们把他拉出来时，这位战士已经牺牲了。以后每到露营时，李兆麟总是提醒大家不要离火堆太近。当大家入睡后，李兆麟不顾自己疲劳，在篝火旁一边同其他领导同志研究第二天的行动计划，一边往火堆里加柴。有时怕冻坏已经入睡的战士的身体，还把熟睡的战士叫醒起来活动活动再睡。在征途遇到困难的时候，他经常鼓励大家说：“我们的西征就快要到达目的地了，大家要坚持斗争，度过这黎明前的黑暗！”英雄的抗联战士在李兆麟率领下经过一个月的长途跋涉，冲破敌人重重包围，战胜饥饿和严寒，翻越崇山峻岭，踏平林海雪原，终于在1938年12月底到达小兴安岭西麓海伦境内的六军三师后方白马石，与王明贵等同志率领的西征先头部队胜利会师。在硝烟弥漫的抗战烽火中，在西征的艰苦岁月里，李兆麟亲身经历了抗联战士在春、夏、秋、冬四季变换中的艰苦作战生涯，于戎马倥偬中编写了一首用古曲《落花》调填词的《露营之歌》。这首歌，表达了全体抗联战士无论是在“暴雨狂风”的恶劣天气里，还是“足溃汗滴气喘难”的艰苦行军中；无论是处在“敌垒频惊马不前”的重重包围下，还是“冷气侵入夜难眠”的雪地露营时，都动摇不了誓同日寇血战到底“夺回我河山”的钢铁意志。
“铁岭绝岩，林木丛生，暴雨狂风，荒原水畔战马鸣。围火齐团结，普照满天红。同志们！锐志哪怕松江晚浪生。起来哟！果敢冲峰。逐日寇，复东北，天破晓，光华万丈涌。
……战士们高唱着《露营之歌》，驰骋在抗日烽火的岁月中，拼搏在抗日救亡的疆场上。这首歌在当年成为激励抗联勇士报国雪耻、英勇杀敌的有力的精神支柱。
1939年4月，李兆麟被选为中共北满省委常委兼任组织部长。5月，根据北满省委的决定，将三、六、九、十一军合编为东北抗日联军第三路军，李兆麟任总指挥，冯仲云任政委。三路军成立不久，李兆麟又编写了一首《三路军成立纪念歌》：
绚烂神州地，
白山黑水间。
8载余，强敌嚣张，铁蹄肆踏践。
中华民族遭蹂躏，
惨痛何堪言。
骨露原野，
血染白山巅。
义愤填胸，
揭竿齐向前。
誓驱倭寇，
团结赴国难。
民族自救抗日军，
铁血壮志坚，
杀敌救国复河山。
……
