在当时，扩大武装的另一个办法是改编地方武装，为此有一些人就不顾条件地强制改编。为了使地方部队也能得到发展，罗荣桓强调，地方武装的升级，不能用“拔萝卜”的办法，连根拔掉，要留下根，保留好基础，向主力输送一批，地方可以接着再发展一批。
由于注意了调整关系，主力部队、地方部队都有所发展。到1940年9月，115师进入山东的686团和685团，在鲁南、鲁西、冀鲁边、苏鲁豫地区同山东纵队一些部队合编后，发展到19个团，共约4．2万人，地方部队也发展到2万人。人多枪多，力量壮大了，后劲也就足了，在鲁南站稳脚跟是不成问题的。
甲子山风云
在抗日战争时期，八路军同时面临着日伪军和国民党顽固派的进攻，为了使自己处于有利位置，团结国民党左派和其他进步力量，成了八路军的一项重要工作。在山东，能够成为八路军天然盟友的只有原东北军。从红军到达陕北后不久，红军和东北军就开始合作，这种合作最终促成国民党与共产党建立统一战线。115师到山东后，仍继续同东北军保持联系，开始时双方关系也相当不错。但是随着蒋介石发动第二次反共高潮，在山东的东北军内部发生了明显的分化，进步力量与反动力量之间展开了尖锐的斗争。
1940年9月，东北军第57军军长缪澄流与日军第21师团订立了反共投降密约，该军爱国将领第111师师长常恩多与第333旅旅长万毅（共产党员）率部发动了“九·二”锄奸运动，控制了57军军部（缪澄流逃脱），发表了抗日锄奸通电。但是东北军中的顽固势力，在蒋介石的支持下，不仅保护了缪澄流，而且加紧打击进步力量，指挥部队同八路军搞摩擦。1941年2月17日，第111师331旅旅长、坚持反共立场并同日伪军有联系的孙彩焕等，乘师长常恩多患肺结核病重之机，扣押了万毅。留在该师的其他共产党员，有的被迫撤离，有的被关押，有的竟被杀害。在孙彩焕等人的控制下，第111师不断与八路军滨海地区的部队发生摩擦。3月间，蒋介石给于学忠发来密电，要秘密处决万毅。但于学忠舍不得这员虎将，因此迟迟未予执行。7月间，蒋介石派特务到57军监斩万毅。在这危急时刻，常恩多决心不让第111师落入反动分子手中，就与于学忠总部的少将主任秘书郭维城紧急磋商，委托他率第111师的大部于8月3日摆脱国民党的控制。起事之前，郭维城秘密通知了在狱中的万毅，万毅逃出并到达山东分局的驻地。
8月4日，山东分局闻讯召开了紧急会议，研究对付“八·三”事变的政策。罗荣桓也参加了这次会议，并就这一事件的意义和应该采取的对策发表了意见。他指出，当前共产党的方针是“坚持抗战，反对投降；坚持团结，反对分裂；坚持进步，反对倒退”。对待国民党军队决不是要去进行分化和瓦解，但111师的事件是蒋介石分裂倒退政策逼出来的。事变的性质是正义的、进步的，是与全国人民的抗战、团结、进步的要求一致的。八路军必须予以支援。但这个师仍是一支旧军队，缺乏群众基础，加上整个东北军中反动势力很大，必然要镇压和分化这支部队。因此，在该部队可能出现混乱时，共产党应该从各方面支持他们。罗荣桓提议，派万毅和以前从这支部队撤出的地下党员王维平立即到111师去，与事变领导人一起稳定队伍。
虽然与会的大多数人支持罗荣桓的意见，可是仍有相当一部分人对如此处理存有疑虑。他们的理由是，从大局上看，共产党的主要方针是要与国民党进行合作，并且与东北军合作又是共产党统一战线的重点。一旦八路军在这一事件中陷得太深，就会与原东北军发生矛盾，使八路军在山东树敌太多，并给国民党反动派提供口实。
这些人的担心不是没有道理。在山东，共产党太需要同盟者了。如果八路军再失去东北军，那么自己将处于十分不利的地位。
但是，事情的发展正如罗荣桓预料的那样。由于仓促行动，东北军的反动势力刚一苏醒过来，就立即对郭维城所率进步力量进行疯狂的反扑。孙焕彩纠集一些部队抢占了位于日（照）莒（县）边界、日莒公路以南的甲子山。参加事变的原东北军111师大部被迫转至八路军的根据地进行休整，师长常恩多在转移途中病逝。
甲子山所处的地理位置，就像一个楔子伸入当时已是八路军根据地滨海地区的中部，孙焕彩的行动，也严重地威胁着滨海根据地的安全。
面对这一形势，罗荣桓与朱瑞、黎玉、陈光等人共同研究，决定调部队协助第111师进步力量，在8月中旬发起了讨伐叛军孙焕彩的战斗，收复了甲子山。第111师仍然使用原番号，经官兵代表民主选举，万毅担任了师长，郭维城任副师长兼政治部主任，王维平任副主任。同时，从115师和抗大一分校抽调一批优秀的政工干部和模范战士支援111师，充实连队，加强机关。罗荣桓还亲自到这个部队向广大官兵作时事报告，讲解国际反法斯战争和中国抗日战争的形势，使大家眼界大开，精神振奋，稳定了情绪，提高了抗日觉悟。
虽然111师的番号没有改，但实际上，这支部队已成为接近于八路军政治立场的力量。
1942年10月，逃到日莒公路以北的孙焕彩又举兵侵占了甲子山区。山