1938年4月6日，进攻台儿庄的日军矶谷师团已全面崩溃，台儿庄一线国军全线出击，杀生震天。日军机动车辆多被击毁，其余也因缺乏汽油而陷于瘫痪，弹尽粮绝，吓得魂飞魄散，只顾突围逃命，逃窜的日军尸横遍野，被击毁的各种车辆、弹药、马匹遍地皆是。国军士气高昂，各军团向敌猛追，如疾风扫落叶，锐不可挡。
最后，矶谷师团长率残部万余人突围进入峄县城，开始闭门死守，战斗信心尽失，对国军已无丝毫威胁。台儿庄之战，至此国军大获全胜。
战后国军清点战场，仅掩埋的日军尸体就近万，敌军总死伤在两万以上，坦克车被击毁30余辆，缴获各种大炮70余门，战车40余辆，装甲车70余辆，汽车100余辆，机关枪数百挺，步枪上万枝，这次胜利，可能也是日本新式陆军建立以来的第一次惨败。捷报传出后，中国举国欣喜若狂，前线国军士气大振。
至此，台儿庄攻防战至此结束。8日，方面军明令坂本支队归第10师团指挥。是役，第5师团伤亡6759人；第10师团伤亡5225人。
台儿庄战斗后，日本大本营判断台儿庄战斗意味着蒋介石已将主力集中到徐州附近准备决战。趁此时机攻占徐州，定会给中国军队以致命打击，同时为攻占武汉造成有利态势。根据上述判断，大本营于4月7日下达攻占徐州的命令。
据此命令，华北方面军于4月10日制定了徐州作战的指导方策，把徐州会战分为三期：第一期为准备阶段，主要是给第2军补充兵力，将第114师团、第16师团、坦克第2大队、野战重炮兵策3、6联队、后备步兵第1大队、独立工兵联队等部配属给第2军，同时与华中派遣军制定协同方案，令华中派遣军由江阴向西北推进，把中国军队牵制在徐州以南。第二期为徐州外围作战阶段。这—阶段以突然袭击的方式发起进攻，以一部兵力由微山湖西侧南下，迅速占领徐州西面和西南面地区，与华中派遣军合围徐州；另以一部兵力在兰封至范县一带渡过黄河，切断兰封以东的陇海线和郑州以南的平汉线。第三期为总攻徐州阶段，攻占徐州，并相机攻占开封、郑州。
4月12日，华北方面军下达攻占徐州作战的预备命令，同时将第114师团的4个大队、第16师团的1个大队配属给第10师团，弥补第10师团在台儿庄战斗中的损失，以恢复战斗力。第10师团得到加强后，将原担任警备任务的长濑支队替换下来参加徐州作战。
为了牵制八路军主力，4月4日华北方面军司令部制订了晋东南9路围攻支那军队的作战计划，拟定以华北方面军第一军司令官香月清司为指挥官，率领所部第20师团、第十六师团、第108师团、第109师团各一部共3万多人分9路大举进攻晋东南地区，企图将八路军129师等部和在这一带活动的国民党军队围歼于辽县榆社武乡一带。同时为了保证南北交通线的安全，防止八路军各部的骚扰影响徐州会战，华北方面军司令部命令驻蒙兵团以第六师团、第26师团为主力，并配以李守信、德王等部进攻盘踞在察、绥、冀、晋交界处的韩云华部。
接到命令的潘莲沼中将根据战前制定的计划，出动所部第六师团、第26师团主力各一部，并配以大量的伪军，兵分四路围攻内蒙古军区。
从3月25日回到大青山后，韩云华就一直忙着组建部队和训练新军，至4月12日时，内蒙古军区共有88团、99团、新一团、新二团、新三团、新四团、新五团、新六团、警卫团、独立团、骑兵第一团、骑兵第二团、骑兵第三团、骑兵第四团、骑兵第七团、骑兵第八团、骑兵第九团、骑兵第十团、火力支援团、炮兵一团、炮兵二团等10个步兵团8个骑兵团3个机炮团的正规部队，同时军区还有四支战斗力超强的特战队、八个新组建的独立县大队以及四十个区小队。此外由于晋东南战事吃紧，韩云华和沈玉泉商量后决定让答应送给总部的骑兵第五团立即归建，同时又将新组建的骑兵第六团、特战第一预备队156名预备特战队员送到总部保护总部首长的安全。
4月13日上午，首先是活动在归绥一带的塞北军区发来电报说，大批鬼子乘坐汽车或者是徒步从归绥城出来，总兵力约为一万五千人，正向99团驻守的察哈尔右翼中旗方向杀去。不久军区警卫团也发来电报说在丰镇和大同的交界地发现了大约一个联队的日军，而且还配备了骑兵和大量的火炮。随后新一团也发来电报说从张家口方向出来的一个步兵联队和一个骑兵联队已经和新一团外围的部队接上火了，这批鬼子是乘坐火车来的，所以速度相当快。而沈玉泉负责的南线也传来消息说日军第20师团步兵第39旅团步兵在一个战车大队以及一个伪军步兵师的配合下正向根据地杀来。
韩云华算了一下，这次进攻根据地的日军达到了4万5千多人，相当于日军两个甲等师团或者是三个丙等师团。最让韩云华头疼的事这四路鬼子有三路配备了骑兵、有两路配备了战车、有一路配备了大量的汽车，也就是说这次来的鬼子无论是火力方面还是机动方面都足够强悍，远不是上一次寺内寿一和东条英机派出的联合部队所能比的。而且这次鬼子来得十分迅速，军区连转移群众的时间也没有，情况十分危急。
韩云华一方面给八路军总部发报说明那个敌情，一方面急令军区各部依托有利地形节节阻击，