陆军方面的失败令大本营很是不满，近代以来，一直到诺门坎战役前，日军对苏俄军队有一种先天的心理优势，这种优势来源于1905年的日俄战争。作为战争的胜利者，日军一向瞧不起俄**队，以及后来的苏联红军。
尤其是当日军得到情报，由于斯大林的肃反，红军中大多数优秀而且经验丰富的指挥员，都被处决的消息后，更是对红军不屑一顾，甚至狂妄的宣称日军1师团能打3个师苏军。也正是因为这样，这次惨败在大本营看来简直是不能容忍的耻辱，为此关东军司令官植田大将遭到大本营的严厉斥责。就连一向不怎么关心日军行动的多位元老都公开声称这是大日本皇军，尤其是战无不胜的关东军唯一的一次耻辱，也是最大的耻辱。
这样的斥责令植田大将很不满意，原本从一开始植田大将就不支持第二十三师团师团长小松原的这次行动，但是耐不住小松原中将的多番请示，最终才答应了他的作战计划，没想到最后的结局竟然是这样一次惨败！
然而，事情并未就此结束。由于日军高层的刻意宣传，关东军各部队好战情绪已经被激发起来，他们早就盼望着与苏军交手了，这次失败在所有人看来不过是个意外，没错，就是意外。失败带来的不是反省，而是更加的狂躁，关东军全体都处在一种病态的“亢奋”中蠢蠢欲动。
没有人在意第23师团骑兵联队和重装甲车部队为何在包抄奇袭蒙军指挥部得手之后还被打的溃不成军，也没有人在意为何大日本皇军强大的重装甲车为何被苏军的坦克一打就碎。更没有人在意骑兵面对苏军这些横冲直撞的“钢铁怪兽”束手无策，只好绝望地挥舞着马刀砍。狂热的日军都热切盼望与苏军交手，90以上的军官对苏军情况一无所知，却毫无理由地轻视对手。
5月20日，前一阶段战事的善后工作还未处理完毕，关东军又接到小松原的电报。电报内容是：（l）苏军在诺门坎不断增兵，18日已经把“满洲国”军驱逐出了诺门坎地区；（2）苏军飞机轰炸温泉一带和甘古尔庙，造成损失。作为诺门坎地区守备司令，小松原中将建议主动给以严惩。
关东军司令部接到电报后，立即召开作战会议。20日命今向诺门坎方向调集兵力。调集的兵力有补充后的第二十三师团全部。由第一坦克团和第七师团的一部组成的安冈支队，还有配属的第二飞行集团。这是边界争端中没有先例的大规模调集兵力，其方针是不惜与苏军展开正面冲突，态度非常强硬。
而且在关东军的作战计划里面还有一个大轰炸计划。主要是用飞机轰炸外蒙境内一切军用民用目标。只是关东军估计会遭到反对。而事先未予提及并请示。当参谋本部在偶尔的情况下。听到这个轰炸计划时，害怕扩大事态，立即拍电报表示不当。又派作战次长有未次中佐去满洲，企图说服关东军不要轰炸。
可是速度还是慢了一步，在有未次中佐抵达关东军司令部之前，关东军已对外蒙境内据点塔木斯克进行了轰炸，第二次诺门坎事件爆发。为确保制空权，日军出动了130架飞机，对苏蒙空军基地进行了空袭。
在关东军向诺门坎地区的苏蒙军再次发动进攻的同时，华北方面军也接到了中国派遣军司令部的命令，大本营命令华北方面军做好随时出兵增援关东军的准备，同时命令华北方面军要抽调部分兵力在华北地区进行一次针对陈锋所部的局部战争，以防陈锋所部越过东乌旗向诺门坎地区开进，威胁皇军的侧翼。
接到中国派遣军司令部的命令之后彬山元大将不敢怠慢，立即召开师旅团主要军官会议，商讨作战计划。
但是包括参谋长岗部直三郎中将在内的绝大多数军官都不同意在没有准备好的情况下与陈锋所部开战，那样成功的几率并不高，更重要的是，经历过多次败仗，方面军普通士兵以及基层军官对于同陈锋所部作战已经产生了阴影，一旦再次战败，那么士气将会进一步下降，这是方面军无论如何都不能承受的。
但是上级的命令也不能违抗，最终还是岗部直三郎中将出了一个主意，既然方面军不愿意深入陈锋所部的防区作战，那么就引陈锋所部主动来攻，这样既完成了上级的命令又不违背自己的方面军司令部的意愿。
岗部直三郎中将分析，结合陈锋的家庭来看，陈锋与二战区阎锡山的关系很密切，再怎么说陈锋也是阎锡山的女婿，在没有太多的利益相争的情况下，这种亲戚关系还是很牢固的，再加上上一次陈锋所部出动15万大军配合阎锡山所部围攻第一军，因此岗部直三郎中将认为，只要华北方面军再次向阎锡山的晋绥军发动进攻，而阎锡山所部只要露出一点败相，那么陈锋这个女婿就不会袖手旁观的。
因此岗部直三郎中将建议，方面军再次向盘踞在山西的阎锡山所部发动一次大规模进攻，一方面是因为帝国这次调到方面军的部队里面有很多新兵，需要晋绥军这样的弱旅练兵。另一方面是因为方面军实力基本上恢复了，第一军有能力也有这个必要打开山西高原的局面，不能这样被动下去。最后才是上级的那个任务。
岗部直三郎中将的这个提议迅速被在场的所有军官通过了，正如岗部直三郎中将所说的那样，这次从国内调来的那些部队数量确实不小，除了那22个步兵大队以外还有7个步兵旅团和两