1938年4月初，日本大本营决定实施徐州会战时，同时也决定实施武汉会战，不仅令陆军在制定徐州会战计划时，要“预想到会战以后的形势，要将武汉会战的实施也考虑进去”，而且令海军“以攻占汉口为目的，向南京—汉口—岳州间的长江及其沿岸准备作战，并于5月间陆续向驻华日军舰队增兵。
徐州会战后期，华北日军第14师团土肥原部，于5月11日在菏泽以北地区强行登陆。
5月14日攻占菏泽后，即向陇海路进发，企图截断陇海路，阻止中**队东进增援，并向兰封（今兰考）发起攻击。蒋介石即令第27军军长桂永清率李良荣第46师及邱清泉第200师到兰封防守，又命宋希濂第71军向兰封与考城间的红庙附近集结，攻击敌之侧背。
5月20日，日军到达内黄、仪封、野鸭岗、楚庄砦及附近地区。蒋介石命令前线所有部队，统归前敌总司令薛岳指挥围歼土肥原师团。
薛岳向前线各部队下达作战命令，定于21日发动进攻。中**队已对日军形成半包围态势，却因桂永清和邱清泉过分轻敌而无充分准备，导致歼敌计划落空。桂永清命令第88师师长龙慕韩率部防守兰封，虽经一夜奋力抵抗，最终放弃兰封突围，退至开封休整。
兰封失守，薛岳大怒，当即向蒋介石控告桂永清贻误战机，请于严惩。但因桂永清和邱清泉都是留德学军事的，很受蒋介石器重，何应钦和陈诚都予力保，说兰封失守之责应由龙慕韩承担，蒋介石即批示将桂永清撤职查办，龙慕韩贻误战机，着即枪决。
兰封失陷，蒋介石与第一战区司令官程潜等均大为震惊。惟恐日军长驱直入，西取开封、郑州，以致影响整个战局，便急调在西安至潼关一带的第17军胡宗南部，星夜兼程开至开封。程潜在开封临时指挥所，制定围歼土肥原师团的作战计划。
5月24日，第71军接到向兰封攻击的命令。25日，宋希濂部署由第87师攻击兰封城东北面，第88师攻击城西南面。27日，第71军克复兰封；第64军也克复罗王车站。两军正准备乘胜分兵协同友军围歼土肥原部时，奉命驻守归德（今商丘）的黄杰第8军，对于日军增援之敌未作努力抵抗而撤退，致使归德失陷，影响整个战局。
两次围歼计划失败，薛岳大怒，当即向蒋介石控告严办黄杰。何应钦先安抚薛岳，又向蒋介石力保黄杰，蒋介石便在薛岳报告上批了“着即撤职查办”。不久，桂永清任海军总司令，黄杰任第20集团军总司令。
日军占领归德后，分兵两路西犯，一路沿铁路西进，一路攻击宁陵、睢县。薛岳令第64军及第71军等部，于民权、杞县、太康一线迎击西犯之敌。尽管形势已极为不利，薛岳仍不放弃围歼土肥原师团的计划。