鑒於1938年國民革命軍在徐州會戰,重創日軍第5,10絕對主力師團近2萬人。不但天皇震怒日本軍方都覺得無法對各界交待,於是天皇命令召開御前會議,取消1938年8月前部隊休整的命令,決定繼續向中國增兵徹底打擊中國軍隊。台兒莊戰役勝利後國軍士氣大振,打算在徐州附近集中兵力,圍殲附近日軍主力部隊。徐州周邊國軍集結大量軍隊,部隊高達50個師共55萬人。
日軍情報機關發現了國軍意圖,1938年4月7日日本陸相杉山,立即向天皇報告,“對於集中在徐州方面的中國軍予以痛擊,可以收到挫傷敵軍抗戰意志的巨大效果。本職認為只要達到了殲滅這股敵軍的戰略企圖,就能使武力解決中國事變,促使蔣政權屈服投降邁出決定性的一步,亦可挽回我軍在台兒莊的不良影響。”
中國軍隊雖號稱超過2百萬,但真正能夠用於一線作戰的,最多不過1百萬。如果日軍能夠畢其功於一役,一舉殲滅國軍幾十萬主力,打算以“持久戰”拖垮日本的國民政府,只能坐下來談判接受投降。天皇立即命令務必圍殲徐洲中國軍隊。杉山4月7日當天就命令,華北方面軍總司令官寺內大將,華中派遣軍總司令官畑俊六大將,下達大本營陸軍部第84號命令。集中所有華北華中全部精銳主力13個師團30多萬人,在大量重炮坦克飛機策應下,分4路向國軍發動戰略合圍。
國民政府蔣介石及國軍高層一直認為,如國軍精銳50個師遭日軍殲滅或重創,剩餘兵力數年內幾無能力與日軍抗衡,別說抗戰基本上除投降別無他途。因此應以少部軍力阻擊日軍,徐州國軍主力及時跳出日軍包圍圈突圍。徐州最高指揮官李宗仁,立即下令部隊分5路突圍。國軍以少數部隊阻擊日軍,其他各部5月底前全部撤離。由於佈置得當後衛部迷惑住了日軍,國軍50個師得以全部撤退成功。日軍在整個圍殲國軍徐州主力過程中,作戰月余傷亡3萬多占領空城而已。
為此日本參謀本部和侵華日軍最高指揮官,打算冒險深入中國腹地立即轉向武漢,圍殲徐州逃竄國軍主力完成戰役目標。華北華中日軍主力在追擊中展開武漢會戰,即華北派遣軍以主力沿長江由東向西仰攻武漢,華中日軍主力沿淮河由東向西攻佔鄭州,然後迅速南下與華中派遣軍合攻武漢。
國軍方面根本沒有進行武漢會戰的準備,台兒莊突圍部隊在徐州戰鬥數月傷亡頗大,被日軍追擊千里疲憊不堪士氣低落,裝備損耗糧食不足兵力缺乏,況且還有最少8個師後衛部队,根本沒有跳出日軍包圍圈。華北日軍還好應付些,畢竟安徽江西地形複雜,大量丘陵山地湖泊可以利用,阻緩日軍機械化部隊進攻。但是華中日軍打下河南问题大了,河南山東都是平原地區,日軍第11,14師團全部機械化。國軍沒有反裝甲武器,平原地帶抵抗日軍機械化衝擊,長期抵抗根本就不可能。
日軍第11師團從山東方向和第14師團回合,此時日軍兵力超過5萬,裝甲車坦克數百量,國軍開封守軍眼見不敵。華北方面軍主力第2軍主力,突破中國第8軍河南商丘防線,分兩路大軍從隴海路南側向西推進,各路日軍準備合擊河南戰略重鎮鄭州。鄭州是平漢和隴海鐵路的交匯點,還是黃河的重要渡口扼守水陸交通線,但地處平原無險可守。日軍6日打下河南省會開封7日陷中牟縣城,鄭州城失守是時間問題了。鄭州是河南文化經濟中心,失陷對中原軍民抗戰士氣打擊更重。