为保卫徐州，扩大台儿庄战役胜利成果，确保战略主动地位，蒋介石坚持应在徐州与日军进行决战，并陆续从各大战区调集精兵，充实第五战区守备力量，总兵力达45万余人。第五战区司令长官李宗仁不同意在徐州地区与日军决战，因为该处地势平坦，无险可守，利于日军作战；且大规模战略决战，有违长期消耗战的既定方针。但因蒋意甚决，李宗仁只好妥为布置：以3个军组成淮南兵团，由李品仙任总司令；4个军组成淮北兵团，由廖磊任总司令；9个军组成鲁南兵团，由孙连仲任总司令；3个军组成陇海兵团，汤恩伯任总司令；2个军组成苏北兵团，由韩德勤任总司令。5个兵团在李宗仁统率下，以徐州为中心，协同作战。
18日，日军华北方面军第十师团向峄县发起进攻，徐州会战开始。日军分南北两路进攻。北路日军第十师团遭到中国军队的顽强抵抗，陷于苦战状态。但第十师团依靠现代化装备，逐渐摆脱不利局面。5月15日，从山东临城出发，渡过微山湖，16日到达沛县，19日推进到徐州以北地区，准备从北面进攻徐州。日军第五师团自4月下旬起先后攻占临沂、郯城。5月15日，突破中国军队防线，向宿县推进，从陇海路东端形成对徐州的包围。第十六师团于5月9日从山东济宁出发，14日攻占金乡，18日推进到离徐州22公里处，从西北面进攻徐州。
南路日军第六师团在占领安徽和县、巢县之后，于5月14日占领合肥。第一○一师团由江苏东台出发，占领盐城，5月7日攻陷阜宁。第十三师团于5月9日攻占蒙城，13日到达徐州西面永城，从西南面包围徐州。第三师团于5月6日在蚌埠、怀远集结，15日推进到大营集，与第九师团平行向徐州南面推进。第九师团于5月10日推进到板桥一带，13日攻占百善。至此，南北日军已完成了对徐州的包围。
徐州为苏北重镇，位于陇海线和津浦线交叉处，扼苏、鲁、豫、皖四省要冲，具有重要的战略地位。徐州的得失，直接关系到中日战局今后的发展态势。面对日军的进攻，中国军队也分南北两线进行抵抗。在北线，中国军队在峄县、向城、邳县、临沂一线与日军展开激战，给日军以沉重打击，并坚守台儿庄、禹王山一线，粉碎了日军中央突破、直下徐州的企图；在南线，中国军队也进行了一定的抵抗。但从总体上看，中国军队并未进行像样的战役，在运动中歼灭敌人，从而导致日军对徐州形成合围、夹击之势。为摆脱徐州会战的不利态势，中国最高统帅部决定，除留第二十四集团军在苏北、第六十九军及海军陆战队在鲁南、鲁中坚持外，第五战区主力部队于5月15日起向西南转移，以刘汝明第六十八军为掩护，其余各部分5路突围：（1）李宗仁第五战区司令长官部及廖磊集团军由徐州沿津浦路南下，至宿县折向西南，于界沟过涡河封锁线；（2）汤恩伯部及机械化兵团由陇海路运河车站向西推进，于符离集北越过津浦路，突破宿县、永城封锁线，在涡阳突破涡河封锁线；（3）孙连仲部及张自忠部由台儿庄向西南退却，自徐州南越过萧县以西封锁线，在永城附近突破封锁线；（4）关麟征部及川军一部由徐州越陇海路，向西北退却，突破黄口、李庄封锁线；（5）孙震部由津浦路柳泉向东南退却，越陇海路，经泗县折西南行，在固镇、蚌埠间过津浦路，于怀远以西突破涡河封锁线。5月17日晚，汤恩伯部担任中央突围任务。由于指挥得当，中国军队得以有秩序地退却，于5月下旬退至皖西豫南地区。刘汝明第六十八军掩护各部撤退完毕后，于5月19日放弃徐州，日军遂于当日占领徐州，徐州会战宣告结束。
在徐州会战中，中日双方都投入了巨大兵力。日军虽取得会战的胜利，打通了津浦线，扩大了占领区，为武汉作战解除了后顾之忧，但未达到聚歼中国军队主力的预期目标。中国军队没有给日军以有效的打击，而徐州的失陷，使中国失去了牵制日军的战略要地和防御武汉的屏障，被迫采取正面作战防御武汉，从而给武汉会战以巨大影响。
毛泽东演说《论持久战》
抗战爆发以后，亡国论、速胜论不绝于耳，严重影响着抗日战争的进程。与此同时，中国人民渴望抗战的胜利，迫切要求解答战争的进程会怎样发展、能否取得胜利、是持久战还是速决战、怎样进行持久战，为什么会有最后胜利、怎样争取最后胜利等根本性问题。为了给全国人民指明胜利的前途，毛泽东于1938年5月26日至6月3日，在延安抗日战争研究会上讲演了著名的《论持久战》，系统地论述了有关持久战的基本问题。
毛泽东全面考察和论证了抗日战争是持久战、最后胜利是中国这一抗日战争发展的客观规律。中日战争不是任何别的战争，乃是半殖民地半封建的中国和帝国主义的日本在20世纪30年代进行的一个决死的战争。战争双方存在着互相矛盾的基本特点：日本的军力、经济力和政治组织力是强的，但其战争是退步的、野蛮的、人力、物力又不充足，国际上失道寡助；中国军力、经济力和政治组织力是比较弱的，然而正处于进步的时代，其战争是进步的和正义的，又有大国这个条件足以支持持久战，世界的多数国家是会援助中国的。这些特点，规定了和规定着双方一切政治上的政策和军事上的战略战术，规定了和规定着战争的持久性和最后胜利属于中国而不属于日本。亡国论者只看到敌人暂时强大的一面，忽视了我们时代进步的一面，犯了唯武器论等错误，看重了强弱一个矛盾，把它夸大起来作为全部问题的论据，而忽略了其他的矛盾。速胜论者则忘记了敌强我弱这个矛盾，夸大了中国的长处，一叶障目，不见泰山，白以为是。亡国论和速胜论都是错误的，都是主观、片面地看问题，都是战争问题巾的唯心论和机械论。因此，"抗日战争是持久战，最后胜利是中国的——这就是我们的结论。"毛泽东科学地预见了抗日战争将经过战略防御、战略相持、战略反攻三个发展阶段而取得最后胜利。第一阶段，是敌之战略进攻、我之战略防御的时期。这一阶段，敌人依仗其强大的军事力量对我国发动全面进攻，企图一举攻占我战略要地，整个征服中国；我所采取的战争形式，主要的是运动战，而以游击战和阵地战辅助之。中国虽有颇大的损失，但是同时却有颇大的进步，这种进步就成为第二阶段继续抗战的主要基础。第二阶段是战略相持阶段。是敌之战略保守、我之准备反攻的阶段。由于日军兵力不足和中国军民的顽强抵抗，日军的困难进一步增加；我之作战形式主要的是游击战，而以运动战辅助之。除正面防御部队外，我军将大量地转入敌后，比较地分散配置，依托一切敌人未占区域，配合民众武装，向敌人占领地作广泛的和猛烈的游击战争，并尽可能地调动敌人于运动战中消灭之。第二阶段是整个战争的过渡阶段，也将是最困难的时期，然而它是转变的枢纽。中国将变为独立国，还是沦为殖民地，不决定于第一阶段大城市之是否丧失，而决定于第二阶段全民族努力的程度。如能坚持抗战，坚持统一战线和坚持持久战，中国将在此阶段中获得转弱为强的力量。第三阶段是收复失地的反攻阶段，是我之战略反攻、敌之战略退却的阶段，也是持久战的最后阶段。这一阶段，我之由战略防御转入战略反攻，最后打败日本帝国主义，完全解放我国的领土。我所采取的主要的战争形式仍将是运动战，但是阵地战将提到重要地位，游击战仍将起着很大的战略配合作用。经过以上三个阶段，中日双方的力量将向不同的方向发生变化，中国由劣势到平衡到优势，日本由优势到平衡到劣势，中国由防御到相持到反攻，日本由进攻到保守到退却——这就是中日战争的过程，中日战争的必然趋势。
毛泽东认为，犬牙交错的战争形态是持久战的特点，主要表现在内线和外线、有后方和无后方、包围和反包围、大块和小块四种情况上。根据这些情况，毛泽东指出，持久战是抗日战争的总的战略方针，为了实现持久战，还必须有一套具体的战略方针，即在第一和第二阶段中，是战略防御中的战役和战斗中的进攻战、战略持久中的战役和战斗的速决战、战略内线中的战役和战斗的外线作战，总之是外线的速决的进攻战；在第三阶段中，是战略的反攻战。毛泽东分析了运动战、游击战、阵地战三种作战形式的特点和它们在抗日战争中的变化及地位，认为抗日战争的作战形式中，主要的是运动战，其次是游击战。游击战的战略作用一是辅助正规战，一是把自己也变为正规战。八路军、新四军作战的主要形式是：基本的是游击战，但不放松有利条件下的运动战。
毛泽东还正确规定了人民战争的指导思想和战略战术原则，着重阐明了"兵民是胜利之本"、"战争的伟力之最深厚的根源，存在于民众之中"。争取抗战胜利的唯一正确道路是充分动员和依靠群众，实行人民战争。为了动员民众，必须坚持抗日民族统一战线的总方针，对全军全民进行广大的政治动员，普遍地深入地改善官兵关系、军民关系，发动全军全民的积极性，争取抗战的最后胜利。
《论持久战》是中国共产党关于抗日持久战科学理论的系统总结，是运用辩证唯物主义和历史唯物主义解决抗日战争问题的光辉典范，是对亡国论、速胜论和轻视游击战争等错误思想的有力批驳，丰富和发展了马列主义军事思想和哲学思想，对争取持久抗战的最后胜利，起了极大的动员、指导作用。
花园口决堤
徐州失陷后，日军继续加强攻势，向中原地区迫进。日军第十四师团由山东濮县南下，在兰封附近受到中国军队的阻击，双方发生激战，日军子6月3日再陷兰封；6日攻陷开封，7日取中牟；第十六师团于6月初进入杞县、尉氏、睢县；第十师团直指太康。在日军的攻击下，中原重镇、第一战区指挥中心郑州，处于日军直接攻击之下。面对日军的迅猛进攻，蒋介石苦无良策，决定炸毁黄河大堤，以洪水阻敌西进。6月1日，蒋介石在武汉召开最高军事会议，秘密决定决黄河堤，以阻日军西进，并指定由第一战区第二十四集团军总司令商震负责督工实施。根据蒋介石的指令，第一战区拟定在赵口、花园口决堤，具体施工计划是：在堤岸的内侧适当而迅速地构成必要的掩蔽部和交通壕，并设置伪装，切戒暴露，特别是遇敌空袭或探照时更要肃静沉着；以连为单位，适当配备兵力，分点进行掘土作业，轮流休息；决口前关于动员农民迁移、安置、救济事项，统由河南省民政厅派员协同各工段部队长认真妥善办理；决口工事，各部队长按规定任务，分配所属积极进行。
商震第二十集团军奉命派第五十三军一个团在河南中牟县境赵口决堤，并限当夜12时放水，虽然使用大量黄色炸药与地雷，但由于该处土质多流沙，坑道随挖随塌，施工困难，虽挖开两道决口，但流量甚小，未能达到预期目的。而此时日军已逼近中牟日沙镇，形势紧张。6月6日，第二十集团军新八师师长蒋在珍以赵口决堤失败，建议在该师防区内郑县花园口另行决口，并得赏金2000元。当晚，蒋在珍即布置所部准备在花园口决堤。决堤前，蒋在珍强行把花园口一带居民都赶到5公里以外，以便施工。6月7日，花园口决堤开工，蒋在珍选调800名强壮士兵，编成5个小队，日夜轮流掘堤，夜间以汽车上的灯光照明；又征调农民水缸数十口，装上炸药进行爆破；并派工兵在大堤斜坡进行爆破。蒋在珍移驻花园口，监督决堤工程。6月9日，花园口决堤成功放水。随后，又从郑州运来两门平射炮，向决口发射了六七十炮，使决口迅速扩大；6月10日恰逢大雨，水势愈来愈猛，决口逐渐扩至370余米。花园口决堤后，滔滔黄水由中牟、尉氏沿贾鲁河南犯，经扶沟、淮阳，由河南而入安徽再入江苏，泄人洪泽湖，沿运河入长江，流人东海。洪水所到之处，即变成荒无人烟的黄泛区。整个黄泛区跨越豫皖苏三省，自西北至东南，长40余公里，宽30至80公里，3省44个县市、5.4万平方公里土地成为泽国，89万人被溺死，1000多万灾民流离失所。从此，荒无人烟的黄泛区，年年给人民带来严重灾难。
花园口决堤确实使日军西进势头被阻，日军由陇海路西进、转由平汉路进攻武汉计划被迫改变，日军约4个师团困陷于黄泛区，损失达2个师团以上。为救援陷于黄泛区的日军，花费了大量的物资和人力。但所有这些，均无法掩盖国民党对中国人民犯下的罪行。花园口决堤后，为欺蒙视听，推卸罪责，中央通讯社于6月11、12日发出专电，宣称敌机不断以飞机大炮猛烈轰炸，将花园口堤垣轰毁一段，造成决口，更在决口处扩大轰炸，致洪水猛涨，难民死伤无数。为欺骗外国记者，新八师伪造了一个轰炸现场，并且从郑州专员公署调来2000余民工，加上新八师部队，以大批高粱秸塞上石头，沉人决口；还运来一些木船，装上石头堵塞缺口；新八师在外国记者到来之前，还专门作了一次抢堵决口的演习。然而，历史事实是无法歪曲、掩盖的，蒋介石国民党的骗局很快为中外正义人士所识破。
武汉会战
徐州会战结束后，日军决定发起武汉作战，占领中国当时的政治、军事、经济中心武汉，迫使中国屈服。6月15日，日本天皇召开御前会议，决定攻占武汉，控制中原腹地，迫蒋介石屈服，结束侵华战争。为达此目的，日本在军事上作了调整和部署，以华中派遣军司令官烟俊六大将统一指挥武汉作战；以第十一军司令官冈村宁次指挥第六、第九、第二十七、第一○一、第一○六师团，在江西庐山集结，分兵沿长江两岸向武汉推进，从东面和南面包围武汉，进行主攻作战，主力置于江南地区；以第二军司令官东久迩宫稔彦王指挥第三、第十、第十三、第十六师团，在合肥集结，沿大别山北麓向武汉推进，从北面包围武汉，进行配合作战。连同海空军，日军总兵力达35万余人。