3月20日滕县失守，日军先锋赖谷支队于23日进攻台儿庄。孙连仲部已在此布防，敌我双方在台儿庄附近展开激战。27日以后，敌我双方展开拉锯战。池峰城第三十一师与敌反复肉博，歼敌3000余。月底，日军为快速攻占台儿庄，舍滕县东南山区的汤恩伯部而不顾，矶谷师团尽其所有，全力猛攻台儿庄，战斗极为惨烈。台儿庄已有一半为日军所占，敌我双方逐房争夺。4月3日，全庄有2/3已为敌占，孙连仲部伤亡过半。
（台儿庄大战中，中国军队发起攻击）
孙部原为冯玉祥的西北军，名义上虽辖两军，但在娘子关保卫战中损失很大，四十二军所剩仅一个空番号，屡次请求补充都未获准，后来连该军番号都被中央新成立的部队取而代之。所以，该集团军实际战斗力仅仅三个师。所幸该军最善于防守，作战英勇，方保台儿庄不失。血战期间，李宗仁多次电令汤恩伯部南下夹击，汤却逡巡不进，在请示蒋介石后，李宗仁对汤发出最后训诫：如贻误战机，韩复榘便是你的先例！在蒋介石电责之下，汤部终于南进。
守庄的孙连仲和池峰城均有暂时退出台儿庄的打算。但李宗仁则认为4月4日中午，汤恩伯部可以进至台儿庄北部，完成合击矶谷师团之任务，故绝不允许撤退，并以悬赏为法，命孙组织敢死队死守。孙绝对服从命令，并亲自督战。至午夜，组织敢死队数百人，各人都手持大刀，分组向敌人进袭，敌人没有准备，溃不成军，我军竟一举夺回台儿庄3/4的阵地。长官部夜半得报，汤军已向台儿庄以北迫近，天明可到，李宗仁于是率若干随员至台儿庄郊外，亲自指挥台儿庄歼灭战。至黎明时，汤军团至敌侧背，敌陷重围，国军展开全线反击。至4月7日上午，敌矶谷师团大部被歼。余部乘夜突围，窜向峄县，闭城死守。
台儿庄一役共歼敌1.19万多人，毁敌坦克30余辆，是中国抗战以来的空前大捷，也是日军的第一次大惨败。捷报传出，举国若狂，抗战前途露出一线曙光。因上海、南京沦陷笼罩在蒋介石心头的愁云一扫而空。4月7日蒋介石致电祝贺，并拨款30万元派俞飞鹏赴台儿庄前线慰劳。前去参观的中外记者和慰劳团大批涌到，默默无闻的台儿庄经此一战，顿时成为民族复兴的象征。
（1938年，蒋介石与李宗仁（左）、白崇禧（右）在徐州大会战前夕）
日本侵略军不甘心其在台儿庄的失败，重新部署3个师团的兵力进攻徐州。为滞缓敌人西犯，消耗敌人的有生力量，蒋介石陆续调集各路军队增援第五战区，总兵力共达60万人。他希望坚守徐州，在台儿庄大捷的基础上乘胜与敌决战一场。但此时，日军南北夹击，已逼近徐州，并增调兵力构成数重包围圈，使我60万大军四面受敌，有全军覆没之危险。为了摆脱不利态势，保存抗战实力，蒋介石同意放弃徐州，向中原转进。李宗仁奉命指挥大军立即化整为零，分五路突围，冒着日机的跟踪轰炸，日夜兼程，突破了日军的重重围困，大都安全抵达皖西、豫东地区，为行将到来的武汉会战保存了必要的有生力量。5月19日，日军进占徐州，被围的数十万中国军队却连影子都不见了。当然，他们也终于打通了津浦线，截断了陇海线，把南北两个战场连接起来。
就在日军占领徐州的当天下午，有两架马丁式轰炸机自汉口升空，当晚在浙江衢州加油后，飞向日本，机上满载传单而不是炸弹。传单上写满唤起日本民众反战觉悟的文字，那是中央宣传部副部长方治及其日裔夫人和军委会政治部第三厅厅长郭沫若及日本反战作家鹿地亘撰写和翻译的。
中国空军的这次跨海东征，由徐焕升、佟彦博分别带领队员苏光华、蒋绍禹、雷天春、刘荣光、陈光斗等五人执行。夜茫茫，风声、浪声掩盖了发自云层中的飞机的隆隆声。他们就这样安静地飞过日本九州门司、长崎、福冈等城市上空，散发了100多万份传单。直到日本人发现传单纷纷落地时，日本防空部门才命令高射炮发炮射击，徐焕升他们已高速返航。曙光初现时，他们安全飞回武汉。
在祝捷酒筵上，蒋介石和宋美龄频频向建立殊勋的中国空军健儿敬酒，庆祝健儿们飞越东海远征壮举的成功。中国空军这次英勇而光荣的夜航突袭成功，得到中外舆论的一致赞扬，在日本军界引起了极大的震动。
像这样地对日本本土不流一滴血的“纸弹轰炸”，后来被称为“人道飞行”。当计划提出的时候，蒋介石就将这个行动的意义写在日记上：“空军飞倭示威之宣传，须早实施，使倭人民知所警惕。盖倭人夜郎自大，自以为三岛神州，断不被人侵入，此等迷梦，吾必促之觉醒也。”
（远征日本归来的中国空军健儿）
从南京沦陷到主动放弃徐州，蒋介石调集部队与南北夹击的精锐日军，在鲁南和津浦线周旋达五个多月，虽有巨大牺牲，但达成了以空间换时间的目的。从而使得抗战前期的正面抗战场度过了上海、南京沦陷后一度出现的军事危机，各军得以补充和训练新兵恢复和增强了战斗力。
5月31日，蒋介石致电军委会说及“徐州鏖战，原为持久之争，最后胜利，尚有待于将来”。6月3日，蒋介石在日记上写道：“此次我军撤退愈速，敌进将更迟缓。在长期战争中，不可以一时之进退定其胜败，战略之撤退，如能达到预期之结果，即胜利也。”
四、组织武汉会战
（蒋介石巡视设在武昌珞咖山的军官训练团）
1.最大的一次会战
1938年初，日军在制定徐州作战计划时就已经预先估计了以后的形势并把将来进行武汉作战也考虑进去了。日军原计划由豫东大平原南下，在皖北平原沿淮河西进，都因黄河决口而停止。不过，滔滔黄河水并没有使侵略者的铁蹄完全陷入泥泞中，它阻止了日军机械化部队沿平海路南下的迅猛攻势，却没有改变日军夺取武汉的决心。由北方进攻武汉的作战计划破产后，日军又改变作战路线，将主力南调，配合海军改取东侧陆路及溯江西上的进攻途径，对武汉志在必得。
武汉位于长江中游，素有“九省通衢”之称，既有长江水路联络东西，又有平汉、粤汉铁路贯通南北。南京陷落之后，国民政府西迁重庆，但国民党的政治、军事、经济中心仍在武汉。当时，中国共产党在武汉也有代表团和八路军办事处。徐州撤退后，中国军队的主力也集结在武汉周边地区，武汉成为继续指挥全国抗战的枢纽。
抗战初期中国的机关、工厂、学校人口的西迁，也是主要以武汉为中轴，由东部沿海转移到西部山区的。从完整的意义上讲，1938年的武汉是中国由立国东部沿海，转移到立国西部山区进行长期抗战的中转轴。在北平、上海、南京等大城市相继失守，大片国土沦陷的背景下，无论是从鼓舞民众斗志增强持久抗战信心，还是从消耗日军实力苦撑待变的国际战略来考虑，国民政府和蒋介石都不得不积极地组织动员保卫武汉的战役。
始终站在抗日战争前列的中国共产党，以其抗日民族统一战线的全面抗战路线、政策发挥着政治引导作用；国民党在国统区处于执政地位，掌握着军事上的经济上的指挥权，国民政府是中国在国际上的合法代表，更是负着义不容辞的守土抗战之责。所以，抗战初期第二次国共合作的形成与发展是比较和谐的。当时压倒一切的最高政治任务就是挽救民族的危亡，将日本侵略者逐出中国。武汉会战正是在这种全民族抗战的政治氛围中展开的。
自卢沟桥事变以来，中国军民的奋勇抗击沉重打击了日本侵略者的狂妄气焰。到1937年底，侵华日军已占其陆军总兵力的2/3，这使日军统帅部深感行将陷入长期消耗的泥沼，严重地影响了北进（苏联）或者南下（夺取太平洋和东南亚）的计划。为了避免这种影响，日军集中全力进攻武汉。日本昭和研究会提出的《关于处理中国事变的根本办法》中指出，“为了彻底打击国民政府，使它名义上和实质上都沦为一个地方政权，必须攻下汉口、广东（州）以及其他抗战中枢”。他们尤其重视汉口，认为“首先为了摧毁抗日战争的最大因素——国共合作势力，攻下汉口是绝对必要的”。日军统帅部的攻占武汉的意图是“将蒋政权逐出中原，压迫到边陲地区，以取得战略、政略的有利态势”。
日军新的作战计划是三路合围武汉：江北一路由安徽陆路西进，意图夺取河南信阳，截断平汉线，再转南穿越大别山和桐柏山，威逼武汉；一路沿长江上溯，直趋武汉；江南的一路也直逼武昌，随时都可以得到江上部队的支援。
对蒋介石来说，武汉势在必守。鉴于以前南京保卫战演成瓮中之鳖的惨痛教训，考虑到武汉三镇在地理位置上无险可守的实情，蒋介石与中国统帅部综合采纳了中外军事顾问的建议，一改过去守城阻击的作战方式，把防守作战重点放置在武汉外围地区。“保卫大武汉”的口号一时响彻于整个大后方。跳出了一城之攻守战圈子的武汉会战，是以武汉为中心，以鄂、皖、豫、赣为广阔战场的大战役。蒋介石指示：在江南，以浙赣山区为新成立的第九战区的主战场；在江北，以鄂豫皖交界处的大别山地区为第五战区的主战场；统帅部留在武汉，居中协调指挥。从6月份起，保卫大武汉成为了舆论的中心内容。各界民众，国民党上层的军政要员和广大爱国将士都不同程度投入了保卫武汉的战役中。
（蒋介石主持会议制订武汉作战计划）
1938年6月中旬至7月初，又制定和完善了武汉保卫武的作战计划。国民政府保卫武汉的战略构想是：华中地区，运用第五、第九两战区兵力，在武汉外围节节抗击敌人的进攻，换取至少4个月的时间，予敌以最大消耗，以粉碎敌人继续进攻的能力，重点防御江南地区。特别把重点放在外翼，争取行动上的自由。由此，部署重兵坚守马当要塞，把日军阻挡于鄱阳湖以东地区，阻止其溯江西犯；并且在武汉外围部署主力军，利用鄱阳湖和大别山以及长江两岸丘陵、湖沼等有利地形进行阻击。从南昌，九江，黄梅，鄂豫皖边境的大别山一线为第一防御地带，实施逐次抵抗；以田家镇，广济，罗田，麻城，武胜关一线为第二防御地带，进行决战。第一、二、三各战区仍以现在部署，守备华南海岸及华东、华北现有阵地，并积极发展游击战争，以牵制敌向武汉转用兵力。
在这个计划指导下，由蒋介石亲任作战总指挥，调集第五战区、第九战区和海空军各一部，共约120多个师、100万人，沿大别山、鄱阳湖及长江两岸，组织防御，准备作战。除了在大别山区各要隘部署兵力，安设重炮准备迎击陆路进攻的敌军外，还在长江安设水雷，并在沿江两岸要塞布防，阻挡日军循水路进攻。苏联援华志愿航空队也参加了这次会战。
安庆、九江为长江的江防要地，日军进窥武汉，首先着眼于安庆。6月2日，日军第六师团自合肥南下意图夺取安庆。江淮地区时值梅雨天气，加上道路破坏，担任先锋的坂井支队前进缓慢。为增强突击力，日军华中派遣军改变策略，调遣曾驻防台湾适应亚热带气候作战的波田支队担任溯江战的先遣部队，协同海军沿长江进攻安庆。6月11日夜，该支队在大雨中偷袭登陆，15日安庆沦陷，中国守军杨森第二十七集团军以一部在安庆西北集关等地继续阻地前进，主力则向太湖方向转移。安庆失陷，为日军大举进犯武汉建立了补给基地，从而拉开了武汉会战的序幕。
