1937年8月的淞滬會戰(zhàn)爆發(fā)之后，中國軍事最高當(dāng)局把連接華北與華東兩大主戰(zhàn)場的山東省與江蘇北部地區(qū)，劃分為第五戰(zhàn)區(qū)，由蔣介石親自兼任戰(zhàn)區(qū)司令長官，山東省政府主席韓復(fù)榘任副司令長官。該戰(zhàn)區(qū)的主要任務(wù)是：“確占先制之利，根本打破敵軍登陸之企圖，此為作戰(zhàn)指導(dǎo)上之第一要義?？v使敵軍一部先行登陸，務(wù)必迅速圍攻而殲滅之，不使后續(xù)兵團(tuán)藉此以為安全登陸之掩護(hù)。此為作戰(zhàn)指導(dǎo)上之第二要義。必要時，在指定地區(qū)之范圍內(nèi)，扼要固守，絕對限制敵軍之進(jìn)展，運(yùn)用機(jī)動部隊而殲滅之，以確保我國軍南北兩戰(zhàn)場作戰(zhàn)連系之中樞?！?sup>[1]隨著淞滬抗戰(zhàn)之全面展開，為阻止華北日軍沿津浦路南下，第五戰(zhàn)區(qū)的地位益發(fā)顯得重要。同年10月中旬，國民政府改任李宗仁為該戰(zhàn)區(qū)司令長官，專門負(fù)責(zé)指揮保衛(wèi)津浦路的防御作戰(zhàn)。侵華日軍也早已看到該地區(qū)的戰(zhàn)略地位，在淞滬會戰(zhàn)激烈進(jìn)行之際，即令華北日軍沿津浦鐵路向南推進(jìn)；攻占南京后，又令華中日軍北上，以圖南北夾擊打通津浦鐵路。這樣，中日兩軍在津浦鐵路沿線又展開了一場新的較量。
華北日軍侵占平津地區(qū)后，隨著增援部隊陸續(xù)到達(dá)，開始分兵三路，向中國內(nèi)陸進(jìn)擊。當(dāng)時，退出平津兩市的第二十九軍，集結(jié)在天津南部的靜海、馬廠一帶與日軍對峙。為加強(qiáng)津浦路北段之防務(wù)，國民政府任命宋哲元為第一集團(tuán)軍總司令，統(tǒng)轄五個軍的兵力，在鐵路沿線構(gòu)筑陣地，阻擊日軍南侵。
1937年8月中旬，日軍第二軍第十師團(tuán)及第十六師團(tuán)之一部約4萬余人在天津附近集結(jié)完畢。8月21日起，第十師團(tuán)主力開始沿津浦路南犯。宋哲元第一集團(tuán)軍作為第一戰(zhàn)區(qū)右地區(qū)隊，奉命沿津浦路靜海、馬廠一帶，占領(lǐng)縱深陣地，阻敵南下。至30日，中日雙方歷經(jīng)9晝夜激戰(zhàn)，中方津浦路北段靜海等前進(jìn)陣地及警戒陣地相繼不守，日軍進(jìn)至馬廠。9月1日，日軍在優(yōu)勢炮兵及空軍戰(zhàn)機(jī)的掩護(hù)下，向中方部隊全線進(jìn)攻，戰(zhàn)況空前激烈，雙方混戰(zhàn)至4日，日軍攻陷子牙鎮(zhèn)、唐官屯，此后繼續(xù)南攻。為延遲日軍南進(jìn)步伐，宋哲元令騎兵第九師于南運(yùn)河、子牙河，分別選擇要點(diǎn)，實(shí)施決堤泛濫，日軍攻勢受阻。11日，日軍一部瘋狂而下，中國軍隊第三十七、第三十八師堵?lián)舨患?，致使馬廠失守，中國部隊退至姚官屯。
國民政府根據(jù)華北的新形勢，判斷日軍將采取更積極的行動，向山東境內(nèi)推進(jìn)。如日軍的目標(biāo)達(dá)到，則不僅使平漢路方面的防御增加壓力，而且更有利于日軍在青島方面之登陸。為打破敵人陰謀，必須堅守滄縣以北陣地。為此，一方面令第一集團(tuán)軍抓緊構(gòu)筑陣地，同時又令增援部隊編組為第三軍團(tuán)，以增強(qiáng)防御力量。鑒于當(dāng)時大同已告不守，且平漢路北段之日軍也已集結(jié)完畢，為加強(qiáng)對津浦路一線軍隊的指揮，軍事委員會單獨(dú)劃出津浦路北段為第六戰(zhàn)區(qū)，以馮玉祥為司令長官，指揮第一集團(tuán)軍、新成立之第三軍團(tuán)及第六十七軍、第二十三師。該戰(zhàn)區(qū)的具體任務(wù)是：“在滄縣附近固守，萬不得已時，亦應(yīng)在南波、泊頭鎮(zhèn)、獻(xiàn)縣之線持久抵抗，最后須在德縣東西之線竭力拒止敵人，以待第五戰(zhàn)區(qū)(山東)兵力之轉(zhuǎn)用?！?sup>[2]
沿津浦路南下之日軍第十師團(tuán)，在攻占馬廠后繼續(xù)追擊，連陷青縣、興濟(jì)。9月21日起，日軍第十師團(tuán)向姚官屯進(jìn)攻，并于23日向中方主陣地發(fā)起總攻，“姚官屯一帶陣地，失而復(fù)得達(dá)六七次之多”,中方“第四十軍折損頗重，不得已，以總預(yù)備隊第一○九師接替”^[3]。24日，姚官屯失陷。為掩護(hù)主力后撤，以建立新的陣地，宋哲元曾組織部隊逆襲，沒能如愿。日軍進(jìn)一步南犯，滄縣最終失守。津浦路北段作戰(zhàn)連連失利，南京當(dāng)局深感憂慮，于25日電告馮玉祥，令第六戰(zhàn)區(qū)各部隊務(wù)在桑園、德縣以北，“擇地固守，拒敵南進(jìn)，并應(yīng)集結(jié)兵力，力圖反攻，以開拓新局”^[4]。然而，該戰(zhàn)區(qū)各部隊連續(xù)戰(zhàn)斗之后，疲損交加，已無力阻止日軍新的進(jìn)攻。9月29日至10月1日，日軍相繼攻下泊頭、東光、桑園等地，并進(jìn)逼德縣。10月3日，日軍第十師團(tuán)9000余人進(jìn)犯德縣，中方第八十一師運(yùn)其昌旅第四八五團(tuán)負(fù)責(zé)防守，并等待援軍。由于中方增援部隊僅有第八十八師一團(tuán)到達(dá)，軍隊勢單力薄，與日軍難以抗衡，不得不于5日棄守德縣。此后，戰(zhàn)場延伸到山東境內(nèi)。
在德縣告急之時，南京當(dāng)局見形勢危急，于10月1日向山東的韓復(fù)榘第三集團(tuán)軍及第六戰(zhàn)區(qū)發(fā)出新的指示：為爾后作戰(zhàn)便利起見，應(yīng)以確保戰(zhàn)略要地為目的，各抽調(diào)有力部隊在黃河南岸布防，并構(gòu)筑工事。第三集團(tuán)軍在長清以東設(shè)防，第六戰(zhàn)區(qū)在長清以西設(shè)防。第三集團(tuán)軍還以一部兵力向德縣集結(jié)，掩護(hù)第六戰(zhàn)區(qū)各部隊轉(zhuǎn)移。然而，該軍援兵尚未到達(dá)，德縣已失。10月12日，日軍偷渡舊黃河，突破黃河崖陣地，一路追擊。次日，日軍攻陷平原，韓復(fù)榘第三集團(tuán)軍于14日夜退守徒駭河南岸布防，與敵對峙。10月20日，軍事委員會調(diào)整津浦路沿線之作戰(zhàn)，將其劃歸李宗仁第五戰(zhàn)區(qū)負(fù)責(zé)，第一集團(tuán)軍宋哲元部改歸第一戰(zhàn)區(qū)指揮，第六戰(zhàn)區(qū)撤銷。同時，軍委會訓(xùn)令第五戰(zhàn)區(qū)，“應(yīng)確保山東要地，以現(xiàn)在前方之部隊擔(dān)任東海、青島及膠東半島各海岸守備，并阻止敵由津浦路南下，以后方部隊集結(jié)于徐州、商丘一帶地區(qū)，以策應(yīng)前方部隊之作戰(zhàn)”^[5],“為顧及爾后狀況之變化，應(yīng)于魯南一帶山地構(gòu)筑核心工事”^[6]。
是時，第五戰(zhàn)區(qū)韓復(fù)榘第三集團(tuán)軍主力正部署于徒駭河及黃河南岸一線，而沿津浦路南下之日軍兵力亦十分有限：第十師團(tuán)僅以騎兵與裝甲車中隊為主的先遣部隊一路猛攻，其主力尚未到達(dá)；第一○九師團(tuán)之主力已西進(jìn)至深縣、辛集，靠近石家莊而遠(yuǎn)離津浦路，僅川本旅團(tuán)之一部仍留在滄縣附近。見此形勢，蔣介石于10月16日向第三集團(tuán)軍下令：“敵人冒險深入，顯已犯有戰(zhàn)術(shù)上重大錯誤，該部應(yīng)積極活動，襲敵側(cè)背?！眱商旌螅俅坞娛荆骸盀榇_實(shí)遲滯敵軍前進(jìn)計，禹城以北之鐵路，務(wù)必徹底破壞，但敵主力目下已轉(zhuǎn)向晉省，當(dāng)面之?dāng)?，為?shù)不多，希努力加以牽制，并著游擊隊，積極向其側(cè)背活動為要?！?sup>[7]根據(jù)軍委會命令，第三集團(tuán)軍出動部分軍隊及游擊隊對日軍進(jìn)行襲擾，取得一定成效。10月26日，軍事委員會再次對第三集團(tuán)軍下達(dá)如下指示：“迭據(jù)確報，津浦、平漢兩路之?dāng)?，大部轉(zhuǎn)用于晉東、晉北后，各僅殘余數(shù)千人，我為在九國公約開會前，能一新國際視聽，并牽制敵人兵力之轉(zhuǎn)用，該集團(tuán)軍應(yīng)以主力擊破當(dāng)面之?dāng)?，進(jìn)出滄縣附近地區(qū)，以與我平漢線進(jìn)出石家莊之第一集團(tuán)軍，相互策應(yīng)。”然韓復(fù)榘奉令后，“以兵力不足為由，對上述任務(wù)表現(xiàn)遲疑，一再電呈困難……極盡拖延之能事”,致使貽誤戰(zhàn)機(jī)^[8]。
11月5日，日軍經(jīng)慶云迂回南犯。8日，由于山西日軍已進(jìn)迫太原城下，津浦路日軍解除了后方的顧忌，同時也已集結(jié)足夠的兵力，于是又開始向南推進(jìn)，進(jìn)犯臨邑，此后數(shù)日連陷無棣、樂陵、惠民等地。韓復(fù)榘見事態(tài)嚴(yán)重，才慌忙調(diào)動軍隊增援，但在日軍優(yōu)勢兵力壓制下，已無法扭轉(zhuǎn)被動局面。至13日，日軍攻陷黃河下游北岸重鎮(zhèn)濟(jì)陽，直接威脅中方陣地。軍委會根據(jù)情報，判斷日軍有越過黃河繼續(xù)南犯的企圖，乃指示第三集團(tuán)軍，應(yīng)排除萬難，以積極手段轉(zhuǎn)移攻勢，解臨邑之圍，爭取戰(zhàn)爭主動權(quán)。韓復(fù)榘奉令后雖有行動，但又以側(cè)背受到威脅，請準(zhǔn)許在不得已時，撤守黃河南岸。當(dāng)日，韓復(fù)榘為保存實(shí)力，未經(jīng)請示，即下令黃河北岸各部隊撤回南岸固守。韓部炸毀黃河鐵橋，中日兩軍隔岸對峙達(dá)40天之久。此間韓部并無積極布置，白白浪費(fèi)寶貴時間。12月初，平漢路日軍已進(jìn)抵安陽，并以一部侵入山東境內(nèi)的朝城，威脅第五戰(zhàn)區(qū)左翼的安全，韓復(fù)榘急調(diào)兵力防堵。對山東方面偏重西部，忽視津浦路正面防御，軍委會曾于11月下旬電令糾正，但韓復(fù)榘并未執(zhí)行。至南京淪陷后，韓復(fù)榘的抗戰(zhàn)立場更為動搖。
華北日軍推進(jìn)至黃河北岸后，原準(zhǔn)備立即渡河南下，但日本軍部因抽調(diào)二個師團(tuán)至華中后，擔(dān)心華北兵力不足，不同意擴(kuò)大戰(zhàn)線。參謀次長曾指示：“在現(xiàn)階段不準(zhǔn)備立即使貴軍在山東、海州方面進(jìn)行新的作戰(zhàn)，并望避免大概在太原、石家莊、德州一線以南進(jìn)行大規(guī)模的追擊或新的作戰(zhàn)行動?！?0月20日又將部分軍隊從華北調(diào)出后，23日在《臨參命第一百三十三號》中更明確規(guī)定：“華北方面軍司令官應(yīng)確保大概太原、石家莊、德州一線以北地區(qū)，并負(fù)責(zé)該地區(qū)的安定?！蓖瑫r又命令華北方面軍“應(yīng)盡力集結(jié)其兵力，努力整頓軍隊及恢復(fù)戰(zhàn)斗力^[9]。至12月中旬，日本軍部根據(jù)占領(lǐng)南京后的新形勢，為向中國進(jìn)一步施加壓力，同意華北日軍繼續(xù)向黃河以南攻擊。同時又給第二軍增調(diào)混成第四旅團(tuán)之一部及第五師團(tuán)之一部。于是，津浦路北段的戰(zhàn)事沉寂一個多月后，又重新展開。12月23日晚，日軍第一○九師團(tuán)之本川旅團(tuán)突然強(qiáng)渡黃河南岸，并一舉襲占周村，進(jìn)而切斷膠濟(jì)鐵路，連陷淄川、博山、萊蕪等地。24日夜，韓復(fù)榘匆忙棄守濟(jì)南，移駐泰安。至此，山東的局勢急轉(zhuǎn)直下。26日，津浦路正面之日軍第十師團(tuán)，也于濟(jì)陽一帶強(qiáng)渡黃河南岸，逼近濟(jì)南。在日軍的東西夾擊下，濟(jì)南于27日失陷。31日，泰安棄守，韓復(fù)榘率第三集團(tuán)軍向魯西南后撤，司令部退駐濟(jì)寧。韓復(fù)榘部的撤離，致使徐州北部失去屏障，影響所及，青島被迫于當(dāng)日棄守。
1938年1月1日起，日軍兵分兩路向南進(jìn)犯，于3日攻占新泰、曲阜，4日攻陷兗州、蒙陰，5日又攻陷歷山。沂蒙山區(qū)就此大部分淪陷。由東河進(jìn)犯之日軍，也相繼攻占東平、汶上，并與沿鐵路南下日軍會合，直逼濟(jì)寧。第五戰(zhàn)區(qū)司令長官李宗仁見韓復(fù)榘一路向魯西南山區(qū)敗退，于1月6日晚向其電示，強(qiáng)調(diào)運(yùn)河是山東省的最后堡壘，而汶上、濟(jì)寧又是運(yùn)河前方重要據(jù)點(diǎn)，因此必須固守。但韓未派有力部隊駐守，于1月11日棄守濟(jì)寧。日軍占領(lǐng)濟(jì)寧后，中日雙方戰(zhàn)事告一段落。津浦路北段作戰(zhàn)，歷時共4個月20天，中方軍隊傷亡約37,700人，馬500余匹^[10]。就在濟(jì)寧失守當(dāng)日，蔣介石召集第一、第五戰(zhàn)區(qū)團(tuán)以上軍官開會。會上，蔣介石對前段抗戰(zhàn)作了檢討，要求各將官徹底反省，腳踏實(shí)地地重整旗鼓。他還指出某些高級將領(lǐng)對抗戰(zhàn)毫無決心，“懷著一種保存實(shí)力的卑劣心理”,不但按兵不戰(zhàn)，還要擁兵自衛(wèi)。對此，蔣介石予以嚴(yán)厲譴責(zé)^[11]。1月24日，第三集團(tuán)軍總司令韓復(fù)榘因違抗軍令，回避作戰(zhàn)，擅自撤退，貽誤戎機(jī)，被軍事委員會免去本兼各職后槍決^[12]。同時，軍委會改派于學(xué)忠為第三集團(tuán)軍總司令，孫桐萱副之，曹福林為前敵總司令，并派員攜蔣介石親筆函去前線傳達(dá)中央抗戰(zhàn)的決心。至此，該集團(tuán)軍的士氣有所振作。
日軍攻占南京后，中國政府沒有屈服，日本開始考慮新的侵華戰(zhàn)略。它一方面調(diào)整侵華日軍的編制，同時又給各軍下達(dá)新的任務(wù)。華北方面軍的任務(wù)是：“確保從膠濟(jì)沿線及濟(jì)南經(jīng)上游黃河左岸現(xiàn)已占據(jù)地區(qū)的安定外，以航空部隊繼續(xù)攻擊敵國內(nèi)要地，并應(yīng)極力充實(shí)各部隊的戰(zhàn)斗力?！?sup>[13]華北方面軍早在上年底開始，曾多次向東京提出，為使華北、華中連接起來，有必要進(jìn)行徐州作戰(zhàn)，占領(lǐng)黃河右岸鄭州、開封等據(jù)點(diǎn)，以向武漢施加威壓。對此，參謀次長于2月3日明確答復(fù)：“在膠濟(jì)鐵路沿線方面，現(xiàn)在已占據(jù)線或其他方面，均不得越過黃河線進(jìn)行作戰(zhàn)?！比A北方面軍再次申述需要超越上述范圍作戰(zhàn)的理由，但仍遭否決，于是在2月5日向第二軍發(fā)出了確?，F(xiàn)占領(lǐng)區(qū)并維持安定的命令^[14]。
為打破日軍大本營之不擴(kuò)大方針，誘敵北上，蔣介石決定采取內(nèi)線作戰(zhàn)的方針，對津浦路北段采取攻勢，而對津浦路南段采取守勢。2月6日，在蔣介石的指示下，李宗仁下達(dá)電令，命第三集團(tuán)軍主力由大運(yùn)河西岸向濟(jì)寧及以北作迂回攻擊，并以第二十二集團(tuán)軍由津浦路北正面向鄒縣、曲阜攻擊，同時令李品仙統(tǒng)一指揮津浦路南段第十一、第二十一、第二十七集團(tuán)軍及第五十一、第五十九軍，沿淮河布防，阻敵北犯。根據(jù)部署，中方第三集團(tuán)軍以所部第十二、第五十五軍向津浦路北段日軍發(fā)起攻擊，雙方爭奪甚烈。2月12日夜，第三集團(tuán)軍首先渡過運(yùn)河，分向濟(jì)寧、汶上攻擊，所部第十二軍第二十二師一舉占領(lǐng)濟(jì)寧北關(guān)，一部沖入城內(nèi)，與日軍展開逐屋爭奪。
是時，與中國第五戰(zhàn)區(qū)軍隊對峙的日本華北方面軍第二軍也不甘采取守勢，而希望給予一擊，打破中國軍隊的反擊企圖。2月14日，第十師團(tuán)大舉南犯，一舉攻陷界河。蔣介石急令湯恩伯第二十軍團(tuán)主力分向臨城、商丘、蒙城集結(jié)待命，后又令孫連仲第二集團(tuán)軍隨時準(zhǔn)備機(jī)動至徐州地區(qū)參加作戰(zhàn)。16日，第三軍團(tuán)圍攻蒙陰、泗水，一度突入城內(nèi)。次日，日軍第二軍命令第五師團(tuán)“以一個支隊配合向沂州方向前進(jìn)的第一師團(tuán)作戰(zhàn)”^[15],第五師團(tuán)片野支隊^[16]遂由濰縣長驅(qū)直下，于19日攻陷穆陵關(guān)。此后，片野支隊與坂本支隊合力作戰(zhàn)^[17],并繼續(xù)南下，接連攻陷莒縣、日照、沂水，并準(zhǔn)備向臨沂攻擊。臨沂守軍名為一個軍團(tuán)，實(shí)際不足一個軍。為阻擊南下的日軍，第五戰(zhàn)區(qū)遂急調(diào)龐炳勛的第三軍團(tuán)至臨沂設(shè)防。日軍因臨沂久攻不下，又調(diào)兵增援，加強(qiáng)攻城火力。第三軍團(tuán)傷亡過大，漸感不支。津浦路南段日軍為策應(yīng)北段日軍作戰(zhàn)，也以第十三師團(tuán)北犯，接連攻陷定遠(yuǎn)、鳳陽、臨淮關(guān)、蚌埠等地，此后又乘勢強(qiáng)渡淮河，進(jìn)占懷遠(yuǎn)要地。鑒于戰(zhàn)情緊急，第五戰(zhàn)區(qū)即令張自忠的第五十九軍急馳增援，戰(zhàn)區(qū)參謀長徐祖詒也親臨指揮。此時，由江南奉命馳援的第二十一集團(tuán)軍抵達(dá)合肥，并迅速協(xié)同第十一集團(tuán)軍第三十一軍向淮河南岸之定遠(yuǎn)發(fā)起進(jìn)攻。日軍迫于壓力退回淮河南岸，中國軍隊占領(lǐng)淮河北岸陣地并與日軍隔河對峙。
3月5日，日軍第五師團(tuán)坂本支隊攻占湯頭鎮(zhèn)，并企圖進(jìn)占臨沂。9日，坂本支隊再攻臨沂。根據(jù)李宗仁司令長官的命令，中國軍隊對臨沂正面日軍決定反守為攻，具體采用正面堅守，兩翼迂回，抄襲敵后的策略，從3月14日拂曉開始攻擊^[18]。戰(zhàn)斗打響后，雙方展開激烈爭奪戰(zhàn)，日軍因遭中國軍隊反擊，進(jìn)展緩慢^[19]。另一方面，蔣介石急調(diào)第五十九軍至臨沂北郊，協(xié)同第三軍團(tuán)對日軍展開反攻。日軍一再抵抗，不斷增援反撲，第一線要點(diǎn)屢得屢失，雙方形成拉鋸戰(zhàn)。16日，雙方在崖頭、劉家湖、茶葉山一帶展開肉搏戰(zhàn)，爭奪異常激烈。劉家湖失而復(fù)得四次，崖頭失而復(fù)得三次。茶葉山一度被日軍占領(lǐng)，旋即奪回^[20]。戰(zhàn)至17日夜，第五師團(tuán)坂本支隊被中方部隊擊潰，其兩個聯(lián)隊幾全被消滅，殘敵向湯頭退卻^[21]。其后，因第五十九軍主力調(diào)走，日軍又開始反擊，雙方再次激戰(zhàn)，但日軍始終未能攻破中國軍隊的防線。
與此同時，日本第十師團(tuán)也沿津浦路方面發(fā)動攻勢。盡管日本軍部在1938年初即做出收縮戰(zhàn)面的決定，但侵入山東地區(qū)的第二軍仍希望繼續(xù)南侵，為此，它向日本大本營請求：“追剿眼前之?dāng)?，決不是深入南進(jìn)作戰(zhàn)。為警備后方希望增加兵力?！?sup>[22]得到大本營認(rèn)可后，第二軍即令第十師團(tuán)向南推進(jìn)，攻占滕縣及附近地區(qū)。第十師團(tuán)于3月初以步兵第三十三旅團(tuán)為核心，另外還配以炮兵、裝甲兵若干，編成瀨谷支隊。瀨谷支隊于3月14日開始，向滕縣發(fā)起攻擊。滕縣是津浦鐵路上的一個據(jù)點(diǎn)，徐州北面的重要門戶。為阻止日軍南進(jìn)，保衛(wèi)滕縣，第五戰(zhàn)區(qū)把剛從鄭州來援的第二十二集團(tuán)軍鄧錫侯部調(diào)去防堵。該軍來自四川，武器粗劣，環(huán)境也尚未適應(yīng)，但官兵們憑著滿腔愛國激情，不畏強(qiáng)敵，奮起抗擊。城內(nèi)守軍三個營，在第一二二師師長王銘章的率領(lǐng)下，不顧日軍大炮和飛機(jī)的狂轟濫炸，沉著應(yīng)戰(zhàn)。從16日清晨開始，多次擊退日軍進(jìn)攻。17日中午，王銘章以電報給集團(tuán)軍司令呈報城內(nèi)戰(zhàn)況：日軍用野炮、飛機(jī)從清晨至中午不斷猛轟，城墻缺口數(shù)處，敵步兵屢登城垣屢被擊退。同時又表示決心：決以死力拒守，以報國家，以報知遇。在日軍的強(qiáng)大攻勢下，滕縣于18日陷敵，守城各團(tuán)長、旅長及參謀長均先后陣亡，第一二二師師長王銘章中彈仆地，仍高呼殺敵，最后以身殉國^[23]。
日軍瀨谷支隊在圍攻滕縣時，另遣其第六十三聯(lián)隊繞道南下，直指臨城。第二十二集團(tuán)軍已無力堵截，剛到達(dá)臨城附近的第二十軍團(tuán)之一部，倉促應(yīng)戰(zhàn)，但無法阻止日軍的攻勢。瀨谷支隊攻占滕縣、臨城后，以第六十三聯(lián)隊第一大隊為右翼追擊隊，沿津浦路向韓莊進(jìn)擊；第二大隊為左翼追擊隊，向嶧縣進(jìn)擊。支隊主力則在臨城附近集結(jié)。3月20日，日軍攻占韓莊和嶧縣，當(dāng)天，第十師團(tuán)向?yàn)|谷支隊發(fā)出命令：“須確保韓莊、臺兒莊運(yùn)河一線，并警備臨城、嶧縣，同時應(yīng)以盡可能多的兵力向沂州方面突進(jìn)，協(xié)助第五師團(tuán)戰(zhàn)斗?！?sup>[24]22日，瀨谷支隊發(fā)出作戰(zhàn)命令：右翼追擊隊擔(dān)任韓莊附近之守備；臺兒莊派遣隊確保臺兒莊附近運(yùn)河一線^[25],沂州支隊于23日出發(fā)，策應(yīng)坂本支隊作戰(zhàn)；支隊主力集結(jié)在嶧縣附近。這一安排，完全不把面前的中國軍隊放在眼里。
對于第五戰(zhàn)區(qū)面臨的危急形勢，蔣介石十分重視。他一面考慮增調(diào)部隊，同時又在軍事上重新部署。3月20日，第五戰(zhàn)區(qū)根據(jù)副總參謀長白崇禧“誘敵深入，從東西兩面夾擊”的策略，作出詳細(xì)安排。兩天后，第五戰(zhàn)區(qū)下達(dá)作戰(zhàn)命令，宣布這次作戰(zhàn)之方略是：“以一部在運(yùn)河之線取防御態(tài)勢，以主力由嶧縣東南及東北山地側(cè)擊南下之?dāng)?，聚殲于臨棗支線亙韓莊運(yùn)河間地區(qū)。”^[26]為打好這一仗，蔣介石于24日親抵徐州視察，并令隨行的副總參謀長白崇禧、軍令部次長林蔚等組成臨時參謀團(tuán)，協(xié)助李宗仁指揮作戰(zhàn)。
23日晨，第十師團(tuán)瀨谷支隊以臺兒莊派遣隊(步兵第六十三聯(lián)隊第二大隊，野炮一大隊)由嶧縣向臺兒莊攻擊前進(jìn)。中方守軍第三十一師奮起迎擊，因日軍炮火過猛，只能且戰(zhàn)且退。當(dāng)晚，日軍推進(jìn)至臺兒莊西北約七公里之北洛。此時，第二集團(tuán)軍由孫連仲指揮的三個師已在臺兒莊一帶嚴(yán)陣以待。蔣介石也致電孫連仲等，命其對津浦北段輕舉暴進(jìn)之?dāng)硨?shí)施包圍，于微山湖畔殲滅之^[27]。次日，日軍在重炮掩護(hù)下向臺兒莊大舉進(jìn)攻，中國守軍奮起反擊，將敵人擊退，同時又及時調(diào)整部署，準(zhǔn)備日軍再次攻擊。第五戰(zhàn)區(qū)其他各軍，按照預(yù)定計劃，也主動向日軍出擊，使臺兒莊以北至棗莊間廣闊地區(qū)，硝煙蔽空，戰(zhàn)況激烈。因各軍缺乏重武器及空軍支援，這輪攻擊進(jìn)展不大。25、26兩日，中日兩軍在沂水兩岸亦展開激烈對抗。張自忠第五十九軍出擊受挫，被迫撤至河西，龐炳勛第三軍團(tuán)傷亡亦極慘重。27日，日軍猛攻沂水西岸的張自忠軍，張自忠軍兩日傷亡2000余人，連同以前在臨沂作戰(zhàn)，共傷亡達(dá)萬余人^[28]。
臺兒莊是中日雙方爭奪的重點(diǎn)，因相持不下，雙方各自一再增加援兵。為先解決該處日軍，第五戰(zhàn)區(qū)于28日令第二十軍團(tuán)放棄對嶧縣、棗莊的進(jìn)攻，主力南進(jìn)轉(zhuǎn)向臺兒莊。由于在臺兒莊被困的日軍約有一個聯(lián)隊，日軍第十師團(tuán)即令瀨谷支隊全力投入戰(zhàn)斗。30日，被困臺兒莊北門的日軍乘勢向東門區(qū)擴(kuò)張，與中國守軍發(fā)生激烈巷戰(zhàn)，雙方都有重大損失。此后，趕來增援的日軍憑借優(yōu)勢炮兵與機(jī)械化部隊不斷發(fā)動猛烈進(jìn)攻，與中方第三十一師劇烈巷戰(zhàn)，雙方反復(fù)肉搏，臺兒莊城寨雖大部被日軍占領(lǐng)，中國守軍仍頑強(qiáng)抵抗，不斷反擊，第三十一師連日作戰(zhàn)，傷團(tuán)長三、營長八，士兵約2000^[29]。此時，湯恩伯第二十軍團(tuán)開始反攻，并一度沖入棗莊。隨后，第二十軍團(tuán)以主力向臺兒莊東北側(cè)之日軍背后猛攻。戰(zhàn)至31日，日軍第十師團(tuán)瀨谷支隊已完全陷入中方部隊的包圍圈內(nèi)。因臺兒莊方面情勢危急，日軍第二軍令在沂州方面作戰(zhàn)的第五師團(tuán)救援瀨谷支隊，第五師團(tuán)遂命坂本支隊暫時中止攻擊沂州，前往增援^[30]。坂本支隊星夜趕赴向城、愛曲，企圖通過威脅中方第二十軍團(tuán)側(cè)背以解第十師團(tuán)之圍。第二十軍團(tuán)乘勢向北反轉(zhuǎn)迂回，遂將坂本支隊日軍大部投入中方臺兒莊包圍圈內(nèi)。此時，被中方包圍在臺兒莊的日軍，共有第五、第十師團(tuán)各一旅團(tuán)(即坂本、瀨谷兩支隊)及片野先遣隊，連同戰(zhàn)車、炮兵等特種部隊，其總兵力約4萬人^[31]。
鑒于增援部隊已全部到達(dá)，第五戰(zhàn)區(qū)司令長官李宗仁根據(jù)軍事委員會指示，決定從4月3日起開始總攻擊。負(fù)責(zé)堵?lián)舻牡谌瘓F(tuán)軍越過津浦鐵路向嶧縣、棗莊挺進(jìn)；擔(dān)任左翼攻擊的第二集團(tuán)軍擊退日軍猛攻，極力由南向北壓迫，并與右翼兵團(tuán)遙相呼應(yīng)；擔(dān)任右翼攻擊的第二十軍團(tuán)，除以第五十二軍向北攻擊被圍于愛曲附近之?dāng)惩猓硪缘诎耸?、七十五軍由岔河?zhèn)南北之線向西推進(jìn)。李宗仁亦親臨臺兒莊督戰(zhàn)。4月3日，第二十軍團(tuán)向日軍展開圍攻，奉命增援趕到的第七十五軍與第三十二軍第一三九師也一并投入戰(zhàn)斗。4日，中國空軍出動飛機(jī)27架分兩批在臺兒莊東北及西北地區(qū)投彈支援，殲敵甚眾^[32]。同日，蔣介石急電張自忠，命其所部第五十九軍一面阻止莒縣、沂水方向日軍前進(jìn)，一面以三日期限確實(shí)封鎖臺兒莊、臨沂及臺兒莊、費(fèi)縣間之交通，以確保臺兒莊會戰(zhàn)的徹底勝利^[33]。4月5日，被第二十軍團(tuán)3個軍及第二集團(tuán)軍圍困的日軍已經(jīng)死傷累累。坂本支隊見大局難于挽回，即開始準(zhǔn)備向北撤退。日軍瀨谷支隊被第二集團(tuán)軍三面圍攻，被迫于6日晚向北退卻，脫離戰(zhàn)場。坂本支隊見此情形，亦于第二天夜里向北脫離戰(zhàn)場。最終，日軍第十師團(tuán)瀨谷支隊、第五師團(tuán)坂本支隊被殲達(dá)2000余人^[34]。李宗仁見臺兒莊日軍已被打敗，但臨沂方面的日軍尚未擊潰，所以一方面調(diào)兵增援臨沂守軍，同時又組織力量乘勝追擊。
日軍瀨谷、坂本支隊在中國軍隊急攻猛追下，狼狽而退，撤至嶧縣附近才停腳集結(jié)。臺兒莊戰(zhàn)役是日軍發(fā)動全面侵華戰(zhàn)爭以來所遭受到的最慘重的失敗。在這次戰(zhàn)役中，日軍憑借其先進(jìn)武器及機(jī)械化裝備，向中國守軍一再發(fā)動猛攻，但在第五戰(zhàn)區(qū)各部將士奮勇抗擊下，終被打敗。臺兒莊戰(zhàn)役是全面抗戰(zhàn)爆發(fā)以來正面戰(zhàn)場上的一次重大勝利，沉重打擊了侵華日軍，極大地鼓舞了全中國人民的抗戰(zhàn)斗志。