1944年6月下旬，日軍繼攻占長(zhǎng)沙之后，又發(fā)起了對(duì)衡陽的進(jìn)攻。中國(guó)守軍方先覺部奉命進(jìn)行了英勇的抵抗。
此前，蔣介石曾打電話給駐守衡陽的第十軍軍長(zhǎng)方先覺，命令他在衡陽固守10天到兩周時(shí)間，吸引消耗日軍兵力后，配合外圍部隊(duì)內(nèi)外夾擊，將日軍主力消滅在衡陽附近地區(qū)。
6月23日凌晨，日第六十八師團(tuán)抵達(dá)衡陽市郊，第十軍按預(yù)定計(jì)劃將價(jià)值上百萬元的炸藥裝入湘江大橋，將花費(fèi)了2億元和無數(shù)勞工心血筑成的湘江大鐵橋炸毀。拂曉，日軍第六十八師團(tuán)一部從泉溪市強(qiáng)渡來水，向第一九○師五六八團(tuán)第一營(yíng)前沿?fù)?jù)點(diǎn)發(fā)起攻擊。衡陽保衛(wèi)戰(zhàn)正式拉開。
24日，日第一一六師團(tuán)抵達(dá)預(yù)十師陣地前面，第三師主力已回到城中。日第六十八師團(tuán)進(jìn)攻五馬歸槽被暫五十四師擊退。25日，黃昏時(shí)分，日軍進(jìn)占飛機(jī)場(chǎng)。
26日，日軍已從西、南兩面將第十軍包圍，并已展開了攻勢(shì)。方先覺命令東岸部隊(duì)撤回城區(qū)，開始了以城區(qū)為中心的作戰(zhàn)。
日第六十八師團(tuán)攻占飛機(jī)場(chǎng)后，以第五十八旅團(tuán)主力進(jìn)入衡陽西南方，日第一一六師團(tuán)主力亦進(jìn)入衡陽市西北方。27日晚， 日第六十八師團(tuán)與第一一六師團(tuán)協(xié)商準(zhǔn)備在28日開始總攻。
28日零時(shí)，日軍兩個(gè)師團(tuán)發(fā)起攻擊，日六十八師團(tuán)五十八旅團(tuán)對(duì)城南預(yù)十師三十團(tuán)進(jìn)行猛攻，守軍第七連官兵奮起反擊，數(shù)次打退日軍進(jìn)攻。
從6月28日到7月2日的五天五夜中，戰(zhàn)斗主要集中在城南預(yù)十師陣地上進(jìn)行。
預(yù)十師二十八團(tuán)方面，戰(zhàn)斗主要在第三營(yíng)江西會(huì)館和五桂嶺陣地展開。經(jīng)過28、29日兩天抵抗，打退日軍數(shù)次進(jìn)攻，營(yíng)長(zhǎng)李若棟負(fù)傷。30日下午，日軍對(duì)五桂嶺南端陣地連續(xù)炮擊，陣地守軍全部躲入掩體。日軍惱羞成怒，竟發(fā)射毒氣彈，并持續(xù)半小時(shí)之久。在這次毒氣襲擊中，該地七連官兵八十余人全部犧牲。①
預(yù)十師三十團(tuán)方面，是日軍進(jìn)攻最激烈最兇猛的地方。該團(tuán)防守湘桂鐵路修械廠附近陣地。修械廠前面有楓樹山和張家山兩個(gè)堅(jiān)固據(jù)點(diǎn)，對(duì)日軍形成極大威脅。尤其張家山，是城南預(yù)十師的突出據(jù)點(diǎn)，為整個(gè)陣地的鑰匙。日軍如不拿下張家山，便無法接近預(yù)十師核心陣地。 日軍動(dòng)用了所謂“最強(qiáng)悍的黑賴聯(lián)隊(duì)”。在28、29日兩天中，黑賴聯(lián)隊(duì)的攻擊均被打退。30日，黑賴發(fā)動(dòng)更為猛烈的沖刺，終于奪取了張家山前面的兩個(gè)高地。此時(shí)，防守張家山的第二營(yíng)傷亡已達(dá)70%,營(yíng)長(zhǎng)徐聲先負(fù)傷身亡，由團(tuán)副甘握維繼任營(yíng)長(zhǎng)指揮作戰(zhàn)。團(tuán)長(zhǎng)陳德生派第一營(yíng)營(yíng)長(zhǎng)蕭維率兩連人馬進(jìn)行反攻，奪回兩個(gè)高地。夜半時(shí)分，日軍再次猛撲，又突入高地內(nèi)與守軍發(fā)生混戰(zhàn)。陳德生即刻親率第一營(yíng)預(yù)備隊(duì)和團(tuán)直屬隊(duì)組成的一個(gè)連趕來增援。因天黑，無法辨認(rèn)，雙方援軍都不敢貿(mào)然前進(jìn)。而陳德生所率援軍還是先日援軍到達(dá)陣地，搶占了有利地形，將日軍趕下山去。黑賴經(jīng)此失敗后，于7月1日早晨，將全聯(lián)隊(duì)的24挺機(jī)槍和十?dāng)?shù)門火炮集中起來，對(duì)張家山陣地實(shí)施轟擊，然后實(shí)施沖擊，結(jié)果兩次沖擊均告失敗。7月2日上午，黑賴聯(lián)隊(duì)利用守軍中毒昏迷之機(jī)，占領(lǐng)了張家山前的兩個(gè)高地。預(yù)十師師長(zhǎng)葛先才派師部工兵連和搜索連前來增援，終因傷亡慘重，未能重新奪回高地。葛先才將師部的兩個(gè)直屬連留給三十團(tuán)第一線，同時(shí)又將三十團(tuán)直屬機(jī)關(guān)兵員編成一個(gè)連，用以將該團(tuán)一、二兩營(yíng)殘余傷病官兵換下火線休息。
預(yù)十師二十九團(tuán)方面，因與三十團(tuán)陣地相連，戰(zhàn)斗也相當(dāng)激烈，其中以一個(gè)加強(qiáng)連防守的虎形巢據(jù)點(diǎn)，與張家山同為預(yù)十師陣地的鎖鏈， 日軍在五天五夜的攻擊中，沖鋒十多次，均被守軍擊退。
第三師防守的城西陣地，不是日軍進(jìn)攻重點(diǎn)，戰(zhàn)斗沒有預(yù)十師方面激烈。
日軍的第一次總攻擊受挫后，不得不暫停全面進(jìn)攻而待補(bǔ)給。7月3日以后，日軍開始實(shí)行重點(diǎn)攻擊，即以小股兵力對(duì)守軍陣地要點(diǎn)實(shí)行炮擊或沖鋒，以牽制或迷惑守軍，掩護(hù)其大兵團(tuán)進(jìn)行補(bǔ)給，待機(jī)發(fā)動(dòng)新進(jìn)攻。
第十軍奉命守衡陽時(shí)，只準(zhǔn)備半個(gè)月糧彈。從6月23日到7月10日，戰(zhàn)斗相持已經(jīng)半月以上，步槍子彈已消耗60%、手榴彈消耗三分之二、迫擊炮彈消耗80%、山野炮彈消耗90%。
為誘殲中國(guó)軍隊(duì)主力，橫山勇夫根據(jù)其高級(jí)參謀島貫的建議：“衡陽機(jī)場(chǎng)既已占領(lǐng)，無需急于攻取衡陽，使敵人多少抱有收復(fù)失地的希望，誘其反攻，以便圍殲敵中央軍主力于戰(zhàn)場(chǎng)附近，并有利于今后直向桂林挺進(jìn)。”于是，橫山命令其前線部隊(duì)故意作出撤退假象，誘使第十軍出擊。方先覺沒有上日軍的當(dāng)。本來， 日軍第一次總攻受挫，其糧彈發(fā)生困難之際，應(yīng)趁機(jī)圍攻日軍才是，但國(guó)民黨軍最高統(tǒng)帥部卻被假象所迷惑，喪失了衡陽解圍的有利時(shí)機(jī)。
7月10日，日軍后方輸送的火炮和彈藥到達(dá)衡陽前線，日六十八師團(tuán)新任師團(tuán)長(zhǎng)堤三樹男到任。日航空部隊(duì)亦準(zhǔn)備妥當(dāng)。從11日起，日軍對(duì)衡陽開始進(jìn)行第二次總攻擊。日軍進(jìn)攻的重點(diǎn)由城南正面稍微向西移動(dòng)，改在城南偏西方面，但仍然是預(yù)十師的陣地。
第二十八團(tuán)方面，戰(zhàn)斗重點(diǎn)在五桂嶺以東以南江西會(huì)館和外新街附近第三營(yíng)陣地。11日，日機(jī)炮火猛烈轟擊，江西會(huì)館陣地九連一部全被炸死；五桂嶺南端八連陷于危境。12日，日軍百余人沖入外新街，八連官兵奮起巷戰(zhàn)，近黃昏時(shí)，只剩下一名班長(zhǎng)和兩名士兵。三營(yíng)營(yíng)長(zhǎng)翟玉崗見狀，命令配屬給他的軍部搜索營(yíng)一連向外新街日軍反擊。13日拂曉，突入外新街的日軍全被消滅。14日，突擊小組還乘夜偷渡湘江，潛入東岸日軍炮兵陣地，以手榴彈炸毀敵炮兩門。15日，五桂嶺東南陣地九連傷亡近盡。幸虧有第三師第八團(tuán)第四連趕來增援，才將日軍擊退。五桂嶺附近的一四一高地， 日軍從11至15日反復(fù)發(fā)動(dòng)數(shù)次沖鋒，防守該地的第一營(yíng)傷亡慘重，后經(jīng)軍部搜索營(yíng)第二連參與反擊，才保住了陣地。
第三十團(tuán)方面，仍是日軍攻擊的重點(diǎn)，張家山還是日軍爭(zhēng)奪的主要目標(biāo)。從11日晚上開始，黑賴聯(lián)隊(duì)連攻三晝夜。黑賴在炮空掩護(hù)下，以步兵百余人為波隊(duì)，一波接著一波地向張家山據(jù)點(diǎn)沖擊。張家山前兩個(gè)高地三次失陷三次奪回。第一次由三十團(tuán)一、二兩營(yíng)殘余官兵奪回；第二次由師部防毒連和三十團(tuán)雜兵編成的混合連奪回，但日軍立即反撲，防毒連全部陣亡，接著由軍部工兵營(yíng)營(yíng)長(zhǎng)陸伯皋率兩連第三次奪回。13日下午，日軍再攻張家山前兩高地，工兵營(yíng)兩個(gè)連傷亡幾盡，陣地陷入敵手。此時(shí)，方先覺令第三師第八團(tuán)第一營(yíng)營(yíng)長(zhǎng)率兩連歸葛先才指揮，跑步前往作第四次反擊，但日軍亦大量增援，經(jīng)過一陣廝殺之后，仍然無力奪回，張家山陣地失守。
第二十九團(tuán)方面，爭(zhēng)奪的重點(diǎn)在虎形巢。11、12日兩晚，日軍的夾擊，均被擊退。13日晚，日軍在飛機(jī)轟炸和人工爆破的掩護(hù)下，預(yù)先將步兵埋伏在陣地前面，當(dāng)爆破聲落，立即向陣地沖擊。第二營(yíng)官兵英勇堵?lián)?，憑著手榴彈的優(yōu)勢(shì)打退了日軍三次沖鋒。14日零時(shí)，日軍第四次沖鋒，營(yíng)長(zhǎng)李振武等四分之三官兵傷亡，陣地喪失三分之二。團(tuán)長(zhǎng)朱光基令第一營(yíng)營(yíng)長(zhǎng)勞耀民率其殘部百余人前往增援，將日軍擊退。14日晚，日軍再興攻擊，雙方激戰(zhàn)至午夜，第三師第九團(tuán)第八、九兩連趕來參加反擊，雙方再度陷入激戰(zhàn)，八、九兩連連長(zhǎng)先后陣亡，勞耀民受傷。15日天明時(shí)分，虎形巢失守。
日軍連續(xù)五晝夜的進(jìn)攻，以重大的代價(jià)打開了張家山和虎形巢兩扇大門。據(jù)守該區(qū)的預(yù)十師第一線部隊(duì)三個(gè)團(tuán)，雖傷亡近盡，但他們?nèi)杂妙A(yù)十師三個(gè)團(tuán)的番號(hào)(基本上是由西面陣地抽出來的第三師第八、九兩團(tuán)的官兵和軍部直屬部隊(duì))。第十軍戰(zhàn)斗兵員日見減少，但日軍的攻勢(shì)卻沒有減弱。16日下午4時(shí)，日軍攻占市民醫(yī)院，接著又攻占了蕭家山、楓樹山等重要據(jù)點(diǎn)。在守軍防廣兵單的情況下，方先覺命令葛先才放棄第一線堅(jiān)固陣地，改守第二線陣地。17、18兩日，日軍以為第十軍埋伏，不敢貿(mào)然進(jìn)入已放棄的陣地。19、20日，日軍向第十軍第二線陣地發(fā)動(dòng)攻擊，但沒有進(jìn)展。于是， 日軍的第二次總攻停止，改為重點(diǎn)進(jìn)攻。
日軍對(duì)衡陽展開第二次總攻時(shí)，蔣介石于7月12日下令對(duì)衡陽解圍。第六十二、七十九兩軍為此奉命向衡陽進(jìn)發(fā)。7月14日，兩軍到達(dá)衡陽外圍并與日軍發(fā)生戰(zhàn)斗。六十二軍在攻占火車南站時(shí)，方先覺奉蔣命令，從軍部特務(wù)營(yíng)中精選官兵150人，組成五個(gè)突擊排，由營(yíng)長(zhǎng)曹華亭率領(lǐng)，冒死沖破日軍重圍，向西南郊方面尋找援事。他們到達(dá)五里亭時(shí)，援軍已經(jīng)撤走，曹營(yíng)長(zhǎng)只好率部殺回城內(nèi)。
7月23日，當(dāng)?shù)诹姀幕疖嚹险境纷吆?，日軍加?qiáng)了反擊，但再也無法接近南站了。第七十九軍進(jìn)入西郊后，一直與日軍在賈里渡、銅錢渡、雞窩山一帶形成對(duì)峙狀態(tài)，不能前進(jìn)。7月27日，軍委會(huì)將第四十六軍、七十四軍一部投入戰(zhàn)斗，協(xié)助第六十二、七十九兩軍進(jìn)攻。到8月2日，戰(zhàn)斗進(jìn)行了一星期，仍無進(jìn)展。8月3日， 日軍向衡陽發(fā)動(dòng)第三次總攻擊。
第十軍自7月16日退守第二線后，一直到7月底，日軍每晚都發(fā)動(dòng)重點(diǎn)進(jìn)攻。經(jīng)過一個(gè)多月的戰(zhàn)斗，第十軍傷亡十分慘重：軍部直屬隊(duì)已傷亡三分之二；預(yù)十師傷亡90%;第三師傷亡70%;第一九○師僅剩四百多人。各部中下級(jí)軍官幾乎全部傷亡。由于守城時(shí)間較長(zhǎng)，官兵傷亡慘重，武器大部被毀，彈藥無法補(bǔ)充，第十軍面臨的困難十分嚴(yán)重。
8月4日清晨，日軍六十八、一一六、四十、五十八、十三等師團(tuán)對(duì)衡陽發(fā)動(dòng)了第三次總圍攻。五個(gè)師團(tuán)各種火炮一百多門，炮彈四萬余發(fā)向衡陽西南陣地傾瀉。由于預(yù)十師傷亡殆盡，防守第一線的任務(wù)已由第三師頂替。第三師第八團(tuán)在五桂嶺北部，第九團(tuán)在天馬山附近，第七團(tuán)在楊林廟附近，預(yù)十師殘余官兵在岳屏山附近等陣地上均與日軍展開了殊死的搏斗。
8月5日，日軍繼續(xù)以強(qiáng)大的炮火掩護(hù)步兵沖鋒。守軍陣地全毀，據(jù)守在陣地上的官兵不眠不休，不飲不食，與日軍進(jìn)行最后搏斗。
6日早晨，城北蒸水南岸第一九○師陣地演武坪被日軍攻破，守軍全亡。
8月7日拂曉，暫五十四師一營(yíng)官兵加入戰(zhàn)斗，在各陣地上繼續(xù)抵抗日軍。當(dāng)日軍由城北突入時(shí)，方先覺與四位師長(zhǎng)聯(lián)名給蔣介石發(fā)出一電，表示誓以死報(bào)效黨國(guó)，勉盡軍人天職。此時(shí)，守軍仍在五桂嶺北部、岳屏山、天馬山等地與日軍進(jìn)行拉鋸戰(zhàn)，西南陣地仍然穩(wěn)定。
由于援軍打不進(jìn)城來，守軍官兵傷亡大半，彈盡糧絕，所以，方先覺不得不考慮結(jié)果問題。8月5日下午3時(shí)，方先覺召開了有四個(gè)師長(zhǎng)、軍參謀長(zhǎng)、戰(zhàn)區(qū)督戰(zhàn)官等人參加的會(huì)議，討論了下一步的行動(dòng)。
8月7日，日軍由演武坪向十軍軍部逼進(jìn)時(shí)，預(yù)十師二十八團(tuán)團(tuán)長(zhǎng)曾京帶了十幾個(gè)人來搶救方先覺，想保方突圍。方說：“你不要管我.你要守住你的陣地，趕快回去?！比胍梗较扔X對(duì)他的幕僚和衛(wèi)兵說：“你們已陪我盡到了最大責(zé)任，你們各自想辦法尋生路去吧，我就死在這里。”說完就要去奪衛(wèi)兵的槍自殺。以后方幾次想自殺都被阻止了。
8月7日下午3點(diǎn)，第三師師長(zhǎng)周慶祥命令其第九團(tuán)在天馬山陣地上豎起了白旗。方先覺對(duì)其部下的“求生”行為，沒有進(jìn)行阻止。相反，他也想通過天馬山的白旗來了解日軍對(duì)俘虜?shù)膽B(tài)度。當(dāng)時(shí)，除天馬山之外，其余的部隊(duì)都還在繼續(xù)猛烈抵抗。晚上，他將各師師長(zhǎng)叫到軍部開會(huì)。方先覺選擇了投降的道路。晚上10點(diǎn)，方在擬好的條件上簽了字，并派周慶祥和副官處長(zhǎng)張廣寬帶一個(gè)日文翻譯，到第八團(tuán)五桂嶺陣地用喊話方式向日軍指揮所聯(lián)系，但沒有聯(lián)絡(luò)上。后來改在天馬山方面，與日第一一六師團(tuán)聯(lián)系，終于接上了頭。日軍指揮官答復(fù)說：對(duì)投降表示歡迎，關(guān)于所提“不殺俘虜”、“保留建制”等要求表示接受，并說已通知前線日軍?；穑煌瑫r(shí)，日軍指定方先覺于8日拂曉出城，到五桂嶺面談，全部武器集中到南門外馬路兩旁。
8日上午，方先覺隨部隊(duì)前往日方準(zhǔn)備的投降談判場(chǎng)所涂仁中學(xué)， 日部隊(duì)長(zhǎng)偕幕僚長(zhǎng)以下諸人于午前10時(shí)45分在學(xué)校防空壕內(nèi)開始談判。壕內(nèi)置有一張木桌，部隊(duì)長(zhǎng)坐在正面，方軍長(zhǎng)坐在他的對(duì)面，該軍長(zhǎng)兩側(cè)為第十軍參謀長(zhǎng)孫鳴玉以下諸人。 日部隊(duì)長(zhǎng)以嚴(yán)重的口氣凜然地說：本官以日本軍最高指揮官的資格要求貴官：放棄貴軍所提七項(xiàng)投降條件，只能是無條件投降。并要求方先覺及時(shí)答復(fù)。方聽了翻譯的話以后，低聲答道：“服從這個(gè)要求?！比詹筷?duì)長(zhǎng)說：“至于解除武裝的事，回頭聽日軍指示?！?2時(shí)，方軍長(zhǎng)在投降書上簽了字。最后，日參謀長(zhǎng)向方軍長(zhǎng)要求道：“請(qǐng)命令衡陽重慶軍即時(shí)停止戰(zhàn)斗行為。”方軍長(zhǎng)及各師長(zhǎng)也都無異議的同意了。
對(duì)于投降一事，方先覺后來進(jìn)行了否定。1976年，方先覺在臺(tái)灣曾向日本《產(chǎn)經(jīng)新聞》記者古屋奎二聲明，說他們當(dāng)時(shí)不是投降，而是和平談判停戰(zhàn)。方在敘述當(dāng)時(shí)的情況時(shí)說：“翌晨，有自稱為日軍第十一軍使者的竹內(nèi)參謀來接洽停戰(zhàn)，當(dāng)即告訴他，我們絕沒有投降之意，同時(shí)提出：(一)保證生存官兵安全，并讓他們休息；(二)收容傷兵，并鄭重埋葬陣亡官兵等條件。竹內(nèi)說： ‘中國(guó)軍勇敢作戰(zhàn)的情形，不僅在此地的日軍，就連日本天皇和大本營(yíng)都已有所聞?！氐乇硎揪匆?，并對(duì)我方的條件完全同意，而日本記錄說我們投降，甚至有說是舉行了投降儀式，是絕對(duì)錯(cuò)誤的，我以軍人的名譽(yù)發(fā)誓沒有那回事?！?br>方先覺投降以后，他與幾個(gè)師長(zhǎng)一起被關(guān)在黃茶嶺的一所天主教堂里， 日軍決定利用他來做汪蔣合作工作。 日軍一方面要他發(fā)表書面談話，表示他決心參加“和平”運(yùn)動(dòng)，擁護(hù)汪偽政權(quán)；一方面授意他給蔣介石寫信，勸說蔣早日與汪精衛(wèi)合作。同時(shí)，日軍還將第十軍改編為“先和軍”(取方先覺之“先”與偽和平軍之“和”字),以方為軍長(zhǎng)，孫鳴玉為參謀長(zhǎng)，周慶祥、葛先才、容有略、饒少偉分別擔(dān)任第一、二、三、四師的師長(zhǎng)。日軍利用“先和軍”成立之機(jī)，還為他們舉行了虛偽的成立儀式和宴會(huì)。據(jù)饒少偉后來回憶：方先覺當(dāng)時(shí)知道日軍為他們舉行儀式的用意是要利用他們來拍照宣傳。方當(dāng)時(shí)說：“來在屋檐下，誰敢不低頭，日本人只照得我們的相，卻照不到我們的心?！睋?jù)說，方先覺在1944年10月10日“雙十節(jié)”這一天，在他的“先和軍”軍部天主教堂內(nèi)還舉行過國(guó)慶慶祝會(huì)。
“先和軍”成立后，原來看押方先覺等人的內(nèi)層日軍崗哨撤走了，警戒也比較松，而且日軍還發(fā)還第十軍一批武器。方先覺用它裝備了三個(gè)連，由葛先才帶隊(duì)開到衡陽東南15里的湘江渡口東陽擔(dān)任警備任務(wù)。日軍對(duì)方先覺所部看守的放松，為方先覺等人的逃跑創(chuàng)造了條件。最先逃出去的是周慶祥和孫鳴玉，其次是饒少傳，接著是方先覺，最后是葛先才和容有略。
方先覺逃到重慶后，受到了蔣介石的親切接見，還由全國(guó)慰勞總會(huì)出面，組織了一個(gè)盛大的歡迎會(huì)。方先覺和幾位師長(zhǎng)，都得到了青天白日勛章和數(shù)量可觀的慰勞金。以后，方先覺被任命為青年軍第二○七師師長(zhǎng)(相當(dāng)于軍長(zhǎng)),周慶祥被提升為副軍長(zhǎng)兼第三師師長(zhǎng)，孫鳴玉被任命為新編第三十六師師長(zhǎng)。