國(guó)共內(nèi)戰(zhàn)規(guī)模日益擴(kuò)大，馬歇爾待在中國(guó)已無(wú)事可干。他一方面認(rèn)為國(guó)民黨僅憑武力無(wú)法統(tǒng)一中國(guó)，但又不能對(duì)國(guó)民黨施以強(qiáng)硬壓力；另一方面他對(duì)中共也不滿意，但更無(wú)力施以影響。二戰(zhàn)英雄馬歇爾面對(duì)中國(guó)的復(fù)雜局面，不能不承認(rèn)自己的無(wú)能，從而萌生退意。
還在馬歇爾未能使國(guó)民黨政府軍停止攻擊張家口時(shí)，他已感到自己對(duì)國(guó)民黨決策影響力的有限。10月5日，他致電華盛頓，表示他感覺(jué)他已不可能繼續(xù)作為調(diào)處者，并應(yīng)將此通告委員長(zhǎng)^[1]。11月13日，馬歇爾在與周恩來(lái)的會(huì)談中表示，“茍余公正不偏之誠(chéng)懇努力，不受信任，則余之力求調(diào)處，勢(shì)必?zé)o用?！视嘞Ｍw下愿正式自延安適當(dāng)之權(quán)力處決定彼輩是否希望余個(gè)人繼續(xù)目前之工作？余之興趣，全在以調(diào)處方法盡綿薄之力。余知如延安對(duì)余失去信任，余即無(wú)法做此工作?！?sup>[2]至此，馬歇爾對(duì)國(guó)共雙方都表示了他將退出調(diào)處之意。
國(guó)大開(kāi)幕后，馬歇爾還希望“利用我的影響力，以通過(guò)一部符合政協(xié)原則的民主憲法，在中國(guó)組織一個(gè)能夠支持好政府的真正自由派集團(tuán)，實(shí)現(xiàn)政府的改組，以有利于恢復(fù)和談并使共產(chǎn)黨重入政治活動(dòng)”^[3]。但馬氏此種表示并未體現(xiàn)在美國(guó)的政策上。在此期間，他與蔣介石有多次會(huì)見(jiàn)，他認(rèn)為國(guó)民黨僅靠軍事不足以言勝，當(dāng)務(wù)之急是由國(guó)大通過(guò)一部符合政協(xié)精神的憲法，然后成立有中共和民盟參加的國(guó)民政府委員會(huì)，并對(duì)行政院實(shí)行真正的改組。蔣介石則強(qiáng)調(diào)共產(chǎn)黨受蘇聯(lián)的影響，目的是瓦解政府，因此必須摧毀共產(chǎn)黨的軍事力量，如果做到這一點(diǎn)，共產(chǎn)黨問(wèn)題就不難解決。他自信可以在八到十個(gè)月內(nèi)消滅共產(chǎn)黨軍隊(duì)^[4]。
12月18日，美國(guó)總統(tǒng)杜魯門發(fā)表聲明，對(duì)一年來(lái)的美國(guó)對(duì)華政策作出了總結(jié)。聲明回顧了一年來(lái)中國(guó)形勢(shì)的發(fā)展，認(rèn)為中國(guó)一直未能用和平方法達(dá)成團(tuán)結(jié)目的實(shí)為一大遺憾。聲明表示：中國(guó)是一個(gè)主權(quán)國(guó)家，我們承認(rèn)這個(gè)事實(shí)，也承認(rèn)中國(guó)的國(guó)民政府。我們?nèi)匀幌Ｍ撜业胶推浇鉀Q的路徑。我們無(wú)意干涉中國(guó)的內(nèi)部事務(wù)。我們的立場(chǎng)是明確的。我們將維持我們幫助中國(guó)人民在其國(guó)家內(nèi)爭(zhēng)取和平與經(jīng)濟(jì)復(fù)興的政策，同時(shí)避免卷入他們的內(nèi)部沖突^[5] 。這個(gè)聲明在國(guó)大召開(kāi)期間發(fā)表，主要談及美國(guó)一年來(lái)的活動(dòng)和成就，為美國(guó)調(diào)處政策辯護(hù)。這個(gè)聲明與上年的聲明相比，聲調(diào)較為低沉，雖表示繼續(xù)支持國(guó)民黨，但顯示了美國(guó)對(duì)馬歇爾調(diào)處失敗的失望，對(duì)國(guó)民黨的支持并未完全如其所愿。不過(guò)，蔣介石卻有理由作另外的理解，他認(rèn)為杜氏的聲明不提中共參加改組后的政府但提及東北問(wèn)題，將和平破裂責(zé)任歸于中共，表示無(wú)論中國(guó)是否有戰(zhàn)亂美國(guó)都將給予援助等等，較之上年聲明“可判斷美國(guó)對(duì)華政策變動(dòng)的跡象，而且對(duì)于我們是有利的”^[6]。以后的事實(shí)證明，蔣這樣的樂(lè)觀多少有些一廂情愿。
至此，馬歇爾再留在中國(guó)已經(jīng)沒(méi)有實(shí)際意義。蔣介石為了拉住美國(guó)人，提出聘請(qǐng)馬歇爾為總顧問(wèn)，馬歇爾告訴司徒雷登，對(duì)這個(gè)建議最好的回答是：不。他認(rèn)為，自己作為一個(gè)美國(guó)政府全力支持的調(diào)解人尚且不能影響中國(guó)政府，就更別指望作為政府顧問(wèn)能在這個(gè)政府內(nèi)促成什么有益的回應(yīng)了^[7]。在隨后的會(huì)見(jiàn)中，馬歇爾干脆地拒絕了蔣的邀請(qǐng)。馬歇爾在和蔣介石及國(guó)民黨官員的會(huì)談中，一再告誡國(guó)民黨，期望美國(guó)為政府軍事領(lǐng)袖決心以武力解決問(wèn)題而造成的經(jīng)濟(jì)空洞注入金錢是不現(xiàn)實(shí)的，同時(shí)，期望美國(guó)為執(zhí)著于壟斷政府權(quán)力的反動(dòng)派系所控制的政府注入金錢也是不現(xiàn)實(shí)的。共產(chǎn)黨的軍事和政治力量已經(jīng)到了不可忽視的地步，不可能靠軍事力量去消滅。抵御共產(chǎn)黨的最好辦法，就是中國(guó)現(xiàn)在的政府實(shí)行改革，以獲取人民的支持^[8]。為安馬氏之心，王世杰告訴他，國(guó)民黨將改組政府以容納黨外分子，對(duì)于中共問(wèn)題，政府決不關(guān)閉談判之門，但對(duì)于恢復(fù)交通、收復(fù)失地、及行憲工作，則決不再因中共之拒絕妥協(xié)而延擱，希望繼續(xù)獲得美國(guó)的經(jīng)濟(jì)援助。馬氏對(duì)此未表示具體意見(jiàn)^[9]。
1947年1月7日，馬歇爾奉召回國(guó)擔(dān)任美國(guó)國(guó)務(wù)卿，他行前發(fā)表聲明稱：和平的最大障礙是中共和國(guó)民黨彼此間完全的、幾乎是壓倒一切的猜疑心，政府領(lǐng)袖深信，中共愿意參加政協(xié)所規(guī)定之政府完全出于破壞性的目的；中共則感覺(jué)政府并無(wú)實(shí)行政協(xié)決議、組織新政府的誠(chéng)意。因此，雙方對(duì)各自的立場(chǎng)，對(duì)每一項(xiàng)建議和可能性，都心存偏見(jiàn)和戒心。馬歇爾在聲明中對(duì)國(guó)共雙方均有批評(píng)。他認(rèn)為：最近談判破裂的最重要原因在于，國(guó)民政府亦即國(guó)民黨方面，有一居于優(yōu)勢(shì)地位的反動(dòng)集團(tuán)，反對(duì)我促成真正聯(lián)合政府的一切努力，他們公開(kāi)坦率地聲稱，與中共在政府中合作是不可想象的事，只有實(shí)力政策才能解決問(wèn)題，這個(gè)集團(tuán)包括軍事和政治領(lǐng)袖。中共方面，也有極端分子，他們完全不信任國(guó)民黨領(lǐng)袖，確信政府的每一項(xiàng)舉措都是為了摧毀中共。馬歇爾認(rèn)為，如欲挽救此種形勢(shì)，將依靠政府與小黨派中的自由派取得領(lǐng)導(dǎo)地位，他們目前仍缺乏政治力量去發(fā)揮其具支配性的影響力^[10]。這個(gè)聲明將其調(diào)處中國(guó)內(nèi)戰(zhàn)的失敗歸于國(guó)共雙方的“極端分子”,表現(xiàn)出馬氏在中國(guó)政治特質(zhì)面前的無(wú)奈，也為其調(diào)處的失敗自尋托辭。馬氏將中國(guó)的未來(lái)寄于所謂“自由派”當(dāng)政，但他自己也承認(rèn)他們?nèi)狈φ嬲摹坝绊懥Α?。這個(gè)聲明名為對(duì)國(guó)共雙方不偏不倚，但國(guó)共對(duì)此均不滿意。蔣介石對(duì)美國(guó)記者談話時(shí)，表示馬氏聲明只能“視作對(duì)杜魯門總統(tǒng)對(duì)華聲明之補(bǔ)充”,“僅就馬氏之聲明而論，似有若干漏略”。周恩來(lái)認(rèn)為馬氏承認(rèn)國(guó)民黨內(nèi)有反動(dòng)集團(tuán)的觀察是說(shuō)得對(duì)的，“但遺憾的是他并未指出蔣介石就是這個(gè)反動(dòng)集團(tuán)的最高領(lǐng)袖”,馬氏想以實(shí)行憲法改組政府為蔣找出路，“結(jié)果只會(huì)使它更加失信，絕對(duì)得不到人民擁護(hù)”^[11]。由于國(guó)民黨視美國(guó)為其最大的支持者，而中共對(duì)美國(guó)無(wú)所求，馬歇爾的聲明雖對(duì)雙方都有批評(píng)，但在實(shí)際效果上，國(guó)民黨更可以感覺(jué)到其影響^[12]。
1月8日，馬歇爾在反美浪潮遍及中國(guó)的難堪境遇下，自南京黯然登機(jī)回美，這與一年前他來(lái)華時(shí)，中國(guó)各界和輿論對(duì)他的熱誠(chéng)歡迎形成鮮明對(duì)照。作為第二次世界大戰(zhàn)名聞遐邇的英雄，雖然馬氏以國(guó)務(wù)卿的身份離華，多少挽回了他個(gè)人的面子，但他在回國(guó)時(shí)的心情很難稱得上是愉快的，無(wú)論從什么角度觀察，他的中國(guó)使命也只能說(shuō)是一段失敗的經(jīng)歷。這不僅是他個(gè)人的失敗，也是美國(guó)對(duì)華政策的失敗，說(shuō)明了任何其他國(guó)家在介入中國(guó)內(nèi)部事務(wù)時(shí)影響力的有限，而且多少也反映出美國(guó)對(duì)華影響力逐漸式微的趨勢(shì)。-
馬歇爾離華，表示美國(guó)退出調(diào)處，作為調(diào)處重要機(jī)構(gòu)的軍事調(diào)處執(zhí)行部也走到了其盡頭。全面內(nèi)戰(zhàn)爆發(fā)后，軍調(diào)部早已失去其最初的動(dòng)力，成了觀察戰(zhàn)爭(zhēng)的機(jī)構(gòu)，對(duì)制止戰(zhàn)爭(zhēng)束手無(wú)策。美方曾經(jīng)提出由國(guó)共雙方高級(jí)指揮官進(jìn)行直接會(huì)談和在雙方?jīng)_突地點(diǎn)建立中立區(qū)的建議，但均被中共認(rèn)為單方面對(duì)國(guó)民黨有利，未能實(shí)現(xiàn)^①?！皥?zhí)行部所派出的各個(gè)小組，這期間工作已完全陷于停頓狀態(tài)，執(zhí)行部?jī)?nèi)部的談判與工作也是一籌莫展。除美方故作忙碌狀態(tài)，硬拉著討論無(wú)關(guān)輕重的積案以外，實(shí)際上對(duì)下面沖突與糾紛的調(diào)處已陷入無(wú)能為力的狀態(tài)?！@時(shí)爭(zhēng)論的中心已不是停戰(zhàn)、調(diào)處、恢復(fù)交通諸問(wèn)題，而主要是執(zhí)行人員安全自由問(wèn)題和連續(xù)發(fā)生的幾個(gè)困難的案子”^②。這其中包括1946年5月20日高密小組共方代表辛冠五失蹤被害案，5月30日棗莊小組共方代表甘重斗及譯員被毆致重傷案，6月10日晏城小組國(guó)方代表雷奮強(qiáng)中彈身亡案，19日新鄉(xiāng)小組國(guó)方譯員郭子祺中彈身亡案^③。7月23日，執(zhí)行部國(guó)方委員鄭介民竟然發(fā)出密令：“如中共方面組員與非法密探人員有關(guān)，而證據(jù)充足時(shí)，則當(dāng)?shù)刂罡哕娛聶C(jī)關(guān)將以間諜罪審理之。”8月21日，執(zhí)行部國(guó)方參謀長(zhǎng)蔡文治在給美方的備忘錄中又稱：“凡有執(zhí)行小組之中共方面人員被發(fā)現(xiàn)為密探時(shí)，則即失去代表資格，且受法律制裁。”這樣一來(lái)，執(zhí)行部及小組共方人員的安全毫無(wú)保障可言，因此引起中共方面的強(qiáng)烈反應(yīng)。周恩來(lái)專函致馬歇爾，要求“敦促政府采取有效辦法，以保障執(zhí)行部中共人員在政府區(qū)之安全與自由”。在中共堅(jiān)持下，軍調(diào)部于9月10日發(fā)令，重申保障各方人員之安全，如有間諜行為，只能提交執(zhí)行部三委員處理，此前所有人員工作不受限制^[13]。
1946年7月29日，安平事件的發(fā)生，更使作為調(diào)處中立一方的美國(guó)直接牽入沖突之中。駐北寧路沿線的美國(guó)海軍陸戰(zhàn)隊(duì)與中共治下的冀東解放區(qū)近在咫尺，全面內(nèi)戰(zhàn)爆發(fā)前后，美軍在進(jìn)入冀東解放區(qū)活動(dòng)時(shí)，已經(jīng)迭有沖突發(fā)生。7月13日，美軍自北戴河進(jìn)入冀東解放區(qū)時(shí)，因事先未得同意而被俘七人，后經(jīng)交涉獲釋，預(yù)示著未來(lái)沖突的不可避免。29日晨，中共駐安平鎮(zhèn)(位于北平東之平津公路70公里處)部隊(duì)得到情報(bào)，當(dāng)日將有載運(yùn)軍火之運(yùn)輸車隊(duì)經(jīng)過(guò)，因此布置伏擊。至午，果有無(wú)標(biāo)識(shí)之二十余輛車組成之車隊(duì)經(jīng)過(guò)，伏擊部隊(duì)開(kāi)火，雙方交戰(zhàn)歷三小時(shí)，后中共部隊(duì)主動(dòng)撤離。事后得知，該車隊(duì)所載為駐津美軍六十余人，在沖突中美方傷亡十五人(亡三人，傷十二人),國(guó)美兩方隨后派軍增援，占領(lǐng)了安平。此事之發(fā)生，立即轟傳中外，國(guó)民黨視為天賜良機(jī)，大肆鼓噪，企圖就此拉美下水，使美國(guó)在調(diào)處和內(nèi)戰(zhàn)中完全站在國(guó)方一邊。蔣介石致電北平行轅主任李宗仁，令其“根究徹究，從速處理”,“一面派員協(xié)同美軍洽商處理善后辦法詳報(bào)為要”^[14]。而中共方面態(tài)度沉穩(wěn)，提議派遣小組進(jìn)行調(diào)查，在查明真相的基礎(chǔ)上再作解決。周恩來(lái)告訴馬歇爾：美軍“如說(shuō)要巡察，何必到解放區(qū)去！有了美軍，又有國(guó)民黨軍，這只能說(shuō)明國(guó)民黨一些人想利用美軍在北寧路制造事件，把美國(guó)牽扯進(jìn)來(lái)，并使北寧路周圍成為國(guó)民黨占領(lǐng)區(qū)”^[15]。8月2日，執(zhí)行部決定派第二十五小組調(diào)查有關(guān)安平事件的前后情況，詢問(wèn)證人，向執(zhí)行部提交報(bào)告。經(jīng)過(guò)若干時(shí)日的爭(zhēng)執(zhí)，三方在調(diào)查程序、輪流擔(dān)任主席等問(wèn)題上取得一致，17日開(kāi)始調(diào)查工作。然三方各自提出的證人各說(shuō)各話，無(wú)法得到一致，更因當(dāng)時(shí)大環(huán)境的影響，最終安平事件的處理不了了之。
在全面內(nèi)戰(zhàn)爆發(fā)的大環(huán)境下，國(guó)共美三方都失去了繼續(xù)進(jìn)行戰(zhàn)地調(diào)處的耐心。9月27日，執(zhí)行部三委員簽署協(xié)議，關(guān)內(nèi)除保留太原、沁縣、臨汾、邯鄲、新鄉(xiāng)、泊頭六個(gè)小組外，其余小組均撤回北平，隨后，東北亦由八個(gè)小組縮減為三個(gè)^[16]。11月21日，東北小組全部撤離，1947年1月，關(guān)內(nèi)各小組全部撤退完畢。此時(shí)的軍調(diào)部名存實(shí)亡，只有北平總部和長(zhǎng)春分部還維持著一定的工作和人員，最后結(jié)束軍調(diào)部的工作不過(guò)是個(gè)時(shí)間問(wèn)題了。
制憲國(guó)大召開(kāi)后，一方面是國(guó)共關(guān)系實(shí)際破裂，另一方面是戰(zhàn)爭(zhēng)在更大范圍內(nèi)進(jìn)行，執(zhí)行部無(wú)所事事，但因?yàn)榭紤]到宣傳和責(zé)任，國(guó)共雙方均不愿主動(dòng)提出撤銷問(wèn)題。國(guó)民黨用種種辦法，企圖逼中共撤離，但中共則堅(jiān)持對(duì)方不宣布解散則不走的方針。軍事調(diào)處執(zhí)行部的存廢問(wèn)題還只能由始作俑者美國(guó)人來(lái)解決。1947年1月29日，美國(guó)駐華大使館發(fā)表聲明稱，美國(guó)政府現(xiàn)已決定結(jié)束其與三人會(huì)議及北平軍事調(diào)處執(zhí)行部之關(guān)系，這是馬歇爾回國(guó)、美國(guó)調(diào)處失敗的邏輯結(jié)果。30日，國(guó)民政府宣布，因美國(guó)退出調(diào)處而解散軍事三人小組和北平軍調(diào)部。與美國(guó)退出調(diào)處的同時(shí)，美國(guó)大使館宣布，美方將負(fù)責(zé)送返軍調(diào)部國(guó)共雙方人員至各自地區(qū)，以3月5日為最后期限，“以后仍留駐現(xiàn)地者，應(yīng)由其自身負(fù)責(zé)，美方將不予過(guò)問(wèn)”^[17]。隨后軍調(diào)部中共方面人員于2月內(nèi)陸續(xù)撤離北平，長(zhǎng)春分部人員則撤往哈爾濱。2月21日，軍調(diào)部中共委員葉劍英率最后一批中共人員離開(kāi)北平回到延安。