早在20年代的廣州時期，國民政府便聘有退役德國軍官為軍事顧問。在南京國民政府時期，先后有過包爾(Max Bauer)、魏采爾(Georg Wetzell)、塞克特(Hans von Seeckt)和法肯豪森(Alexander von Falkenhausen)各任總顧問，經(jīng)雙方的努力，那些以個人名義受聘于國民政府的德國軍事顧問，已經(jīng)在中、德兩國軍事合作、購料易貨乃至政治關(guān)系領(lǐng)域，都起著十分特殊的重要作用。而在抗戰(zhàn)初期，中、德關(guān)系走向倒退的過程中，雙方圍繞在華德國軍事顧問應(yīng)否被召回，有過不少的交涉。
1937年中日戰(zhàn)爭爆發(fā)之初，國民政府軍事委員會曾密令各軍事機(jī)關(guān)和有關(guān)部隊，對于德國顧問可能將中國軍事秘密供給日本之可能，注意加以防范，但旋撤銷該密令。蔣介石親頒諭令，應(yīng)對德國軍事顧問照常信用^[1]。德國軍事顧問團(tuán)總顧問法肯豪森曾北上保定，與中方指揮官共同研究華北對日作戰(zhàn)的方案；在“八一三”戰(zhàn)役期間，他又赴上海前線，協(xié)助指揮德式裝備的第八十七、第八十八師作戰(zhàn)。1938年臺兒莊戰(zhàn)役結(jié)束后，法肯豪森又偕其他顧問前往戰(zhàn)地參觀，并與白崇禧一起分析戰(zhàn)況。另外，同年2月國民政府軍事委員會在武昌設(shè)立戰(zhàn)時將官研究班，德國軍事顧問擔(dān)任了主講^[2]。當(dāng)然，在國民政府看來，德國軍事顧問所起的作用不僅是軍事方面的，還具有維持對德關(guān)系的重要象征意義。
德國政府之所以召回在華軍事顧問，最初主要是來自日本的壓力。1937年9月，日本就向德方提出交涉，稱德國軍事顧問介入了華北和上海兩個戰(zhàn)場中國軍隊對日軍的戰(zhàn)事，而法肯豪森本人則在上海指揮作戰(zhàn)，要求德國政府召回在華顧問。當(dāng)時德國方面抵制了日本的壓力，駐華大使陶德曼便對日方的指責(zé)予以否認(rèn)，稱在華德國軍事顧問只是從事教學(xué)和訓(xùn)練，并沒有擔(dān)任軍隊指揮或高級參謀，無論上海還是華北前線都沒有德國顧問參與。陶德曼并向德國政府指出，如果召回在華顧問，就會導(dǎo)致兩國關(guān)系的嚴(yán)重后果^[3]。同年10月15日，德國外交部長牛賴特還當(dāng)面向中國大使程天放否認(rèn)德國政府有召回在華顧問的打算，稱只是要求在華顧問不要介入前線戰(zhàn)事^[4]。
待到1938年1月德國調(diào)停中日關(guān)系失敗后，2月初日本政府就正式要求德方召回在華顧問。希特勒當(dāng)局見承認(rèn)偽滿洲國并沒有導(dǎo)致國民政府的強烈反應(yīng)，便在親日疏華的道路上越走越遠(yuǎn)。1938年3月初，德國單方面宣布中止雙方在軍官培養(yǎng)和訓(xùn)練方面的合作協(xié)議。4月下旬，德國政府又以對中日沖突保持中立政策為由，照知中方將召回在華德國軍事顧問。當(dāng)時包括法肯豪森在內(nèi)，在華德國軍事顧問有24人，另有若干名軍械、軍輔事務(wù)方面的顧問^[5]。當(dāng)時意大利吞并阿比西尼亞，德國公開對捷克進(jìn)行軍事威脅，英、法試圖加以反制。歐洲局勢趨緊，使得德國進(jìn)一步聯(lián)日，中、德之間的交涉溝通更為困難。
德國政府繼承認(rèn)偽滿洲國之后不久就提出召回在華軍事顧問，這使得國民政府對中、德關(guān)系的認(rèn)識有了較清醒的認(rèn)識。1938年5月4日，蔣介石在國防最高會議全體會議上明確提出：德意不可恃，應(yīng)傾向英、美、法、蘇^[6]。但是，為阻止中、德關(guān)系的進(jìn)一步惡化，中方還是盡了較大的外交努力。4月下旬德方提出召回軍事顧問之后，中國駐德大使程天放奉命立即向德國外交部交涉，指出德國軍事顧問經(jīng)中國政府聘用已久，他們在華服務(wù)只是私人行為，與德國政府的中立政策并不抵觸，德方完全沒有必要召回在華顧問。程天放進(jìn)而指出，最近德國承認(rèn)偽滿政權(quán)，已對中德關(guān)系造成不良影響，如再召回在華顧問，必對兩國邦交更為不利^[7]。4月底，在華德國顧問團(tuán)總顧問法肯豪森通過陶德曼向德國政府提出不同意見，稱：所有在漢口的以及在內(nèi)地的德國顧問都只是在軍校擔(dān)任教官，沒有任何顧問派往前線；依據(jù)個人合同，顧問在華服務(wù)要到1939年或1940年才滿期限，如果單方面不履行合同，在法律上要承擔(dān)責(zé)任，并且損失相應(yīng)的薪金和回國的旅費；大部分顧問現(xiàn)在回國后都難以找到工作職位，而他們在華財產(chǎn)將蒙受損失；顧問團(tuán)總部聘請的德籍女秘書也將無法籌得回國的旅費；因此，德國政府必須保證在華顧問以及眷屬和女秘書的回國旅費，保證擔(dān)負(fù)因毀棄合同所引起的所有損失^[8]。陶德曼本人也并不贊成立即撤回顧問團(tuán)，擔(dān)心德中關(guān)系更趨緊張。
但是，德國政府已經(jīng)決心召回在華顧問。5月13日，德國外交部通過駐華使館命令法肯豪森：在華軍事顧問必須盡早回國，德國政府打算支付他們的旅費和其他相關(guān)開支；但是如果在華德籍顧問拒絕回國，德國政府將予以嚴(yán)厲處置^[9]。5月21日，陶德曼又奉令向王寵惠提出，召回軍事顧問是希特勒的命令，希中國政府解除與德國軍事顧問間的契約，并盡快安排他們回國。王寵惠指出以下各點：中國國民必以為德國此舉無異間接支持日本；從法律上言之，中日之間并沒有宣戰(zhàn)，并不適用于中立法；德國顧問系以私人資格在華服務(wù)，同法國、意大利和美國在華顧問一樣，對各該本國政府并不承任何義務(wù)；也不介入實際軍事行動。王寵惠希望德國政府予以慎重考慮^[10]。事實上，當(dāng)時包括法肯豪森在內(nèi)的一些德國顧問確曾向中方表示愿繼續(xù)留在中國服務(wù)^[11]。5月底，王世杰也向陶德曼鄭重提出，在召回軍事顧問問題上，德國政府“應(yīng)重視十?dāng)?shù)年來中德間之友感”^[12]。
德國政府并不因為中方的再三要求而作罷。6月10日，德國外交部電令陶德曼，限中方在6月13日之前就德國顧問離華日期作出明確的答復(fù)。到了13日，德國外交部甚至要求陶德曼照知中方，如果不同意德國顧問回國，德國政府將召回駐華大使^[13]。6月14日，蔣介石在會見陶德曼時，同意大部分德國顧問將盡快離華返德，“告其解除顧問契約，我不愿其國民為中國關(guān)系而違反其政府命令也”;但提出有四五名顧問須暫不回國，以免泄露中方的軍事秘密。陶德曼“因懼本國政府之譴責(zé)，仍以全體返國為請”^[14]。蔣介石一度仍不打算讓步，“決令德顧問不得余命令不得離開職務(wù)”^[15],但德方繼續(xù)一意孤行。21日，陶德曼轉(zhuǎn)達(dá)了德國外交部命令在華德籍顧問盡速回國的電文，如不遵令辦理，“即認(rèn)為公然叛國，國內(nèi)當(dāng)即予以取銷國籍及沒收財產(chǎn)處分”。這對在華德國顧問造成了極大的壓力。同日陶德曼還偕同法肯豪森向國民政府外交部次長徐謨聲明：“如于六月二十三日(星期四)以前，中國國民政府對于全體德國顧問之即時離華不予明白表示同意，并擔(dān)保該顧問等之離華(安全回國之意),則本大使奉令立即將所有職務(wù)移交于代辦，離華返國。本大使又奉令表示下開意見：中德外交關(guān)系之是否繼續(xù)維持或由我方(德方)予以斷絕，須視關(guān)于顧問問題之以后發(fā)展而定?！?sup>[16]這等于是借召回顧問問題向中方下達(dá)最后通牒。國民政府外交部于6月23日仍按照蔣介石的意見照會德國大使館，即同意解除與德國顧問的聘用合同，允許這些顧問回國，但有五六位德國顧問須在了結(jié)未盡事務(wù)后，再離華回國^[17]。陶德曼即表示他將不得不離華回國。6月24日，里賓特洛甫借口中方?jīng)]有在規(guī)定期限內(nèi)明確同意讓所有德國顧問回國，于是下令召回陶德曼。6月26日，陶德曼便倉促離開漢口返德。6月28日，國民政府終于同意全部德國軍事顧問離華。但是，中方的最終讓步?jīng)]有能夠使得陶德曼重返中國。陶德曼原為駐華公使，1935年中德關(guān)系升格至大使級后，陶德曼為德國首任駐華大使，但也是最后一位德國大使。1938年10月漢口失陷前夕，國民黨和國民政府主要機(jī)構(gòu)均遷往重慶。當(dāng)時美國、英國、蘇聯(lián)、法國等駐華使館都相應(yīng)遷至重慶，但德國使館卻安置于上海，在重慶僅設(shè)使館的下屬機(jī)構(gòu)。然而，德國政府意欲借召回軍事顧問一事，繼續(xù)惡化與中國的關(guān)系。
在華德國軍事顧問雖以退役軍官和個人名義受聘于國民政府，但卻是中德軍事合作的一大標(biāo)志，其中不少人與德國大軍火商甚至政府軍工部門都有著密切的關(guān)系，對德國政府的相關(guān)政策有著不小的影響力，還直接幫助中方在德訂貨和運華。“德國軍火在華所以能夠找到這么大的市場，與德國軍事顧問的存在有密切的關(guān)聯(lián)”?！八缘聡倘嗣鞑t，如果仍然打算與中國進(jìn)行軍火貿(mào)易，就不可能撤回軍事顧問”^[18]。德國軍事顧問被強行召回，既說明了德國政府遠(yuǎn)東政策親日疏華的大勢已定，更意味著兩國軍事和經(jīng)貿(mào)合作關(guān)系將出現(xiàn)大的倒退。