中山艦事件發(fā)生之后10日，鮑羅廷自俄國(guó)返回廣東，多次與蔣介石會(huì)商國(guó)共合作問(wèn)題。為“整軍肅黨，準(zhǔn)備北伐”,蔣介石向中央提出召開(kāi)二屆二中全會(huì)的建議，得到采納^[1]。
1926年5月15日，國(guó)民黨二屆二中全會(huì)在廣州召開(kāi)。會(huì)議著重討論了整理黨務(wù)的問(wèn)題。會(huì)議期間，蔣介石以“消除疑慮，杜絕糾紛”和改善國(guó)共關(guān)系為由，與譚延闿、孫科、朱培德、宋子文、陳公博、甘乃光、伍朝樞、程潛、經(jīng)亨頤、林祖涵等人，提出四份議案：其一是整理黨務(wù)案；其二是國(guó)民黨與共產(chǎn)黨協(xié)定事項(xiàng)案；其三是選舉中央執(zhí)行委員會(huì)主席案；其四是國(guó)民黨全部黨員重新登記案。
第二項(xiàng)議案是蔣介石單獨(dú)提出來(lái)的，內(nèi)容主要包括：(1)凡他黨黨員之加入本黨者，各該黨應(yīng)訓(xùn)令其黨員，明了國(guó)民黨之基礎(chǔ)為總理所創(chuàng)造之三民主義，對(duì)于總理及三民主義不得加以懷疑或批評(píng)。(2)凡他黨黨員之加入本黨者，該黨應(yīng)將其加入本黨黨員之名冊(cè)，交本黨中央執(zhí)行委員會(huì)主席保存。(3)凡他黨黨員加入本黨者，在高級(jí)黨部(中央黨部、省黨部、特別市黨部)任執(zhí)行委員時(shí)，其數(shù)額不得超過(guò)各該黨部執(zhí)行委員總數(shù)三分之一。(4)凡他黨黨員之加入本黨者，不得充任本黨中央機(jī)關(guān)之部長(zhǎng)。(5)凡屬?lài)?guó)民黨黨籍者，不許在黨部許可以外，有任何以國(guó)民黨名義召集之黨務(wù)集會(huì)。(6)凡屬于國(guó)民黨籍者，非得有最高黨部之許可，不得別有政治關(guān)系之組織及行動(dòng)。(7)對(duì)于加入本黨之他黨黨員，各該黨所發(fā)之一切訓(xùn)令，應(yīng)先交聯(lián)席會(huì)議通過(guò)；如有特別緊急事故，不及提出通過(guò)時(shí)，應(yīng)將此項(xiàng)訓(xùn)令請(qǐng)求聯(lián)席會(huì)議追認(rèn)。(8)本黨黨員未受準(zhǔn)予脫離黨籍以前，不得加入其他黨籍，如既脫本黨黨籍而加入他黨者，不得再入本黨。(9)黨員違反以上各項(xiàng)時(shí)，應(yīng)即取消其黨籍，或依所犯之程度，加以懲處。(10)為處理此項(xiàng)問(wèn)題，設(shè)一聯(lián)席會(huì)議，由國(guó)民黨五人、共產(chǎn)黨三人參加^[2]。
在這次會(huì)議上，四項(xiàng)議案均獲通過(guò)。會(huì)后，中共在國(guó)民黨中央各部任部長(zhǎng)者紛紛離職。組織部長(zhǎng)譚平山離職后，其部長(zhǎng)職務(wù)由蔣介石繼任，不久又改由張人杰擔(dān)任；顧孟馀繼毛澤東之后擔(dān)任代理宣傳部長(zhǎng)；甘乃光代替林祖涵任農(nóng)民部長(zhǎng)；宣傳部長(zhǎng)由邵元沖繼任；秘書(shū)長(zhǎng)在譚平山、林祖涵、楊匏安三人去職后，由葉楚傖擔(dān)任。在新組成的中央執(zhí)行委員會(huì)中，蔣介石任主席，后因出師北伐，將主席職務(wù)分別請(qǐng)張人杰、譚延闿代理。在張人杰任組織部長(zhǎng)期間，陳果夫任秘書(shū)，不久代理部務(wù)。時(shí)部中職員為二十九人，跨黨黨員有二十六人，其他各部及各級(jí)黨部共產(chǎn)黨員人數(shù)也不少。經(jīng)陳氏按二中全會(huì)決議“整頓”,國(guó)民黨中央黨部中共產(chǎn)黨的人數(shù)被嚴(yán)格限制在三分之一以?xún)?nèi)，各部部長(zhǎng)則共產(chǎn)黨人無(wú)與焉。　
為了向黨內(nèi)外說(shuō)明整理黨務(wù)之目的，會(huì)議發(fā)表了《整理黨務(wù)宣言》?！缎浴分赋?，中國(guó)國(guó)民革命的最大障礙，不是帝國(guó)主義與軍閥的壓制，而是“內(nèi)部的沖突與糾紛”。為增強(qiáng)自身力量，中國(guó)的革命勢(shì)力必須“嚴(yán)密團(tuán)結(jié)于三民主義之下”。改組國(guó)民黨，與一切革命勢(shì)力合作，是孫中山具有“歷史價(jià)值之決定”,它使國(guó)民黨成為“中國(guó)最大之政治勢(shì)力”。在這種情況下，軍閥與帝國(guó)主義“散布謠言，以引起吾人內(nèi)部之糾紛”,主要手段就是“宣稱(chēng)國(guó)民黨為共產(chǎn)主義之集團(tuán)”,致使國(guó)民黨內(nèi)部產(chǎn)生疑慮。若不消除疑慮，則國(guó)民革命運(yùn)動(dòng)將蒙受損失。因此，本屆中央執(zhí)行委員會(huì)“一致接受整理黨務(wù)案”,以消除疑慮，減少?zèng)_突與糾紛。宣言最后指出：“若帝國(guó)主義者、軍閥與反動(dòng)派對(duì)于此規(guī)定合作原則之整理黨務(wù)案遽引為慶幸，實(shí)為大愚。本屆中央執(zhí)行委員會(huì)深信此次決議案，決非對(duì)任何方面表示無(wú)意識(shí)之妥協(xié)，而實(shí)為排除障礙，團(tuán)結(jié)革命分子，以與世界帝國(guó)主義、軍閥、反動(dòng)派作更有力之戰(zhàn)斗。革命分子之團(tuán)結(jié)愈堅(jiān)固，即國(guó)民革命之力量愈增進(jìn)也?！?sup>[3]以后一段時(shí)間，國(guó)民黨內(nèi)部“沖突與糾紛”有所減少，但這是通過(guò)限制共產(chǎn)黨活動(dòng)的方式來(lái)實(shí)現(xiàn)的。