1937年秋冬日軍侵入山西之后，基本占領了該省各主要交通樞紐點和路段，只是各主要山岳地帶一直為中方所控制，尤其是晉南黃河北岸的中條山地區(qū)。中條山位于晉南、豫北交界處，是中國軍隊在晉南堅持抗戰(zhàn)的游擊根據(jù)地，駐守此地區(qū)的是第一戰(zhàn)區(qū)司令長官衛(wèi)立煌所部的7個軍，共16個師，近15萬兵力。日軍第三十五、三十六、三十七和四十一共4個師團，部署在中條山周圍，守備著同蒲路南段和晉東南、豫北地區(qū)^[1]。1940年百團大戰(zhàn)之后，日軍曾組織了數(shù)次針對八路軍的討伐。到該年秋，日軍認為對華北“治安”造成主要威脅的仍然是中條山一帶的衛(wèi)立煌所部，決定集中兵力予以殲滅。日本華北方面軍確定了發(fā)動中條山作戰(zhàn)的目標：“當前的任務在于消滅和掃蕩盤踞在晉豫邊區(qū)的中央軍主力，消滅其在黃河以北的勢力”,要“擴大和利用這次會戰(zhàn)的戰(zhàn)果，借以確保華北安定，并加強對重慶政權的壓力”^[2]。為了達到這一目標，日軍從華中地區(qū)抽調了兩個師團三個獨立旅團增加至該地區(qū)，以及從關東軍抽調兩個飛行團以增加原先在華北的第三飛行集團，投入中條山會戰(zhàn)之準備^[3]。在會戰(zhàn)正式開始之前，日軍第三十六師團和第三十五師團之一部，曾在陵川地區(qū)會攻中方第二十七軍，防止會戰(zhàn)正式開始時其左側背的威脅；另以第三十七、四十一師團進攻翼城以南、絳縣以東的中方第十五軍，奪取若干戰(zhàn)略點，為會戰(zhàn)開始后日軍的集聚掃清障礙。
然而，中國方面卻對即將開始的大規(guī)模會戰(zhàn)準備不足?！爸袟l山山地險要，各部與敵對陣將近三年，而并未積極加強陣地工事，構筑后方據(jù)點與徹底破壞或阻絕通敵道路”^[4],“黃河北岸只注意前線工事，而對于其各渡口生死攸關之橋頭堡毫不注重，而且未聞有何工事，甚至掩護退卻與收容陣地工事亦無之”。蔣介石將這一點視作晉南戰(zhàn)役中“最大之錯誤”,“亦為抗戰(zhàn)史中最大之恥辱” ^[5]。當日軍基本完成戰(zhàn)前準備之時，中國最高軍事當局也作出了日軍有進攻中條山企圖的判斷，決定“乘敵集中尚未完畢，制敵機先，以擊破其攻勢”,并要求第一戰(zhàn)區(qū)發(fā)起攻擊，打破日軍進犯企圖，令第二戰(zhàn)區(qū)、第五戰(zhàn)區(qū)有關部隊進行牽制性作戰(zhàn)。1941年5月初，第一戰(zhàn)區(qū)制訂了作戰(zhàn)計劃，但相應的部署尚未完成，日軍便發(fā)起了全面的進攻。
5月7日，日軍從西、北、東三路同時向晉南豫北中條山地區(qū)發(fā)起進攻。其西路則沿張茅大道東犯王家河、臺柴村；東路由沁陽出發(fā)，向西經(jīng)孟縣、濟源進犯封門口；北路從翼城、張馬以及絳縣、橫嶺關等地向南進逼垣曲。
中條山西路方面是日軍重點進攻所在，共投入了三個師團及兩個獨立旅團的兵力。5月7日下午起，日軍第四十一師團及第九獨立旅團，分別從西桑池及橫嶺關附近，向垣曲方向發(fā)動猛攻。中方第四十三、第十七軍所部進行了頑強抵抗。日軍憑借優(yōu)勢空中火力援助及大量使用毒氣彈，至8日晨該兩軍陣地被突破。至8日黃昏，日軍已攻陷垣曲、臺柴村等地，中方守軍遂被日軍分隔為兩段，即一部分固守于同善鎮(zhèn)東北一帶之山地，而絳垣大道以西部隊則在田反澗河與敵軍對峙。此后，日軍繼續(xù)發(fā)起攻擊，于9日凌晨迫近中方第五集團軍司令部所在地馬村附近。由于與后方的聯(lián)絡線被日軍截斷，第五集團軍司令部遂向東轉移至簡南溝。另外，日軍第三十六、三十七師團及第十六獨立旅團，由夏縣方面攻擊中方第八十軍、第三軍陣地。由于一線陣地很快被日軍突破，中方被迫退守二線陣地。5月8日晨，日軍出動戰(zhàn)機30余架，向第八十軍新編第二十七師猛烈轟炸，該師所部損失重大，第七十九、八十兩團犧牲大半，剩余不足兩營，師部與各團聯(lián)絡被迫中斷^[6]。戰(zhàn)斗過程中，該師師長王竣、副師長梁希賢、參謀長陳文杞壯烈殉國^[7]。日軍在張店附近突破第八十軍陣地之后，切斷了第八十軍和第三軍的聯(lián)系。這樣，日軍已經(jīng)數(shù)路推進至黃河左岸，然后又返向北進剿，中方第三、第十七軍均遭日軍圍攻，處境極為不利，不得不分散突圍，其中大部向汾河以西轉移，余部留在山區(qū)游擊。
北路方面，5月7日下午起，日軍第三十三師團及第四獨立旅團一部，不斷向第十四集團軍第四十三軍之賈家山、第十五軍之楊家梁、第九十八軍之北次營等陣地發(fā)起攻擊。8日拂曉，日軍突破第四十三軍第十八盤陣地后繼續(xù)南進，其先頭部隊到達歇馬店、王茅鎮(zhèn)。此后，第十五、第四十三軍遂各以一部與敵保持接觸，同時將主力東移至楊家梁-白鵝之線，阻敵東進。10日，礦銅嶺、周北等地的日軍，向第四十三軍第一六九師大嶺口陣地發(fā)起進攻，并在南嶺附近與第四十二師發(fā)生爭奪戰(zhàn)，日軍乘隙進占煤坪中方第二線陣地，此后又分向西莊、河口猛犯。次日，日軍繼續(xù)猛攻中方第四十三軍第十、第一六九兩師陣地，戰(zhàn)斗異常激烈。由于第十四集團軍補給線被敵切斷，所屬各部狀況十分惡劣，該集團軍僅有兩個師突出日軍包圍到達沁水以北地區(qū)，其余被阻于山區(qū)之內，進行艱苦的游擊作戰(zhàn)。
東路方面，日軍第二十一師團、三十五師團以及第四騎兵旅團，于5月7日下午起，分兩路從濟源、孟縣兩地向中方第九軍陣地進攻，并以飛機進行猛烈轟炸。8日，沿黃河左岸進攻之日軍攻陷孟縣，并繼續(xù)向西突進。與此同時，沁河兩岸之日軍亦先后突破中方防守陣地，企圖將第九軍圍殲于濟源以東地區(qū)。在日軍的強大攻勢下，第九軍曾進行了頑強的抵抗，予日軍重大打擊，但終因傷亡甚重，主力被迫退守濟源既設陣地，而以一部在孤山一帶進行敵后游擊。當晚，濟源被日軍攻占，第九軍不得不退至封門口南北之線陣地設防。9日傍晚，日軍猛攻封門口。雙方經(jīng)過激戰(zhàn)，至10日封門口最終被日軍占領。至11日，第九軍直屬部隊、十四師和四十七師一部由關陽南渡，守備黃河南岸，第四十二師及第四十七師另一部留在山地進行游擊。12日，日軍一部控制了黃河北岸各口，其主力沿封門口西進，與由垣曲東犯之敵會合。
此后，邵源鎮(zhèn)和封門口的東、西兩部日軍打通濟(源)垣(曲)大道會合，隨即向絳(縣)垣(曲)大道北部之中國軍隊進逼，試圖一舉圍殲。中方第五、第十四集團軍各部獨立苦戰(zhàn)不已。根據(jù)第一戰(zhàn)區(qū)司令長官衛(wèi)立煌的命令，各部除留部分兵力留在中條山區(qū)內進行游擊戰(zhàn)之外，主力奮力突圍，轉移至外線，并伺機實施反包圍。5月19日第三、十七兩軍各有4個團分別到達稷山、鄉(xiāng)寧整休。另外，第九十八軍一部突圍轉移至沁水以北地區(qū)；第十五軍一部以及第一○一、一○九兩師各一部，第十四集團軍總部，轉移到濟垣以北地區(qū)，聯(lián)絡第四十三軍一部，向敵后展開游擊戰(zhàn)。至5月下旬，日軍封鎖黃河北岸各渡口，并炮擊南岸中方陣地；另匯集兵力，對于濟垣大道以北及沁水以南地區(qū)的中國軍隊進行掃蕩作戰(zhàn)，雙方軍隊展開了多日的激戰(zhàn)。在濟垣大道西側和陽城附近，絳垣大道以西的聞喜、新絳之間，雙方軍隊亦有殊死激戰(zhàn)。至5月27日之后，日軍的攻勢漸趨休止，中國軍隊重新部署中條山地區(qū)的兵力，業(yè)已轉移到太行山呂梁山的中國軍隊，也重新設立根據(jù)地，以待反攻。
整個中條山戰(zhàn)役作戰(zhàn)20余日，日軍發(fā)動兵力達7個師團之多，最后除了占領中條山部分山隘和黃河北岸各主要渡口之外，未能根本阻止中國軍隊的活動，中國游擊兵力仍可以在各主要渡口以外地區(qū)，進行黃河兩岸的聯(lián)絡。而中國軍隊之所以遭到較大的損失^[8],固然由于敵我雙方實力對比懸殊，但也與中國軍隊疏于防備、各部之間聯(lián)絡通訊失靈不無關系。