隋煬帝初年，漢王楊諒興兵造反，派茹茹天保攻占蒲州(治今山西永濟(jì)縣西南蒲州鎮(zhèn)),燒斷河橋，又派王聃率數(shù)萬(wàn)人馬并力拒守。楊素只帶了五千輕騎兵，夜渡渭口，一舉擊走茹茹天保，擊降王聃。然后隋煬帝委任楊素為并州道行軍總管、河北安撫大使，出兵數(shù)萬(wàn)討伐楊諒。當(dāng)時(shí)的晉州、絳州、呂州都響應(yīng)楊諒的號(hào)召，各自堅(jiān)守城池，抗拒官兵。楊素不想為了攻下這三州而浪費(fèi)時(shí)間，僅在每一州留下二千人馬負(fù)責(zé)羈縻工作，就繼續(xù)長(zhǎng)驅(qū)直進(jìn)。楊諒派趙子開率領(lǐng)十余萬(wàn)士卒據(jù)守高壁，欲阻斷楊素的去路。楊素讓諸將從正面佯攻，他自己親率奇兵潛入霍山，翻過(guò)懸崖峭壁，穿越深溝峽谷，直接殺人趙子開的大本營(yíng)。于是內(nèi)外夾攻，殺死殺傷敵兵好幾萬(wàn)人，大破趙子開的重兵防守。楊素奇兵發(fā)威，以少勝多，使楊諒委任的介州刺史梁修羅聞風(fēng)喪膽，楊素兵馬未到，就放棄介休城預(yù)先溜之大吉。楊諒親自出馬，與楊素大戰(zhàn)于清源，又被擊敗，率眾退保并州(治今山西太原)。楊素進(jìn)兵重重圍困，不久就逼迫楊諒自動(dòng)投降，于是一場(chǎng)來(lái)勢(shì)兇猛的叛亂就這樣煙消云散了。(《隋書·楊素傳》)