沮渠蒙遜伯父西平太守羅仇被后涼主呂光殺死后，他聚眾萬余人，屯于金山，與從兄共推建康太守段業(yè)為首領(lǐng)，建立北涼。沮渠蒙遜為尚書左丞，建功頗多，遭段業(yè)嫉妒，關(guān)系疏遠起來。天興四年(401),沮渠蒙遜內(nèi)心?？直欢螛I(yè)所害，主動請求離開京城，出為安西太守。沮渠蒙遜為激怒眾人，暗中誣陷自己從兄有叛逆之舉，段業(yè)便將其殺了。兄一死，沮渠蒙遜便哭著告訴了部眾，大講段業(yè)陷害其兄，自己一定要為兄報仇。其兄在部下面前素有恩信，無緣被殺，群情怨憤，也哭著要跟著沮渠蒙遜與段業(yè)斗。沮渠蒙遜趁勢舉兵，殺段業(yè)而自立。(《魏書·盧水胡沮渠蒙遜傳》)