曹操在下邳打敗呂布,張遼率軍投降,被任命為中郎將,賜以關(guān)內(nèi)侯爵位。由于屢立戰(zhàn)功,升為裨將軍。袁紹失敗后,曹操派張遼另率軍平定魯國諸縣。又同夏侯淵在東海圍攻昌豨,幾個月后糧草已盡,大家議論要率軍返回,張遼對夏侯淵說:“幾天來,我每次走到營壘前,昌豨就注視著我。另外他們射箭越來越少,這必然是昌豨猶豫不決,所以不全力作戰(zhàn)。我想用言語挑動他,或許可以誘使他歸降。”于是就派使者告訴昌豨:“曹操有令,派張遼傳達(dá)給您?!辈g果然下來同張遼交談。張遼勸說他:“曹操神明英武,正用德行安撫四方,先歸附的人必將受到大獎賞?!辈g就答應(yīng)投降。張遼于是獨自上三公山,來到昌豨家中,拜會他的妻子和兒子。昌豨欣喜異常,隨張遼去見曹操。曹操讓昌豨返回,責(zé)備張遼說: “這并非大將應(yīng)采用的方法?!睆堖|致歉說:“因為您的威信著稱于四海,我張遼說奉您的旨意,昌豨必然不敢加害我?!?/p>