扶陽侯韋賢有好幾個兒子，長子叫韋弘，次子叫韋玄成。韋弘在縣里做個小官，又有不少過錯。韋賢想叫他干脆辭去官職，將來當他的合法繼承人。韋弘擔心別人閑言碎語，不愿辭職。后來韋賢病重，韋弘因犯法關進牢獄，但還未判決。家里人問韋賢他死后由誰繼爵，韋賢滿腔怒氣，不肯說話。于是韋賢的得意門生和韋賢的同宗長老們商議，決定假造韋賢遺書，由大河(今山東東平)都尉韋玄成繼承。公元前62年，韋賢逝世。韋玄成在官聞喪，又聽說他將當繼承人，他知道這不是老父本意，就詐病裝瘋，臥在大小便上，滿嘴胡言亂語，哭哭鬧鬧真像個瘋子。等到葬禮完畢，要正式繼續(xù)爵位時，就借口是個瘋子不能應召。大鴻臚奏報皇帝，皇帝交給宰相，御史查辦。韋玄成素有聲名，大臣們都懷疑他是故意裝瘋讓爵。承辦此案的宰相府的官吏就寫信給韋玄成，動之以利害，希望他了解外界對他的議論，迅速改正毀容損貌、裝瘋賣傻的小動作。不然的話，他本求高潔反有損高潔。那官吏在信的最后警告：他本尊敬韋玄成，在不得已的時候不得不檢舉韋玄成。韋玄成的朋友，侍郎章某，上書皇帝，希望皇帝最好能優(yōu)待韋玄成，不要強迫他改變志向，使他能安心地過清苦生活。而這時，宰相、御史已指控韋玄成裝病，提出彈劾。漢宣帝劉詢下詔：不必彈劾，要他襲爵。
韋玄成這才不得已繼承爵位。劉詢認為他節(jié)操很高，遂任命他為河南郡(今河南洛陽)太守。