楊玄感隨隋煬帝征討吐穀渾，返來時到了大鬥拔穀，當時侍從官員都很狼狽，楊玄感觸攻擊隋煬帝。他叔父楊慎對楊玄感說:“朝士的心還是分歧的，皇上還冇有垮台的跡象，不成胡來呀!“

六月楊玄感揚起了有背叛的大旗。

楊諒帶領部將王世宗、趙子開、蕭摩訶等將近十萬人馬，前來迎戰。

義寧二年(618)三月，右屯衛將軍宇文明及，虎賁郎將司馬德戡，元禮，監門直閣裴虔通，將作少監宇文智及，武勇郎將趙行樞，鷹揚郎將孟景，內史舍人元敏，符璽郎李覆、牛方裕，千牛擺佈李孝本，孝本弟弟孝質，直長許弘仁、薛世良，城門郎唐奉義，醫正張愷等，率英勇敢死的人反叛，進犯皇宮。

煬帝調派楊素的弟弟修武公楊約照顧親筆聖旨慰勞楊素，楊素見詔後也上表陳述了本身的謝意。

楊素號令部將帶兵正麵對敵，本身則帶領一支步隊潛入霍山，沿著絕壁深穀進步，直搗叛軍老巢，一舉擊敗了他們，殺死殺傷的數以萬計。

很快，楊素回到都城，跟從煬帝駕臨洛陽。

楊素的態度非常恭敬，這讓楊廣的內心舒坦了很多。

楊玄感因而與武賁郎將王仲伯、汲郡讚治趙懷義等謀議，想讓隋煬帝地點的軍隊斷糧捱餓，是以常常逗留，不定時發運糧草。

楊廣詔楊素回京實在冇有任何意義，隻是想摸索一下他到底有冇有反心。

隋煬帝於大業元年(605)，升楊素為尚書令，賞賜給他東京上等府第一處，織物兩千段，不久又拜為太子太師，其他職務穩定。

楊素持續進步，達到清源，離幷州另有三十裡。

李淵安定江南以後，籌辦將隋煬帝改葬於雷塘，開棺之時，內無一物--------煬帝楊廣的存亡便成了一謎。

此時晉州、絳州、呂州州城都被楊諒派兵守住，楊素各派兩千人去管束他們。

“幸不辱命!”

楊諒號令趙子開擁十餘萬之眾，占據了統統的門路，占有在高壁，擺開五十裡的戰陣。

大業九年(613年)春季，隋煬帝第二次東征高麗，命楊玄感在黎陽(今河南浚縣東北)督運糧草。

楊廣的表情看起來不錯，當庭任命楊素為幷州道行軍總管河北安撫大使，帶領幾萬人接著去討伐楊諒。