楊玄感對於李密獻的上、中、下三策，挑選了下策。他以為打下當時的實際都城洛陽，才氣大長士氣，並能夠抓獲文武百官的家眷作為人質，因而儘焚屯於黎陽的龍舟，率兵向東都洛陽進發，籌辦進軍東都洛陽，占有中原以圖生長。此時留守東都的越王楊侗、民部尚書樊子蓋聞知此訊大驚，倉猝聚兵抵當。

這時，遠在遼東的楊廣已率隋軍主力回師，命虎賁郎將陳棱打擊扼守黎陽的元務本，左翊衛大將軍宇文述、右侯衛將軍屈突通馳援東都。在東萊的來護兒也停止打擊高麗，還師西進，對包抄洛陽的楊玄感構成反包抄態勢。楊玄感軍處於四周受敵的倒黴局麵。七月20日，楊玄感接管前民部尚書李子雄、謀士李密的建議，放棄了對東都的包抄，率雄師十萬西進，籌辦篡奪關中。至弘農郡(今河南陝縣)，被弘穀太守楊智積用計管束，遲誤了貴重的三天。及楊玄感軍達到閨鄉(今河南靈寶)被宇文述、衛文升、來護兒、屈突通等各路隋軍追上，楊玄感且戰且退，一日內三敗。八月月朔，楊玄感在皇天原佈陣與隋軍決鬥，楊玄感大敗，僅率十餘騎逃往上洛(今陝西洛南)。楊玄感自知局勢已去，乃命楊積善將其殺死，起兵三個多月遂告失利。

楊玄感的信中曆數楊廣罪過，還提出本身要像伊尹放太甲、霍光廢昌邑上那樣黜廢楊廣，“廢昏立明”但樊子蓋並不是關隴貴族而是有楊廣一手汲引發來的江淮人士，對楊廣比貴族人士更具忠心，以是當他收到楊玄感極富煸動性的信後不為所動，同時加強城防，調遣軍隊出戰。

“愚有三計，惟公所擇。明天子出征，遠在遼外，地去幽州，懸隔千裡。南有巨海之限，北有胡戎之患，中間一道，理極艱危。今公擁兵，出其不料，長驅入薊，直扼其喉。前有高麗，退無歸路，不過旬月，齎糧必儘。舉麾一召，其眾自降，不戰而擒，此計之上也。又關中四塞，天府之國，有衛文升，不敷為意。今宜率眾，經城勿攻，輕齎鼓行，務早西入。天子雖還，失其襟帶，據險臨之，故當必克，萬全之勢，此計當中也。若隨近逐便，先向東都，唐?告之，該當恪守。引兵攻戰，必延光陰，勝負殊未可知，此計之下也。”

洛陽城下楊玄感收編隋軍降眾，招募百姓，得五萬餘人，一時劉元進在江南叛逆呼應，韓擒虎之子韓世粵、觀王楊雄之子楊恭道、虞世基之子虞柔、來護兒之子來淵、裴蘊之子裴爽、鄭善果之子鄭儼、周羅喉之子周仲等40餘貴族後輩“皆降於玄感”。楊玄感對這些名將名臣之子，均委以重擔。乃分兵五千占有慈硐道(今河南洛陽西)，五千人扼守伊闕道(今河南洛陽南)，派建國功臣韓擒虎之子韓世萼率三千人包抄滎陽(今河南滎陽東北)，顧覺率五千人攻取虎牢(今河南滎陽西北)。楊玄感親率主力攻打東都，樊子蓋隨機把守。楊玄感一時冇法攻破城池。鎮守長安的代王楊侑派刑部尚書衛文升統兵四萬救濟東都。衛文升軍經崤(今河南洛寧)、澠池(今河南澠池)，在東都城北和楊玄感軍比武，衛文升部且戰且走，至金穀(今河南洛陽東北)與楊玄感軍構成對峙之勢。楊玄感軍屢敗衛文升軍，使實在力大損。衛文升遂孤注一擲，在邙山南與楊玄感軍決鬥，一日以內兩邊交兵十餘次。眼看衛文升軍難以支撐，剛巧楊玄挺被流箭射死，楊玄感軍纔不得不臨時撤退。