大业九年（613）六月初三，杨玄感遁辞将军来护儿因耽搁军期策动兵变，他须前去安定兵变为名，领兵占有黎阳，封闭城门，大索男夫。并向四周各郡发送文书，以讨伐来护儿为名，命各郡出兵会合黎阳。杨玄感任命赵怀义为卫州刺史、东光县尉元务本为黎州刺史，河内郡主为怀州刺史。并选精干运夫五千余人，船夫三千余人，杀三牲誓师，起兵反杨广。他曾立下誓词：“我身为柱国，家累万金，至于繁华无所求也，今不顾破家灭族，但为天下解倒悬之急，救黎元之命。”以获得民气，前来投奔的大众日稀有千，军队敏捷扩大到一万多人。本地的父老还竟相送来酒肉，犒劳杨玄感的军队。

这时，远在辽东的杨广已率隋军主力回师，命虎贲郎将陈棱打击扼守黎阳的元务本，左翊卫大将军宇文述、右侯卫将军屈突通驰援东都。在东莱的来护儿也停止打击高丽，还师西进，对包抄洛阳的杨玄感构成反包抄态势。杨玄感军处于四周受敌的倒霉局面。七月20日，杨玄感接管前民部尚书李子雄、谋士李密的建议，放弃了对东都的包抄，率雄师十万西进，筹办篡夺关中。至弘农郡(今河南陕县)，被弘谷太守杨智积用计管束，迟误了贵重的三天。及杨玄感军达到闺乡(今河南灵宝)被宇文述、卫文升、来护儿、屈突通等各路隋军追上，杨玄感且战且退，一日内三败。八月月朔，杨玄感在皇天原布阵与隋军决斗，杨玄感大败，仅率十余骑逃往上洛(今陕西洛南)。杨玄感自知局势已去，乃命杨积善将其杀死，起兵三个多月遂告失利。

杨玄感举兵后李密就到了黎阳，就被杨玄感任命为智囊。杨玄感向他问本身该如何走下一步，李密曰：

杨玄感对于李密献的上、中、下三策，挑选了下策。他以为打下当时的实际都城洛阳，才气大长士气，并能够抓获文武百官的家眷作为人质，因而尽焚屯于黎阳的龙舟，率兵向东都洛阳进发，筹办进军东都洛阳，占有中原以图生长。此时留守东都的越王杨侗、民部尚书樊子盖闻知此讯大惊，仓猝聚兵抵当。