杨玄感是不是能这么一直凯歌高唱下去？那还要看他下一步怎么走。此刻，他势力发展得很快，但是，那都是在洛阳周边，洛阳城可始终在樊子盖手里。此前交代过，一个小小的高句丽辽东城，因为修得比较坚固，隋朝几十万大军一个月都打不进去，何况是精心修筑的大隋东都洛阳！杨玄感猛攻了一个月，洛阳城还是壁垒森严。
这对杨玄感而言相当不利。因为就在他和樊子盖僵持不下的这一个月里，隋朝的各路救援大军从各个方向朝洛阳扑过来了。
第一路大军是首都大兴城的救援部队。当初，隋炀帝东征，让樊子盖辅佐越王杨侗留守洛阳，让刑部尚书卫文升辅佐代王杨侑留守大兴城。现在，卫文升听说杨玄感叛乱，立刻就率领七万大军直奔东都而来。
卫文升是个狠角色，路过杨玄感他们老家华阴的时候，先把杨素的坟给挖了，把杨素的尸骨也给扔出来烧了，这一方面是宣誓和杨玄感不共戴天，另一方面也是杜绝士兵投降。因为中国古代人讲究孝道，一个把你爸爸挫骨扬灰的人，就算投降也不能被原谅。这样一来，士兵断了投降这条路，只能和杨玄感拼命了。
从大兴城到洛阳要经过函谷关，当时有人就劝卫文升说，函谷关可是险要地方，万一杨玄感在这里设埋伏怎么办？我们不如持重一点，先让人探探消息再说。
卫文升说，杨玄感的本事我心里有数，他此刻一心攻城，不可能有伏兵函谷关的远略！所以我们无须观望，果断出关就是了。
果然，路上并没遇到杨玄感的伏兵。就这样，卫文升的大军成了率先赶来的一路。
第二路大军是来护儿的部队。杨玄感起兵的时候，谎称来护儿造反。这话传到来护儿耳朵里，可把他给气坏了。你小子自己谋反也就罢了，居然敢败坏我的名头！来护儿立刻召集将领，让他们做好准备，马上回师救援东都！问题是，当时他们的军队还在东莱海口待命，准备渡海攻打平壤，将领一听来将军要回师，都害怕了，纷纷说：如今皇帝陛下严厉，没有他的敕书，我们能随便乱动吗？
来护儿勃然大怒，厉声道：“洛阳被围，心腹之疾；高（句）丽逆命，犹疥癣耳。公家之事，知无不为，专擅在吾，不关诸人，有沮议者，军法从事！”洛阳被围，这是心腹大患；高句丽违抗天命，只是癣疥一样的小病。国家有难，当大臣的就应该知无不为，怎能患得患失！这个决定是我做出的，和你们没有关系，一旦皇帝怪罪下来，我绝不连累你们。现在，如果有谁敢阻挠我，一律军法从事！当天就率领大军往回走了。
当然，来护儿也不是鲁莽之人，在开拔的同时，他又让自己的两个儿子赶紧去见隋炀帝，向隋炀帝禀明情况。这两位来公子见到隋炀帝，把来护儿的行动跟隋炀帝一说，隋炀帝真是喜出望外，立刻就给来护儿写了一封信，信上说：“公旋师之时，是朕敕公之日，君臣意合，远同符契。”你回师的日子，正好就是我在这里发布敕令，让你回去救援的日子啊！看来咱们君臣情意相投，就好像符契一样吻合。总之一句话，这件事来护儿做对了！
就这样，因为来护儿不等敕命，当机立断，第二路大军也从东面进逼东都了。
第三路大军就是隋炀帝亲自统率的军队。隋炀帝一听说杨玄感造反，赶紧烧营回军，并派左翊卫大将军宇文述和左候卫将军屈突通火速先行，直扑洛阳。
屈突通也是关陇贵族集团成员，素以严厉著称，当时有个歌谣，叫作“宁食三斗葱，不逢屈突通”，宁可吃进去三斗大葱，也不愿意跟屈突通打交道。这样的恶人得多么令人畏惧！毫无疑问，从这首歌谣里就能看出来，屈突通绝非平庸角色。
这样，第三路大军又从北向南扑过来了。
这样一来，杨玄感就陷入最初起兵时李密所讲的那种四面受敌的境地了。那么，他能不能对付得了这些人？其实，别看杨玄感此前一直担任文职，但是，所谓将门有将，从小耳濡目染，他真是一个不错的将军，按照《资治通鉴》的说法，是“玄感每战，身先士卒，所向摧陷，又善抚悦其下，皆乐为致死，由是每战多捷”。杨玄感带兵打仗永远身先士卒，每次都说“弟兄们跟我来”，而不是“弟兄们给我上”。这样一来，弟兄们当然都乐于追随主帅。另外，杨玄感平日里对士兵也很不错，亲切和蔼，所以士兵都愿意给他卖命，因此打仗的时候总能获胜。这些优点，多像西楚霸王项羽啊！这样的将军，还是很有战斗力的。
卫文升最先前来救援，也最先感受到了杨玄感的威力，跟杨玄感一交战，马上损失惨重，手下士兵死伤大半。而杨玄感倒是越打越勇，手下人数都超过十万了。
可是，俗话说得好，好虎架不住一群狼。以杨玄感的勇猛，抵挡卫文升一支军队还可以，但很快，屈突通大军也到了黄河北面，马上就要渡河过来了。
在两面夹击之下，降将李子雄给杨玄感出了一个主意。李子雄说：“通晓习兵事，若一得渡河，则胜负难决，不如分兵拒之。通不能济，则樊、卫失援。”屈突通是个厉害角色，如果他渡过黄河参战，我们的麻烦就大了。所以，一定要把他挡在黄河北岸，不让他过来。怎么才能不让他过来？只有分兵。一支军队继续对付卫文升，另一支军队赶紧去拦截屈突通。当然，还得有一部分军队留下来包围洛阳城。
这种战略在兵法上叫围城打援，而且，是同时打两支援军，一支是卫文升，另一支是屈突通。
这个主意，不能说不好，算是在历史上久经考验的经典战术。但是它有个问题，杨玄感的兵力本来就不占优势，这样一分为三，兵力就更弱了。更何况，洛阳城里的樊子盖也不是傻子，他正指望着屈突通的援军，杨玄感想到打援，樊子盖能让他去吗？
果然，杨玄感打援的部队刚要开拔，樊子盖就立刻率领大军出城作战，而且屡战屡胜，把杨玄感牢牢地拖在了洛阳城下。
至此，所谓围城打援的计划也就没能实施得了，屈突通很快就渡过了黄河。这样一来，杨玄感这边的形势可真是危急了。这时候，李子雄又进了一言：“东都援军益至，我军数败，不可久留，不如直入关中，开永丰仓以振贫乏，三辅可指麾而定，据有府库，东面而争天下，亦霸王之业也。”现在各路援军都过来了，我们不能再死围着洛阳城，应该往关中走，到了关中之后，打开永丰仓来赈济百姓，奠定群众基础，接着我们就在关中地区盘踞下来，面向东方和隋炀帝争夺天下。
这不就是李密提出的中策吗？当初可是被杨玄感断然否决掉的，现在，他若是再不走这一步，眼看就要被隋朝的各路官军包饺子了，所以，杨玄感二话不说，同意开拔。
问题是，怎么跟手下解释要放弃洛阳这件事？直接说我们打不过了，眼看就要被包饺子了，未免影响士气，杨玄感并不想这样做。这时候，李密给他出了一个主意。李密说：“弘化（今甘肃庆城县）留守元弘嗣握强兵在陇右，可声言其反，遣使迎公，因此入关，可以绐众。”跟将士们不提我们打不过，只是说，甘肃那边也有人造反了，现已派使者迎接我们过去，所以我们得赶紧去扩大战果。这不就变被动为主动了吗？
杨玄感一听，很有道理，就这么宣传吧。
此前提到，卫文升从关中出来的时候，先到杨玄感的老家华阴扫荡了一圈，华阴杨家损失惨重。正好这时候，杨玄感在华阴的亲戚赶过来了，要杨玄感替他们做主。这样一来，杨玄感就顺理成章地把这些落难的亲戚说成是元弘嗣派来迎接他们的使者，然后宣布说：“我已破东都，取关西矣！”我已经攻破了东都洛阳，现在要去攻取西关了！于是率领大军，浩浩荡荡地往西进军。