杨玄感一听这个决定，真是大喜过望，这简直比让他领兵出征还好。为什么？
首先，粮食是军队的命脉，隋炀帝让他督运军粮，就等于把自己的脖子交到了他的手里。
其次，隋炀帝的远征军固然需要粮食，杨玄感起兵造反也需要粮食呀。有了这个美差，他造反的后勤保障问题就迎刃而解了。
最后，不光是督运军粮这个差事好，黎阳这个地方也好，它远在后方，跟隋炀帝隔山隔水，自成一体，隋炀帝无从监视，不管搞什么活动都很方便，远比带一支军队在隋炀帝眼皮子底下活动自由多了。
所以，这个任命一下来，杨玄感心里直念佛，自己暗中准备了这么多年，不就是为了等到这个机会吗？“天予不取，反受其咎”，这样的好机会再不抓住，老天都要不容的。
既然天时、地利、人和俱全，杨玄感一上任，就紧锣密鼓地开始准备造反了。
杨玄感干的第一件事，就是把运往辽东的粮草截留了。隋炀帝让他督运粮草，本来期待他能够充分利用大运河的运力，把粮草一船一船地运到辽东前线去。没想到，这粮食左等不来，右等也不来，眼看前方的粮食都快断顿了，杨玄感的大船还是不见踪影。隋炀帝急得跳脚，赶紧派人催他。
杨玄感对使者解释说：没办法，现在路上不太平，匪盗多啊。我怕这么一船一船地走遇上劫匪，所以想要多等几条船过来，把它们集结成一批，再武装押运过去。为了安全起见，为了减少损失，还是请陛下再等几天吧！这话说得入情入理，连隋炀帝都信以为真了。
杨玄感为什么这样做？很简单，这是希望把前线的士兵饿死，就算饿不死，至少也能动摇军心。而且，通过不断截留，杨玄感手里也聚集了大量的粮草，这是第一个准备。
杨玄感干的第二件事，是集结官兵。要造反，光有粮食不行，还得有兵。可是，杨玄感只是一个运粮官，不是领兵官，手里并没有军队，怎么办呢？杨玄感使了一条贼喊捉贼的妙计。他先安排了一个仆人伪装成使者，假装从东边，也就是隋炀帝那边过来，交给杨玄感一封密信，信上说，水军将领来护儿因为未能如期攻打高句丽，害怕追究责任，起兵造反了，因此，皇帝命令杨玄感集结队伍，准备镇压！
这封信一到，杨玄感马上公开宣读，紧接着就把黎阳城占领了，占领之后，关上城门，满街抓青壮年男丁。这样一来，黎阳城里可就乱套了，无论你刚才是在种地还是在做买卖，哪怕你只是在街上闲逛，总之从被抓之时起，你就是杨玄感手下的兵了。
可是，就这么扫地为兵，也还是不够，于是，杨玄感又以讨伐来护儿的名义给周围各郡写信，让他们把本郡的留守部队都集中起来，一律开到黎阳城。可是，各处留守人马本来就少，而且也不会都听他的安排，就算增加了一些力量，兵力也还是远远不够。隋炀帝那边有百万大军，要想造反，兵力相差太悬殊也不行。
还能怎么办呢？杨玄感又开动脑筋了。他原来督运粮草，手下虽然没有士兵，但是有船夫，这也都是壮劳力。干脆，直接转换身份，当兵吧。于是，几千漕运船夫和篙梢手也进入了战斗序列。这就是造反的军事基础了。
光有兵也不行，还得有官，否则谁带着这些士兵攻城略地？打下了地盘，又让谁来镇守？兵都是抓来的，官从哪里来？杨玄感的官是骗来的。他假借运粮的名义，把周围郡县一些有才能、入他法眼的官员都召集到了黎阳郡，来了之后立马任命，原来是县尉、县主簿的，现在都能当州刺史，只要你能把那个州打下来，可以就地当官。若是有人不接受任命，那也好办，直接杀头了事。
就这样，经过几天紧锣密鼓的折腾，杨玄感终于官兵齐备了。到这时候，杨玄感再也不提什么来护儿造反之类的事情了，而是宰杀猪羊、祭天誓师。他说：“主上无道，不以百姓为念。天下骚扰，死辽东者以万计。今与君等起兵，以救兆民之弊，何如？”主上昏庸无道，都不管百姓的死活了，把我们的子弟儿郎都押送到了辽东战场，死者数以万计！现在我想和诸位一起起兵，解民于倒悬，你们觉得好不好？
这段话可比打来护儿有号召力。隋炀帝两征高句丽，大肆征发兵役劳役，老百姓早就烦透了，一听杨玄感这么宣传，立刻欢呼起来。这样一来，杨玄感就算正式揭竿而起了。