杨玄感与李密密谈后，做了两个决定：以“废昏君立贤主”名义起事；攻占首都洛阳、号令天下。
二人要做的头件事是：找督运副使王伯仲摊牌。若对方答应入伙，则三人成为领导小组成员；若王伯仲不入伙，则只能干掉他，然后对外宣布他意外死亡，由李密暂代督运副使。
作好部署后，杨玄感请来王伯仲。三人谈话时，李密提出造反建议，等待王伯仲反应。
王伯仲看看李密，又看看杨玄感，深深点头后对杨玄感道：“老大，李公子的提议非常有道理，我举双手赞同。”
杨玄感与李密相视一笑。
杨玄感道：“老王，你不愧是我拉来的帮手。李公子的提议，也是我的意思。既然你也同意，那从现在起，咱们三人的命就绑在一起了。成则共享富贵，败则身死族灭。”
二人起身，脸色肃穆表示誓死追随。
接着，杨玄感如法炮制，第二天招来汲郡赞治赵怀义，当着王伯仲、李密之面，向他摊牌。
赵怀义的仕途起点是在杨素门下做书办，一向对杨家非常忠诚。
听了杨玄感的造反决定，他毫不犹豫道：“杨广当年还是二皇子时，通过宇文约搭上二老爷那条线，求着老主公帮他夺嫡。哪知这狗东西后来逼死老爷、迫害咱杨家。少主，你现在造这狗皇帝的反，俺力量虽微，但一定全力以赴。”
“那好。来来，我们四人点几柱香，正式结盟干大事。”杨玄感笑着招呼三人。
四人于是焚香祭天，发誓同生共死。
随后，杨玄感发出第一道指令：以王伯仲手头的1万士兵为基础，组建一支6万人的军队。李密为大将军，王伯仲为副将。
二人得令，立即去办理扩军之事。
赵怀义留在督运使部，为杨玄感打下手。
为了一炮打响，杨玄感接下来感要做的事还不少。他梳理头绪后，按缓急轻重一件一件办：
给远在前线的几人写信，派多名心腹送去：兵部侍郎斛斯政，榆关守将赵元淑，弟弟杨玄纵、杨万石。
斛斯政出身非常显赫。他的祖父斛斯椿曾是北魏太保、尚书令，是诛灭尔朱荣家族的关键人物，也是关陇集团的元老。
斛斯政原是杨素心腹部下。杨玄感在担任礼部尚书前担任兵部尚书，按老爹意思提拔斛斯政做副手。
杨素去世后，杨广将杨玄感调任礼部尚书，任命自己心腹段文振为兵部尚书。
段文振上年东征时在辽东病逝，斛斯政在此次东征中暂代兵部尚书职务，跟随在杨广身边。
杨玄感给斛斯政写信，是要他想法让自己的两个弟弟离开东征军，回到黎阳来帮自己。
杨玄感的二弟杨玄纵，骁果军武贲郎将。三弟杨万石，骁果军鹰扬郎将。
杨玄感给榆关守将赵元淑的信中，要对方接应杨玄纵、杨万石二人过关。
杨玄感给两个弟弟的信里，要他们找斛斯政、赵元淑帮忙，离开辽东、经过榆关回家。
过了榆关后，还有一道关卡涿郡城（北京西城）。杨玄感让两位弟弟自己想办法潜伏偷渡。
安排了在辽东的两个弟弟之事，杨玄感又派人到洛阳，将四弟杨玄挺、幼弟杨积善请到黎阳，让他们与李密、王伯仲一起组建、训练军队。
杨玄感又派人送信给五弟、义阳太守杨玄奖，居住在长安大兴城的六弟、朝议大夫杨民行，让他们做好准备。
这次，杨玄感向杨广宣战，孤注一掷，赌上了全家人性命，不成功便成仁。