李渊虽然以“勾结突厥”的指控逮捕了王威和高君雅，但是，任何指控都是需要证据的。李渊的证据在哪里呢？
李建成等人还在路上，所以李渊还不敢正式起兵。在此情况下，如果李渊始终拿不出证据，很可能会引起人们的怀疑，导致兴师举义之事节外生枝。
让李渊料想不到的是，在这个紧张而微妙的时刻，老天爷居然帮了他一个大忙。
准确地说，是突厥人帮了他大忙。
大业十三年五月十七日，也就是李渊逮捕王、高二人的两天之后，数万突厥骑兵突然呼啸南下，以闪电速度对晋阳城发动了一场奇袭。
由于晋阳守兵猝不及防，突厥人得以迅速突破外城，在北门与东门之间纵横驱驰，如入无人之境。面对来势汹汹的突厥骑兵，李渊喜忧参半。喜的是自己随口栽在王威和高君雅头上的罪名居然出人意料地坐实了，而今铁证如山，王、高二人就算是跳进黄河也洗不清了；忧的是自己尚未举事便有强敌来犯，如果与他们开战，自己刚刚募集的这支军队就会被消耗掉。万一把老本赔光，还拿什么起兵？
情急之下，李渊决定唱一出空城计。
他一边命裴寂、刘文静等人在宫城（内城）各门暗中布防，一边下令将所有城门全部打开，将城头上的旗帜全部撤下来，同时严禁城墙上的士兵探头外看，严禁发出半点声响。
正在来回驱驰、耀武扬威的突厥人瞬间全都静了下来。
因为他们看见晋阳宫的城门居然朝他们完全洞开，而且城头上看不见一名隋军士兵，整座宫城悄无声息，寂静得让人头皮发麻。
突厥人不敢贸然进攻内城，也不甘心就此离去，于是一边在外城继续劫掠，一边仍旧对内城虎视眈眈。
李渊登上东南城楼，发现突厥兵虽然人多势众，但是往来驰骋、人员分散，于是命部将王康达等人率一千余人潜行至外城北门处设伏，准备袭击突厥散兵。一方面劫掠一些马匹，一方面做一些战略试探。
但是王康达的行动失败了。他们刚一动手就被突厥兵团团包围，一千多人大部分战死，王康达阵亡，只有一百多人逃了回来。军民顿时大为恐惧，于是把怨气全都集中到“勾结突厥”的王威和高君雅身上。李渊顺势将王、高二人当众斩首，既平息众怒，又彻底根除了这两个心腹之患。
城中的军队本来就不多，现在又损失了一千人，看来硬打是不行了，而且这出空城计也唱不了多久。李渊随即又设下一个疑兵计，命部队在夜色掩护下潜出城外，然后第二天凌晨再旌旗招展、钲鼓齐鸣地从另一个方向进城。
突厥人一看就慌神了，看上去这是一支援兵，而且人数还不少！满腹狐疑的突厥人又逗留了两天，却一直不敢进攻，最终在外城饱掠一番后引兵北去。
晋阳虽然暂时解围了，但是对即将起兵的李渊来说，北方的突厥人始终是他背后的一个巨大威胁。万一他挥师长安，突厥人趁势进犯太原，那无疑会使他陷入腹背受敌、进退失据的困境。所以，必须暂时向突厥人低头，除此之外没有别的办法。
李渊亲自给始毕可汗写了一封词义谦恭的信，说：“当今隋国丧乱，苍生困穷，若不救济，终为上天所责。我今大举义兵，欲安定天下，远迎君上还都，恢复与突厥和亲，就像开皇时代一样。如果能与我一同出兵南下，希望不要侵害百姓，金钱玉帛，皆为可汗所有；如果因为路途遥远不能南下，只愿和亲，也可坐享丰厚的财物。该怎么做，任凭可汗选择。”
写完后，李渊在信封上用了“某某启”的字样，以示谦卑。负责送信的官员看了那个“启”字觉得很不舒服，建议多给突厥人送一些财物，然后把“启”改为“书”。
李渊听了，大笑说：“这事你就不懂了，古人云：‘屈于一人之下，伸于万人之上！’况且‘启’字又不值钱，你连钱都舍得多给，还舍不得这一个字吗？”
东突厥的始毕可汗见信大喜。对他来讲，马邑的刘武周、朔方的梁师都、蒲城的郭子和都已经归附他了，如今太原留守李渊再来投靠，这就意味着隋帝国北部边境的军事重镇都已经向他豁然洞开了。日后一旦举兵南下，岂不是一路畅通无阻，如入无人之境了吗？
始毕可汗立刻给李渊回了一封信，表示全力支持他，可以给他提供士兵和战马，但条件是让他像刘武周等人那样自称天子，公开反隋。其实也就是让李渊向突厥称臣，成为突厥人的附庸。收到回信后，李渊的左右都很高兴，唯独李渊不以为然。他并不是不想获得突厥的支持，而是不想这么早就即位称尊，公然与隋朝决裂。
他的政治智慧告诉他——现在打着“尊隋”的旗号要远比“反隋”的旗号更安全，也更有利。
因为在胜败未卜、天下大势尚不明朗的情况下，“尊隋”要比“反隋”能获得更多闪转腾挪的余地和空间，而过早僭位称尊就会背负乱臣贼子的骂名，更会成为众矢之的。此外，李渊也不愿意像刘武周他们那样接受突厥的所谓“天子”册封，公开成为突厥人的附庸。道理很简单，与突厥人的合作本来就是迫于时势，不得已而为之的，或者说是只能一夕不能长久的。说白了，这是各取所需的政治一夜情。既然是一夜情，又怎么能大张旗鼓、广而告之呢？再说了，最起码在名义上，在现阶段，李渊仍旧倾向于把自己定位在隋朝的国戚和重臣的角色上。这样既不会过度伤害自己的民族自尊心和道义感，又能为自己的叛隋起兵抹上一层“匡扶社稷、安定天下”的政治保护色，并且为壮大自身的实力赢得更多宝贵的时间。
有鉴于此，李渊认为自己目前最恰当的姿态应该是在隋朝与突厥之间取得某种微妙的平衡，既不与隋朝决裂，也不与突厥为敌。
换句话说，他必须在隋王朝与突厥人之间走钢丝。
而且还要在钢丝上跳舞。
裴寂和刘文静等人看见李渊迟迟不答复突厥人，万分焦急地说：“而今士众已全部集结，最缺的就是战马。胡人的士兵我们不一定需要，但是胡人的马却不能不要。您如果迟迟不接受他们的条件，恐怕他们会反悔。”
李渊依旧不同意，说：“你们再想一个折中的办法。”
六月初，李建成、李元吉和柴绍终于抵达太原。裴寂与李建成、李世民等人商议之后，一起向李渊提出了一个在钢丝上跳舞的办法：“废皇帝而立代王，兴义兵以檄郡县，改旗帜以示突厥。”如此则“师出有名，以辑夷夏”（《大唐创业起居注》）。
李渊笑了。
首先，宣布废黜杨广，拥立长安留守、年幼的代王杨侑。这样既能顺应天意人心，还能抢占政治制高点，挟天子以令诸侯，为造反披上一件正义与合法性的外衣。其次，有了这件美丽的外衣，就能堂而皇之地传檄天下，团结一切可以团结的力量，缔结一个最广泛的统一战线，争取不战而屈人之兵，用最小的代价换取最佳的结果。最后，为了获得突厥人在政治和军事上的支持，不妨在军队的旗帜上改用突厥人所用的白色，以此向突厥示好。
很显然，这是一套既务实又灵活，既不偏不倚又左右逢源的师出有名的起兵方案。李渊几乎原封不动地接受了。
他只修改了其中一个小小的细节。在军旗的颜色上，李渊既没有使用隋朝的红色，也没有使用突厥的白色，而是使用红白相间的双色。
在钢丝上跳舞！
李渊决定将这个政治理念贯彻到底。
大业十三年六月初五，在经历了一连串惊险和曲折之后，以李渊为首的这个政治军事集团终于在太原正式起兵。
隋亡唐兴的历史大幕就此拉开。李渊的战略目标非常明确，就是隋帝国的政治心脏——西京长安。要进军长安，首先必须攻克西河郡。
李渊把这个首战的重任交给了李建成和李世民兄弟，他说：“你们年轻，未经历练，先以此郡看你们的表现和作为，现在所有人的眼睛都看着你们，自己努力吧！”说完李渊又下了一道命令：除了往返路程之外，只给你们三天军粮。
这就是说——如果李建成和李世民在三天内拿不下西河，就意味着失败。
对初出茅庐的李氏兄弟来说，这绝对是一个严峻的考验。
而且更要命的是，他们率领的是一群根本没有经过训练的新兵。
然而，李建成和李世民还是信心百倍地上路了。一路上，他们与士卒同甘共苦，一发现敌情立刻挺身在前；士兵凡有盗窃乡民菜蔬瓜果的，他们就找到主人，给予赔偿，而且并不责罚偷盗的士兵；沿途凡是有父老贡献食物，他们一律与部众分享，从不独自享用；要是有人特别殷勤地送上牛酒等物，他们则婉拒说：“此隋法也，吾不敢。”
凭着这种廉洁自律和宽仁待众的作风，年轻的李氏兄弟迅速赢得了部众的拥戴，并赢得了远近百姓的心。
“义师”的风范和声誉立即传播开来，并且传播的速度比他们行军的速度还快，马上就落进西河官民的耳中，所以守城的隋军官兵毫无斗志，唯独郡丞高德儒企图据城顽抗。六月初十，义军兵临西河城下，云梯刚刚架上城头，士气高涨的士兵就蜂拥而上，不费吹灰之力就攻克了城池，逮捕了郡丞高德儒。
李氏兄弟当即将高德儒斩首，此外不杀一人，对西河官民秋毫无犯，让百姓各安其业。
初出茅庐的李氏兄弟不负众望，几乎是兵不血刃地拿下了西河郡，轻而易举地完成了他们军事生涯的处女作，同时也在开创李唐江山的征程上迈出了漂亮的第一步。
军队凯旋后，屈指一算，前后仅历时九天。李渊大喜过望地说：“如此用兵，足以横行天下了！”
首战告捷。李渊更加坚定了“南下关中、西取长安”的决心。
西河平定后，李渊随即开仓赈粮，远近各地的青壮年纷纷来附，每天有数以千计的人加入义军，很快部众便增至数万人。随后裴寂又打开晋阳宫的府库，献上米九万斛、彩帛五万匹、甲四十万领，以供军用。
人马、物资、粮饷都已齐备，李渊接下来要做的事情，就是给自己一个恰当的名分，同时也给所有追随他的人一个合适的名分。
对于现在李渊集团的每一个人来说，名分太重要了。有一个新名分，就意味着他们将与过去的人生彻底告别，与旧王朝一刀两断，从此拥有一个崭新起点，并且在即将来临的新王朝中拥有属于自己的位置。
大业十三年六月十四日，唐国公李渊自立为大将军，并开设大将军府，以裴寂为长史，刘文静为司马，唐俭和温大雅为记室，武士彟为铠曹，殷开山为户曹，长孙顺德、刘弘基等人为左右统军；同时以李建成为陇西公、左领军大都督，统率左三军；以李世民为敦煌公、右领军大都督，统率右三军；以柴绍为右领军府长史……
这就是李渊开创大唐王朝最初的政治和军事班底。
一群来自五湖四海的人就在这一刻选择了相同的历史使命，并且攒成了一个铁拳。
它能顺利地挥向长安，对旧王朝的心脏实施致命一击吗？