武德二年的冬天，李世勣终于深刻体验了一种身在曹营心在汉的人生困境。
尽管李世勣一心想着再度归唐，可父亲在窦建德的手里攥着，让他投鼠忌器、一筹莫展。他的心腹郭孝恪建议说：“我们刚刚归附窦建德，一举一动都受到猜疑，最好是先建立一些战功，得到他的信任后再采取行动。”
李世勣想想也只能如此，随后主动出兵，攻克了王世充所属的获嘉（今河南获嘉县），俘获大量的人员物资，呈献给窦建德，从此获取了窦建德的信任。
不久后，李世勣向窦建德献上了一条经略中原之策。他说：“曹州（今山东定陶县）和戴州（今山东成武县）人口众多，被孟海公占据，他表面上归附东都，实际上与王世充貌合神离，如果我们出动大军，随时可以将其攻占；一旦平定孟海公，继而进逼徐州和兖州，河南之地便可不战而平。”窦建德深以为然，遂命曹王后的兄长曹旦率领先遣部队五万人南渡黄河，与李世勣会师。
正当他本人准备亲率大军南下中原时，他妻子曹王后刚好生产，窦建德只好暂时搁置了南下的打算。
李世勣顿时大失所望。他本来的计划是：一旦窦建德抵达河南，就发兵袭击他的大营，然后救出父亲，投奔长安。可现在计划却落空了。
自古忠孝难两全啊！李世勣痛苦地想，看来归唐是遥遥无期了。
就在李世勣彷徨无计的时候，一场突然在他身边爆发的兵变却迫使他不得不抛下父亲，头也不回地奔向了长安。
这场兵变是由一个叫李文相，外号李商胡的人发动的。李商胡是据守孟津（今河南孟津县）的一个变民首领，拥有部众五千余人，表面上投靠窦建德，实则心怀异志。李商胡的母亲霍氏也是一个江湖人物，精于骑射，自称霍总管，和她的儿子皆有叛夏之心。母子俩与李世勣不谋而合，很快结成了同盟，李商胡甚至还和李世勣拜了把子。双方原本约定在窦建德南下时一起动手，可如今计划落空，霍氏大为不甘；加之曹旦的军队进驻河南后，在他们的地盘上肆意侵夺骚扰，令霍氏极为愤恨，于是催促李商胡提前发动兵变，诛杀曹旦和他的手下。
武德三年正月的一个晚上，李商胡设宴招待曹旦帐下的二十三名军官，把他们灌醉之后全部砍杀，随后又设计杀死了三百名曹旦的士兵。动手之后，李商胡才派人通知了李世勣。李世勣当时的大营跟曹旦相连，郭孝恪力劝他跟着袭击曹旦。可与此同时，曹旦也获知了兵变的消息，于是命令士兵高度戒备。李世勣知道先发制人的机会已经丧失，而且自己兵力薄弱，根本不是曹旦的对手，所以不得不和郭孝恪一起连夜逃离军营，策马向关中狂奔而去。
那一刻，李世勣料定自己的父亲必定会死在窦建德的手上。
然而结果却完全出乎他的意料。
窦建德虽然不久之后便亲自率兵消灭了李商胡，但却始终没有杀李世勣的父亲。当夏朝的文武百官纷纷请求诛杀李盖时，窦建德说：“李世勣身为唐臣，为我所虏，不忘本朝，乃忠臣也，其父何罪？”
窦建德在此作出了一个让人意外，却又是最明智的选择。诛杀李盖固然可以发泄自己的愤怒，但丝毫改变不了李世勣复叛投唐的事实。
既然改变不了，何苦给自己加上一个滥杀无辜的恶名？失去李世勣已经是一种损失，何苦为了泄愤让自己导致更大的损失？
窦建德强忍心头的怒火，以一种常人少有的高姿态当众宣布赦免了李盖。在这一刻，仁者的非凡胸襟、智者的深谋远虑以及王者的雍容气度同时在他身上熠熠闪光。
这就叫人格魅力！
在这样一个领袖的统治之下，无怪乎当时的河北呈现出了一派安居乐业的太平光景。史称窦建德积极“劝课农桑”，发展生产，打造了一个繁荣安定的社会局面，致使“境内无盗，商旅野宿”。（《资治通鉴》卷一八八）
从一个开国帝王所应具备的综合素质来看，无论是执政能力、军事能力还是个人品质，窦建德基本上都算是达标的。
但是最终他还是失败了。
导致他失败的主观因素肯定是有的，但是最主要的其实还是客观因素——他的对手李世民太强大了。
假如隋朝末年群雄逐鹿的舞台上没有李世民，那么最终君临天下的人很可能就不是李渊，而是窦建德。
退一步说，即便窦建德最终不足以战胜李渊入主长安，但是与四方群雄成鼎足而立之势则肯定是绰绰有余的。
武德三年的春天，河东的战局仍然处于胶着状态，唐军丝毫没有取胜的迹象。
唯一让李渊感到欣慰的是，正月十四日，长期在蒲坂负隅顽抗的隋将王行本终于在内无粮草、外无援兵的情况下开门出降。正月十七，李渊亲赴蒲州（蒲坂）受降。
就是这一次亲赴前线，险些让李渊丢了性命，因为有人精心策划了一次谋杀，准备取代他的天子之位。
这个人是李渊的心腹重臣，也是他的表弟——时任工部尚书的独孤怀恩。
独孤怀恩为何会有这么大的野心？
说来话长。独孤怀恩是三朝外戚，他的三个姑妈分别是北周明帝宇文毓的皇后、隋文帝杨坚的皇后和唐高祖李渊的母亲，所以杨广和李渊都是独孤怀恩的表兄。李渊曾经跟他开玩笑说：“你姑妈的儿子都当了皇帝，下次可能会轮到我舅舅的儿子！”
说者无心，听者有意。李渊的一句玩笑话既深深刺伤了独孤怀恩的自尊心，也煽起了他篡位称帝、君临天下的野心。独孤怀恩时常为此扼腕长叹：“难道我们独孤家只有女儿的命尊贵？”
当时王行本据守蒲坂，独孤怀恩多次奉命进攻，不但久攻不克，而且损兵折将，李渊屡屡下诏责备，独孤怀恩大为怨恨，于是开始和他的部属元君宝密谋叛变。可是兵变尚未发动，独孤怀恩就和永安王李孝基、内史侍郎唐俭等人一起被派到了河东战场，随后又在夏县遭遇惨败，被尉迟敬德俘虏。口无遮拦的元君宝私下里经常愤愤不平地对唐俭说：“独孤尚书近来正在谋划一件大事，如果及早发动，岂有今天的奇耻大辱！”唐俭大吃一惊，他万万没有料到位高权重的外戚独孤怀恩居然有了谋反之心。
后来李世民在美良川伏击尉迟敬德，独孤怀恩趁乱逃回长安。一直对他深信不疑的李渊又交给了他一支军队，命他继续攻击蒲坂。就是在这个时候，元君宝再次对唐俭说：“独孤尚书能逃出大难，再回蒲坂，真是命中注定要当帝王的人，可谓王者不死啊！”
唐俭闻言，意识到毫无防备的李渊随时可能遭到独孤怀恩的毒手，顿时心急如焚。不久，唐俭又听到了王行本投降，李渊将亲自前往蒲州受降的消息，他大为惊恐，料定独孤怀恩肯定会趁此机会发动兵变，谋杀李渊。可其时唐俭仍然被困在战俘营中，根本没办法把消息送出去。唐俭情急之下想到了一个办法。他向尉迟敬德建议，请他释放行军总管刘世让，让刘世让回朝劝说李渊放弃河东，与刘武周言和。尉迟敬德觉得这个建议不错，随即释放了刘世让。唐俭就把独孤怀恩企图谋反之事告诉了他，让他火速面奏李渊。
与此同时，李渊已经离开长安，来到了黄河岸边，准备渡河；而独孤怀恩也已入据蒲坂，在城中布下了一个天罗地网，专等着李渊到来。
接下来发生的这一幕可谓惊心动魄。就在李渊刚刚登上渡船，准备前往独孤怀恩大营的时候，刘世让一路策马狂奔，终于在这千钧一发的时刻赶到了渡口。
听完刘世让气喘吁吁的奏报后，李渊惊出了一身冷汗。他感慨万千地说：“我能逃过这一劫，实在是天意啊！”李渊随后派遣使者入城，命独孤怀恩过河觐见。独孤怀恩不知道计划已经泄露，单独乘坐一艘小船来到了李渊的大营。刚刚进入营门，连李渊的面都没见着，独孤怀恩就被禁军逮捕了。
这一年二月二十日，李渊将独孤怀恩及其一干党羽全部诛杀。
武德三年初夏，河东战场的形势开始出现转机。
刘武周在二月上旬接连攻下长子（今山西长子县）和壶关（今山西壶关县）后，其攻势就成了强弩之末，在随后围攻潞州（今山西长治市）和浩州（今山西汾阳市）时一再受挫，多次被唐军击败。
四月中旬，宋金刚军中的粮草也全部告罄，不得不向北退却。
一切都在李世民的意料之中。
唐军发动总攻的时机终于到了。