唐高祖李渊，是唐王朝的建立者。公元618年在长安称帝，626年传位次子李世民，在位9年，是中国历史上有名的皇帝。
李渊祖籍陇西成纪（今甘肃秦安）祖父李虎，为后魏左仆射，封陇西郡公，官至太尉，成为著名的八柱国之一，位极荣贵，死后追封唐国公。父李昞，袭封唐公，北周时任安州（今湖北安陆县）总管、柱国大将军。北周天和元年（公元566年），李渊出生于长安，7岁袭唐国公。
李渊青年时，倜傥豁达，任性真率，宽仁容众，有很高的威望。李渊的妻子窦氏，是隋朝贵族窦毅之女，隋文帝独孤皇后又是李渊的姨母，因此，李渊在朝廷上十分受宠，历任谯州（今安徽亳县）、陇州（今陕西陇县）、岐州（今陕西凤翔县）刺史。史称李氏在陇西“富有龟玉，姻娅帝王”，这充分说明李氏在关陇地区显贵一时。
隋大业初年，李渊为荥阳（今河南荥阳县）、楼烦（今山西静乐县）二郡太守，不久，又任命为殿内少监。大业九年（公元613年），升为卫尉少卿。这一年，隋炀帝发动了侵略高丽的战争，李渊受命在怀远镇负责督运粮草。当时，民不堪苦，怨声沸腾，大贵族杨玄感利用人民的不满情绪，起兵反隋。李渊飞书奏闻，隋炀帝命李渊镇守弘化郡（今甘肃庆阳县），兼知关右诸军事，以备御杨玄感。玄感兵败，李渊留守如故。在这期间，他广树恩德，结纳豪杰，因此隋炀帝对他有所猜忌。大业十一年，李渊调任山西、河东黜陟讨捕，携家眷至河东，行至龙门，遭到母端儿农民起义军的阻击。李率军击溃了这支起义队伍，收降万余人，声威大震。次年，升为右骁卫将军，奉诏为太原道安抚大使。当时，隋炀帝自楼烦巡游雁门，为突阙始毕可汗包围，形势十分危急，依赖李渊的太原兵马才得以解围。不久，炀帝派李渊与马邑郡守王仁恭北备突厥。当时，两军兵马不足5000，李渊选能骑善射者两千余人，饮食居止，一同突厥，驰骋射猎，以耀威武。有一天，李渊的军队与突厥军相逢，李渊纵兵出击，大败突厥，此后突厥收其所部北移，不敢南下骚扰。
大业十三年，李渊为太原留守。太原是军事重镇，不仅兵源充足，而且饷粮丰沛，储粮可供10年之用，因此李渊十分满意这个职位，意欲在太原发展自己的势力，以图大举。
李渊初到太原时，有历山飞农民起义军结营于太原之南，上党、西河、京都道路断绝。这支起义军有十几万人，巧于攻城，勇于力战，多次打败隋军。李渊为树立自己的威信，决定讨伐历山飞军。两军相遇于河西雀鼠谷口。起义军有两万余人，布阵齐严，李渊所部步骑仅五六千余，诸将面有惧色，李渊决定智取，乃分所部将兵为二阵：以羸兵居中，扬旗鸣鼓，排成大阵，假充主力，然后以麾下精兵数百骑，分置左右队为小阵，终于击败义军。
李渊击败义军后，他在太原的统治地位得到巩固。晋阳一带的官僚、地主、豪商也纷纷投靠李渊，李渊又命次子李世民在晋阳密招豪友，倾财赈施，广泛结纳。其长子李建成也在河东暗中交结英俊，发展势力，而此时的隋炀帝又远在江都，沉湎声色，鞭长莫及，李渊实际上成为太原的最高统治者。
隋炀帝的残暴统治，使得阶级矛盾十分尖锐。人民无法生活下去，不得不铤而走险，以武力反抗隋炀帝的残暴统治。
大业七年（公元611年）起，各地农民起义蜂起云涌，有的隋军将领也割据一方，天下沸腾，群雄蜂起。全国有近200余支反隋武装。他们在反隋斗争中逐渐走向联合，形成了以李密翟让领导的瓦岗军、杜伏威领导的江淮义军、窦建德领导的河北义军三支主要力量。在农民起义的冲击下，隋炀帝的统治已岌岌可危，处在风雨飘摇之中。
在农民起义蜂起的同时，统治阶级内部也分崩离析。李渊目睹动荡不安的天下局势，逐渐酝酿了叛隋思想。特别是农民起义的大发展，直接促使了他将叛隋思想付诸行动。
大业十三年二月，马邑人刘武周起兵，杀太守王仁恭，自称天子，国号定阳。李渊遂以讨伐刘武周为名，自行募兵。由于李渊以维护隋朝统治的面目出现，所以远近的地主武装纷纷赴集，不几天就有近万人成为李渊直接控制的军队。
李渊的行动，引起忠于隋炀帝的副留守王威和高君雅的怀疑。李渊设计诬陷他们两人潜通突厥，将其杀掉，宣布自己大举义兵，是为了安定天下，维护封建统治，还宣布与突厥和亲，避免战争。在得到突厥的支持后，李渊便公开打出了反隋的旗子，于大业十三年六月，传檄诸郡，自称“义兵”。
李渊晋阳起兵后，即决定进军关中，直取长安，以号令天下，图谋大业。西河郡（今山西汾阳县）丞高德儒表示不服从李渊，李渊便令长子建成、次子世民率军攻取。二人与士兵同甘共苦，所过秋毫无犯，甚得军心和民心，不几天，就攻下西河，擒斩高德儒，在城中又开仓济贫，令百姓各安旧业，名声逐渐传播开来。
西河告捷后，李渊建置大将军府，称大将军。以长子李建成为陇西公、左领军大都督，统率左三军；以次子李世民为敦煌公、右将领大都督，统率右三军。以裴寂、刘文静为大将军府长史司马；殷开山、刘正会、温大雅、唐俭、权弘寿等为掾属、记室参左等官；以鹰扬王长阶、姜宝谊、杨毛、京兆长孙顺德、窦琮、刘弘基等分为左右统军、副统军。初步建立了军事、政治机构。
大业十三年（公元617年）秋七月，李渊率兵西图关中，隋武牙郎将宋老生屯兵霍邑（今山西霍县），阻挡李渊前进。适逢霖雨连绵，饷粮不给，又流言突厥与刘武周联合欲乘虚袭击太原。有的将领主张先还师太原，再待机以图后举。李渊准备班师。李建成兄弟俩反对，李渊遂决定继续进军。终于击败宋老生。
平定霍邑后，李渊又连取临汾和绛郡（今山西绛县）。九月，李渊率军直逼河东。隋骁骑大将军屈突通镇守河东，断绝津梁，给进军带来一定困难。裴寂主张以重兵攻克河东，歼灭屈突通，以绝后患。李世民则认为兵贵神速，应避实就虚，直入关中。李渊左右权衡，决定分兵两路，一路由李世民率军渡河入关，直取长安，另一路以相当的兵力对付屈突通。此时，李渊的女儿平阳公主也率军前来。与李世民会师后，屯兵于阿城。李建成也自新丰至灞上。李渊自率大军自下邽西上，形成了对长安的包围之势。
十月，李渊至灞上，驻军大兴城春明门西北，与李世民、李建成军会师，共20余万。李渊令诸军各依垒壁，勿入村舍，不得抢掠。此时，京师留守刑部尚书卫文升，右诩卫将军阴世师，京兆郡丞滑仪，挟代王杨侑守城以拒李渊。李渊遣使招降被拒绝，下令攻城。十一月，隋都长安被李渊攻陷。
李渊进入长安后，下令封府库，收图籍，禁掳掠。遣建成、世民率所统兵守城，秩序井然。城内百姓对李渊军队夹道欢迎。大业十三年十一月，李渊立隋代王杨侑为皇帝，即隋恭帝，改元义宁，遥尊炀帝为太上皇，李渊为假黄钺，使持节、大都督内外军事、大丞相，进封唐王，位在王公上，以武德殿为丞相府，设官治事，独揽军国大权，总理万机。又以陇西公李建成为唐国世子，敦煌公李世民为京兆尹，改封秦王，姑臧公李元吉为齐公。又以裴寂为丞相府长史，刘文静为司马。礼乐征伐，兵马粮仗，事无巨细，悉归丞相府负责，李渊通过丞相府牢牢地控制了长安的局势，隋恭帝实际上成为李渊的傀儡。
李渊为了进一步巩固自己的势力集团，又大封功臣。义宁二年（公元618年）春正月，封丞相长史裴寂为魏国公，司马刘文静为鲁国公，其余诸将，加封有差。
大业十四年五月，炀帝的右屯卫将军宇文化及和司马德勘在江都（今江苏扬州）发动兵变，杀死炀帝，立秦王杨浩，自为大丞相。旋即率10多万禁卫军北上，扬言要返回关中。在童山（今河南浚县西南）被李密击败。宇文化及率余众走魏县（今河北大名东），毒杀杨浩，自立为帝，国号许，年号天寿。次年在聊城被窦建德擒杀。
隋炀帝被杀，隋朝灭亡。李渊便不再需要隋恭帝这个傀儡了，于是武德元年（公元618年），首先逼隋恭帝禅位，然后即皇位于太极殿，国号唐，改元武德，大赦天下，都长安。六月，他令李世民为尚书令，相国府长史裴寂为尚书仆射，相国府司马刘文静为纳言，隋民部尚书萧瑀、相国府司录窦威为内史令。不久，又立李建成为皇太子，李世民为秦王，李元吉为齐王。以李渊为首的李氏王朝得以建立起来。
李渊称帝长安时，群雄未靖，许多隋将割据称雄，农民起义军亦称霸一方，全国处在四分五裂状态。具有政治野心的李渊，不愿偏安关中一隅之地，便储粮积粟、厉兵秣马，俟军实充足，即剿抚兼施，开始了统一全国的战争。
李渊的统一行动，首先指向对关中构成威胁的薛举、薛仁杲父子。薛举是隋金城郡（治今甘肃兰州）的富豪，家产钜万，雄于边朔。大业十三年（公元617年）四月，他驱逐隋官，自称西秦霸王，年号秦兴，不久称帝，迁都天水（今属甘肃），封儿子仁杲为齐公，据陇西全境，众至13万，成为西北地区的一股大势力。薛举起兵反隋，意在夺取关中。李渊先薛举父子攻占长安，薛举父子便以10万兵力进逼关中，对李渊构成严重威胁。李渊派次子李世民率军出击，薛军败归，武德元年（公元618年）五月，李渊长安称帝时，薛举又率精骑攻扰，关中大乱。唐军则恃兵多将广，有怠敌之意，结果在高土庶（今陕西长武县北）之役中，败于薛军。消息传到长安，京师骚动，人心惶惶。薛举得胜后，则趾高气扬，欲乘胜直取长安。就在这时，薛举病死，其子薛仁杲继位。李渊命秦王李世民为元帅，再次率军讨伐，在高土庶城外大破薛仁杲军，薛仁杲被迫投降。陇西并入唐境。
与此同时，凉王李轨自称天子，年号安乐，由安修仁掌握枢密。据张掖、敦煌等河西五郡之地。李渊密遣安修仁兄安兴贵入凉，当上了左右卫大将军。武德二年，安兴贵与弟安修仁擒李轨，倾覆了李轨的政权，凉亡，河西五郡并入唐境。
李渊的劲敌除薛举、李轨外，还有刘武周。刘武周原是马邑鹰杨府校尉。大业十三年，聚兵万余人，自称太守，依附突厥，攻占楼烦（山西静乐县）、雁门、定襄（内蒙古清河县境）等郡，受封为定杨可汗，不久自称皇帝，年号天兴。武德二年，他勾结突厥，南侵并州（治晋阳），唐并州总管、齐王李元吉抵挡不住，太原危急。接着，刘武周攻陷平遥、介州，李渊派右仆射裴寂督军抗击，被刘军打败，几乎全军覆没。刘武周乘胜进逼太原，李元吉弃太原逃归长安，关中震骇。李渊准备放弃黄河以东的地区，退保关中。在这紧要关头，李世民主张，太原是李氏起兵的地方，决不能放弃，并请求率军讨伐刘武周。李渊遂命李世民率兵自龙门（陕西韩城县境）渡河，进击刘武周。唐军渡河后，休兵秣马，坚壁不战，待敌军粮草不给，气势衰落，一鼓作气，速战速决，刘武周全军溃败，部将尉迟敬德投降。刘武周势穷，率残部北遁突厥，后被突厥杀死。并州归入唐的版图。
薛举、李轨、刘武周被消灭后，关中形势得以稳定。李渊便集中力量争取中原。
李渊争夺中原的劲敌是王世充。王世充本是隋江都通守，炀帝被杀后，他在东都立杨侗为帝，不久，击败瓦岗军，瓦岗军首领李密投降唐朝，其余将帅多归附王世充。武德二年，王世充废掉杨侗，自称皇帝，年号开明，国号郑，占据洛阳，成为河南最大的割据势力。武德三年七月，李渊派李世民率军直驱河南，攻打洛阳。王世充所属河南州县相继降唐，王世充困坐洛阳，遣使向窦建德求援。窦建德欲与王世充合力败唐，然后再寻机消灭王世充，因而接受了王世充的请求，引兵10万进军成皋（河南荥阳县汜水镇）。李世民率唐军抢占武劳重镇，阻击窦建德。窦建德布长阵20里，鼓噪前逼唐阵。唐军坚守不战，以逸待劳。窦建德军粮草供应不畅，士卒饥疲，唐军乘机出击，窦建德抵挡不住，败退30里，最后受伤被俘。王世充见大势已去，率群臣两千余人降唐，河北诸县也相继归唐，李渊的势力基本上控制了黄河流域。
与此同时，李渊还派李靖至夔州（今四川奉节县），进攻占据长江中游地区的萧铣。萧铣于武德元年在巴陵称帝，不久迁都江陵，出兵攻夺唐巴、蜀地，有兵40万。武德四年，唐将李靖、李孝恭围江陵，萧铣外无援兵，只好投降唐朝，长江中下游地区亦为唐所有。
李渊兼并了割地称雄的一些隋朝贵族后，又把矛头指向在灭亡隋朝中起了重要作用的农民起义军。窦建德被俘后为李渊杀害，其部将于武德四年（公元621年）推刘黑闼为主，在漳南（今山东德州一带）起兵反唐。刘黑闼勇决善战，各地的窦建德残部又闻风而起，不到半年时间，刘黑闼就完全恢复了窦建德故地。
李渊命李世民、李元吉率军东征刘黑闼。刘黑闼率步骑2万人迎战，从午间杀到黄昏，未分胜负。唐军在洛水上游筑坝截水，看到难以取胜，就决水灌敌，刘黑闼兵败，逃奔突厥。二个月后，刘黑闼又卷土重来，重新恢复故地。武德五年，在洺州（今河北永年）自称汉东王。齐王李元吉前往讨伐，为刘黑闼打败。李渊又派皇太子李建成亲征，建成采纳魏征的建议，实行安抚政策，争取民心，以瓦解刘黑闼的部队。武德六年，刘黑闼终于被唐军杀败。唐控制了河北、山东地区。
占据江淮地区的杜伏威于大业十三年进据历阳（今安徽和县），自称总管，他进用士人，缮利兵械，薄赋抚民，颇有治绩。武德元年，他移居丹阳，上表隋越王杨侗，被任为东南道大总管，封楚王。唐军围攻洛阳，使人招降杜伏威，杜伏威降唐，被封为吴王，任江、淮以南安抚大使。刘黑闼兵败被杀后，杜伏威使部将辅公祏留守丹阳，自请入朝，被留在长安。武德六年秋，辅公祏率领江淮义军在丹阳反唐，自称宋帝，唐借故杀杜伏威。李渊又派大将军李孝恭、李靖、李世责力等分路进攻，武德七年，辅公祏率军自丹阳出走，被地主武装捕获，送唐营处斩，江南，淮南从此也成为唐朝的辖区。
李渊父子统一全国过程中，最后消灭的是梁师都。梁师都于隋大业十三年（公元617年）在朔方起兵反隋，攻占雕阳、弘化，延安等郡，自称皇帝，国号梁，年号永隆，依附突厥贵族，受封为“解事天子”，唐贞观二年（公元628年）为唐军消灭。至此，李渊父子兼并了地主割据势力，又打败了农民起义军，夺取了农民起义军的胜利果实，统一了全国。
李渊称帝后，百废待举，他一面组织力量进行统一全国的战争，一面注意加强政权建设，唐朝前期的政治、经济、军事制度，在李渊时期基本上初具规模。
建立各级统治机构。李渊建唐伊始，一切政权组织皆因隋制，直到武德七年才为适应全国统一后的历史形势，根据前代制度，确定了唐代的政权组织系统。
在中央实行三省六部制。三省即中书省、门下省、尚书省。中书省的长官是中书令，僚属有中书侍郎、中书舍人等，是决策机关，负责草拟有关军国大事的诏敕。门下省，长官是侍中，僚属有黄门侍郎、给事中等，是审议机关，主管审核中书省的决定，并有权驳回。尚书省的长官是尚书令（太宗时废尚书令，另设左右仆射），僚属有左右丞，左右司郎中等，是执行机关，负责执行中书、门下二省的决定。三省的长官都是宰相，他们共同商讨国家大事，共同对皇帝负责。六部即吏、户、礼、兵、刑、工六部。吏部主掌官吏的考核与升降，户部主掌户籍及赋税，礼部主掌礼仪及科举，兵部主掌军事，刑部主掌刑法诉讼，工部主掌土木工程。各部长官都称尚书，直属于尚书省，每部又领四司，计24司，分别执行中书、门下二省制订的政令。
唐代的监察机关为御史台，长官是御史大夫，负责纠察百官，权力极大。
唐代的地方统治机构，基本上是州县两级制，州设刺史，县设县令。刺史每年一巡属县，考课官吏，访询治安，催督赋役，保举人才。县令主一县之事，县以下有乡，乡以下有里，里是最基层的政权单位，置里正一人，辖百户左右，其职责是检查户口、劝课农桑，检查非违，催驱赋役，对人民进行直接统治，是唐朝皇帝统治人民的得力工具。
唐代中央和地方各级政权机构的建立，在中国封建社会历史上有着承前启后的重大意义。各级政权组织比较谨严，分工比较明确，和过去相比更有利于皇帝集权。
实行均田制和租庸调制。唐初，经隋末战乱，人口减少。武德初年仅有200余万户，不及隋朝最多时户数的四分之一。由于缺乏劳动力，大量土地荒芜，在这种地广人稀的情况下，唐政府要保证赋税收入，稳定政权，就必须把流亡的人口固定在土地上，迅速恢复和发展生产。为此，唐朝继承了北魏、隋朝的均田制和租庸调制，并稍加损益，颁布全国。
武德七年（公元624年）四月，李渊颁布均田令，规定：对百姓授田，丁男（21岁～60岁为丁男）和18岁以上的中男（满16岁为中男）各授田一顷，其中口分田80亩，永业田20亩，老男（60岁以上为老男）、笃疾、废疾者授口分田40亩，寡妻妾授口分田30亩，这些人若作户口，则每人授永业田20亩，口分田30亩，尼姑、女冠（女道士）各授田20亩，工商业者减丁男之半，一般妇女、部曲、奴婢不再授田；对贵族官僚授田，有封爵的贵族按品级的不同授给不同数量的永业田，从亲王到公侯伯子男，授田数量由100顷递降至5顷，在职官员从一品到八、九品，受田数由30顷递降到2顷，有战功的勋官也分别受田30顷至60亩不等，此外，各级官吏还有职分田，其地租作为官俸的补充。官府有公廨田，其地租充作办公费用；对土地买卖，官僚贵族的永业田和赐田，可以自由出卖，百姓在无力丧葬时准许出卖永业田，若百姓从人多地少的狭乡迁往人少地多的宽乡，亦准许出卖。
在地主土地私有制的情况下，要实现真正的“均田”是不可能的。但均田令的颁布，还是对于唐初农业生产的恢复和发展起了积极的推动作用。
唐初在均田制的基础上，还实行了租庸调制。它初定于武德二年二月，修订于武德七年四月。租庸调制规定：凡是受田的农民，每丁每年向国家纳粟2石，叫做租。又随乡土所产，每年交纳绢2丈、绵3两，或交纳布2.5丈，麻3斤，叫做调。还规定每丁每年要服役20天，如不亲自服役，可每天折绢3尺或布3.75尺，叫做庸。如果政府额外加役，加役15天，免调；加役30天，租调全免。每年的额外加役最多不得超过30天。唐代的租庸调和隋朝相比，以庸代役的条件放宽了，从而使农民有更多的时间从事农业生产。
实行府兵制。府兵制始创于西魏宇文泰时期，历北周、隋而至于唐。李渊太原起兵时有兵3万，进军关中后，众达20余万，为了使这支军队归心于唐和解决军粮问题，李渊把军队逐步纳入府兵组织系统，基本具备了府兵制的雏形。武德元年李渊在长安称帝不久，即置军府，任用功臣和招降军将为卫大将军、将军，完全因袭隋制。当时十二卫所属有骠骑、车骑两将军，是事实上的领兵者，武德二年置十二军，每军有将、副各一人，以督耕战。武德六年，废十二军，武德八年，因突厥入侵，又重设十二军。十二军是唐初关中比较固定的基本禁卫部队。此外，李建成、李世民、李元吉各开府领兵。
府兵制建立在均田制之上，是一种兵农合一的制度。兵士平时在家生产，农闲时由兵府加以训练。府兵的经常性任务，是轮流到京师宿卫或到边境戍守，称作“番上”；若遇到战争发生，则出征打仗。府兵在服役期间，可免除本身租调，但“番上”、“出征”时的兵器、衣服、粮食均需自备。这种“寓兵于农”的兵制，保证了兵源，减少了国家的军费开支。同时，练兵权与将兵权分离，防止了将帅拥兵跋扈，对于加强专制主义中央集权起了一定的作用。
实行科举制。科举制始创于隋朝，到唐朝时更为完备。李渊初即位，就设立京师和地方学校，收揽人士。但同时也恢复了隋朝废除的中正官，以本州高门士人充任。这是对士族的让步，不过大中正只是名誉职务，用人权仍在吏部，而吏部用人的主要途径就是科举。士人仕进不再专凭门第高低，而是主要依据学才德识，从而使唐代的用人比以前有所改进。
唐初，主持科举考试的是吏部考功员外郎。参加科举考试的生员主要有两种，一是国子监所属各学校的学生，称为“生徒”；二是各地私学中由州县保荐的学生，称为“乡贡”。
唐代的科举分常举和制举两种，常举即每年举行的定期考试，考试科目一般为秀才、明经、进士、明法、明算等科，其中明经、进士两科为热门。明经科主要考帖经，重在儒家经典的背诵记忆；进士科主要考诗赋和时务策，需要独立思考，较难考，但一旦考中，就取得了做官的资格，因此人们称中进士为“登龙门”。所谓制举，就是皇帝根据需要亲自主持的考试，科目多临时设置，考试时间也不固定，录取人数较少，在科举制度中不占重要地位。
科举制的最后确立和进一步完备，有着重要意义。和九品中正制相比，一般的中小地主都有了应试资格，为他们入仕开了绿灯，打破了士族门阀垄断仕途的局面，从而扩大了统治基础。
制订《武德律》。隋朝末年，统治者滥用刑法，民无所措手足。李渊攻下长安后，就学着汉高祖刘邦的样子，约法为十二条，称帝后，宣布废除隋朝的《大业律令》，并令裴寂、刘文静等依隋《开皇律》重新修订法律。在“务在宽简，取便于时”的原则指导下，制订了新律53条。到武德七年，正式颁布新律，即《武德律》。从内容上看，《武德律》较隋律用刑有所减轻，但对劳动人民的反抗制裁更严酷了。
李渊作为一个封建帝王，当然过着封建特权式的宫廷生活。特别是武德后期，多内宠，妃嫔成群。李渊宠妃怠政，必然导致一系列的不良后果。武德二年（公元619年），李渊听信裴寂的谗言，错杀大将刘文静。刘文静最早参与晋阳起兵之谋，在唐王朝建立过程中，南征北战，屡立战功。李渊称帝后，大封功臣，刘文静对自己位在裴寂之下甚感不平，遂与裴寂产生矛盾。有一天，刘文静酒后口出怨言，裴寂等乘机陷害，说刘文静欲反朝廷，李渊竟听其言，杀刘文静。李渊赏罚不明，加深了统治集团内部的矛盾和斗争。
唐统一全国后，李渊产生了骄傲自满思想。他越来越不关心政事，犯了不少错误。特别是对武德后期的皇位之争问题没有处理好。他想使太子、秦王、齐王各谋其位，相安无事，结果相反，太子李建成和秦王李世民为了争夺皇位明争暗斗，展开了你死我活的斗争。武德九年夏，突厥犯边，李建成向李渊推荐齐王李元吉为出征元帅，想借此把秦王府的精兵和骁将掌握在自己手中，然后借为李元吉饯行之机，秘设伏兵，除掉秦王。不料这一密谋被李世民得知。在这紧要关头，李世民经过与自己的僚属房玄龄、长孙无忌、尉迟敬德等一夜密谋，决定先发制人。他先是向李渊奏告太子、齐王淫乱后宫，李渊答应次日诘问。次日，李世民在玄武门设下伏兵，当太子、齐王途经玄武门时，李世民及部下将其杀死，并让心腹尉迟敬德带甲入宫报告李渊。此时李渊正和他的臣子萧瑀、裴寂坐在一只小龙船上，荡漾在南海池中，他见尉迟敬德全身武装立在岸边，十分惊骇。尉迟敬德说，太子和齐王造反，秦王已把他们处死，特派我前来保驾。李渊听后惊得目瞪口呆。旁边的萧瑀等赶忙劝李渊把国事都托付给秦王，尉迟敬德也敦促李渊下诏，令诸军悉受秦王节制，以便制止东宫和齐王府军队的骚乱。李渊无奈，被迫写下“手敕”，命令所有军队悉听秦王处置，并于六月一日下诏立世民为皇太子。此时，全国局势基本上已被李世民所控制，李渊无奈，表示愿早些退位。八月，李世民正式即皇帝位，从此李渊徙居太安宫，过着太上皇的生活。
李渊当了太上皇后，自知大权已被李世民掌握，自己心灰意懒，也就不再干预政事，李世民对李渊表面上也隆礼相敬，对李渊的享乐需要尽量满足，并准备在长安城东北修建大明宫，作为李渊的养老享乐之所。李渊也明白李世民的用意，颇为知趣，自乐于过太上皇生活。李渊的这种做法，有利于减少宫廷矛盾，同时也为李世民施展雄才大略创造了良好的环境。
贞观九年（公元635年）五月，李渊病死，时年71岁。谥号“神尧大圣大光孝皇帝”，庙号“高祖”。