1964年12月29日，毛泽东在给田家英的信中说：“近读五代史唐庄宗传三垂冈战役，记起了年轻时曾读过一首咏史诗，忘记了是何代何人所作。请你一查，告我为盼！”为了便于查对，毛泽东还凭记忆书写了《三垂冈诗》：“英雄立马起沙陀，奈此朱梁跋扈何。只手难扶唐社稷，连城犹拥晋山河。风云帐下奇儿在，鼓角灯前老泪多。萧瑟三垂冈下路，至今人唱百年歌。”又在诗后注明：“诗歌颂李克用父子”。
毛泽东手书的这首咏史诗，除了将诗题《三垂岗》中的“岗”（据《旧五代史》、《新五代史》）误写为“冈”外，还有两处笔误：一处是第四句“连城犹拥晋山河”中的“犹”（应为“且”）；另一处是第七句“萧瑟三垂冈下路”中的“冈下”（应为“岗畔”）。全诗其他各字准确无误。毛泽东在许多年的戎马倥偬后，仍能清楚地记起年轻时读过的这首咏史诗，可见对它印象之深刻。在晚年，毛泽东曾对身边的工作人员说：“我现在是鼓角灯前老泪多。”
《三垂岗》一诗为清朝诗人严遂成所作。严遂成虽然在清朝的诗人中名气不是很大，但他的咏史诗却写得很好，“长于咏古，人以诗史目之”，“格高调响，逼近唐音”。在这首七律中，寥寥数语不仅道尽了后人对前朝历史人物和古战场的凭吊和沧桑感，更勾勒出李克用父子气盖万夫的英雄风貌，气势宏阔。
一代伟人毛泽东所瞩目的“李克用父子”，就是五代时期后唐开国之君李存勗和他的父亲李克用。在群雄逐鹿的末世，李克用父子确实上演了一场威武雄壮的大戏。而之所以选择将李克用单独成篇，是因为李克用始终奉唐为正朔，即便朱温篡唐建立后梁，李克用拒不承认，仍袭用唐“天祐”年号。李存勗后来称帝，深知父亲的心意，于是仍然以唐为国号，史称后唐。
李克用最早的崛起，是因为镇压庞勋领导桂林戍卒起义，当年他还只有十五岁。他正式登上大唐的政治舞台，为朝野所瞩目，则是因为云州事变。
唐僖宗乾符五年（878年），代北发生饥荒，云州（今山西大同）防御使段文楚乘机削减军粮、军衣，引起了军队的不满。段文楚的部下军校康君立、薛铁山、程怀信、王行审、李存璋等人在一起秘密计谋说：“段文楚是个懦弱昏庸的人，难与共事。现今四方混乱，军队士气不振，正是我们出人头地的好时候。李国昌父子勇冠诸军，名声很大，如果我们合伙推举他当首领一起暴动。就眼前来讲，代北之地用不了十几天就可以占领，功名富贵指日可待。”
计议之后，康君立等几十人连夜从云州出发，去蔚州会见李克用，对李克用说：“方今天下大乱，天子付将臣以边事，岁偶饥荒，便削储给，我等边人，焉能守死！公家父子，素以威惠及五部，当共除虐帅，以谢边人，孰敢异者。”（《旧五代史·卷五十五·康君立传》）李克用早有野心，故意以试探的口气说：“天子在，办事应当依据国家的典章律令，你们可不要轻举妄动。再说，我父亲远在振武（唐方镇名，治所在今内蒙古和林格尔西南土城子），即使起事，也得禀告父亲。”康君立等人以为李克用不想起兵，着急地说：“现在事情已经泄露，迟了就会生变。”
李克用见时机成熟，事情紧迫，于是，从蔚州起兵，哗变的军队有一万多人，赶到云州城外后，驻兵斗鸡台（在大同奚望山上）。云州城中听说李克用的军队哗变，并且来到城外时，城内军民立即杀死段文楚，迎接李克用入城。之后，众人罗列了段文楚的许多罪状，上报僖宗皇帝，要求让李克用担任大同军防御使留后。唐朝廷不能容忍，打算派兵讨伐。
当时，黄巢农民军正如火如荼，唐朝廷一时分身乏术，为了集中力量对付起义军，唐朝廷被迫采取封官许愿的拉拢办法，任命李克用为大同军节度使。李克用父子利用唐朝廷忙于镇压农民起义的时机，不断扩充势力，巩固自己的地盘。吐谷浑族赫连铎也想争夺地盘，乘李国昌出兵进攻党项族的机会，攻占了李国昌的老营振武，振武的沙陀族全被吐谷浑族俘虏。李克用见事态突然发生变化，急忙到定边军（今陕西省西北部）迎接李国昌回云州。云州守将见李克用父子势孤力单，也关闭城门，不让进城。
在这危急关头，李克用带领少数人马转战蔚州、朔州等地，得到三千多人马，屯兵新城，李国昌则退保蔚州。赫连铎为了吞并沙陀族，又带兵把新城围住，并且指挥军队昼夜攻打，情况相当危急。正在这时，李国昌从蔚州带领援军赶到，于是内外夹攻，赫连铎腹背受敌，结果被李克用父子打败。这一仗，使李克用的军队又振作起来。
唐朝见赫连铎势力强大，就以赫连铎为大同军节度使，另派李钧为代北招讨使，想消灭李克用的势力。结果，赫连铎和唐官军又吃了几次败仗，李克用不但没被消灭，反而地盘越来越大。僖宗广明元年（880年），唐朝廷任命李琢为招讨使，联合幽州的李可举、云州的赫连铎再次出兵，大举进攻李克用父子。在力量悬殊的情况下，李克用父子在药儿岭、蔚州分别被唐军打败，损失惨重，最后率残余人马逃往北边的达靼（时居于阴山）部落中。此时，正是黄巢大军由南北上之时。
广明元年（880年）末，黄巢占据长安，唐僖宗逃往四川。中和元年（881年），唐朝廷派人到代州招募士兵三万人，以抗拒黄巢。这些士兵大多是北方的杂胡，粗犷剽悍，暴虐凶横，唐将往往无法约束控制。在这样的情况下，沙陀都督李友金向唐朝廷建议起用李克用，用骁勇善战的沙陀兵将来对付黄巢。此时，僖宗手中确实没有强将可以抗拒农民军，迫于无奈，不得不起用李克用，任命他为雁门节度使。李克用闻讯后，欣喜若狂，立即率达靼诸部万人过雁门，下太原。
这时候的李克用踌躇满志。他感到自己受命于危难之间，大有要去拯救唐朝廷于水火之中的不可一世。他给河东节度使府发送牒文，声称奉唐僖宗诏命征讨黄巢，要求节度使府沿道准备酒食以供军。河东节度使郑从谠之前是唐宰相，手下有不少名士，时人称其幕府为“小朝廷”。他知道李克用南下后，立即下令紧闭城门，严防戒备沙陀军。李克用心想：“我是皇帝请来剿灭黄巢的，跟你们一条战线，你们却还把我当敌人。”他觉得受到了轻视，决定给郑从谠一点颜色瞧瞧。
当时，李克用驻军于汾东。郑从谠派人前去犒劳，送去军资粮草。李克用却在汾东停留不发，不肯继续南下。这自然让郑从谠大为紧张，不知道这沙陀人葫芦里到底卖什么药。
李克用又亲自率沙陀军来到晋阳城下，晋阳守军早得到郑从谠严令，严密戒备，不让李克用一兵一卒进城。李克用要求与河东节度使郑从谠相见。郑从谠登上城楼，在城上与李克用对话。李克用又要求发给粮饷赏钱，郑从谠便送了一些钱米。尽管如此，李克用还是不满足，开始放纵沙陀军抢掠晋阳城外的居民，晋阳城中大为惊恐。郑从谠派人向振武节度使契璋求救。契璋率领突厥、吐谷浑兵赶来，先攻破沙陀军两个寨，李克用率大军出战，契璋军大败，狼狈不堪地逃入晋阳城。
之后，李克用纵容沙陀军队抢掠阳曲、榆次，然后打算北归，也不管僖宗的诏命了。北归途中，沙陀军遇上了罕见的大暴雨，干脆武力占据了忻、代州，留居在那里。河东节度使郑从谠一点都不敢放松，派遣教练使论安等率军驻扎于百井，防备沙陀军的袭击。
显然，此时中原的局势已经相当复杂，不仅仅是农民军与唐朝廷之间的对抗那么简单。像李克用与郑从谠因小矛盾就互相攻打、置朝廷诏令于不顾的现象在当时已经相当普遍。节度使与节度使之间，节度使与监军之间，经常动不动兵戎相见。甚至连地方悍民都聚众生事，占地为王。寿州屠户王绪与妹夫刘行全见天下大乱，竟然聚集五百多人，占据寿州。一个月后，又攻陷光州，王绪自称为将军。在这样的情况下，唐朝廷竟然还任命王绪为光州刺史。这时候，局面之复杂，已经远非唐朝廷所能控制，社会大动荡实际上从这时候已经开始，后来的五代十国不过是延续而已。
李克用占据忻、代二州后，又屡次上表向僖宗请降。僖宗不胜其烦，因义武节度使王处存与李克用是世代姻亲，僖宗诏令王处存告诫李克用：“如果你是真心诚意地归附，就应当暂且回到朔州等待朝廷的命令。如果仍像从前一样暴虐横行，朝廷就会派河东和大同的官军一同进行讨伐。”但李克用没有听从。
这时候，尽管朱温已经投降了唐朝廷，占据长安的黄巢的兵势还比较强大。唐河中节度使王重荣提议重新召回李克用，以对抗黄巢军。于是，由宰相王铎出面，召李克用到河中，并谕劝河东节度使郑从谠不要再与李克用相争。于是，李克用带领一万七千沙陀军再次南下，赶往河中，但不敢进入太原境内，怕遭受郑从谠军袭击。李克用还带着几百骑兵到晋阳城下与郑从谠告别，郑从谠也装模作样地赠送给他名马、器具和钱币等。
中和二年（882年）十二月，李克用军至河中（今山西永济），与黄巢军隔河相望。前面已经讲过，唐朝廷和黄巢都使出了手段来拉拢李克用，只不过黄巢比较失策，只送上了李克用的杀弟仇人和金银珠宝，所以失去了与李克用结盟的机会。
从中和三年（883年）正月开始，李克用及其鸦儿军开始大出风头。正月，李克用在沙苑打败黄揆（黄巢的弟弟）。二月，李克用大破尚让十五万人马，激烈的战斗从中午一直到傍晚，尚让农民军大败，农民军损失惨重，“伏尸三十里”。接着，李克用在零口再败黄巢援军，进军渭桥。
李克用还派将领薛志勤、康君立等人夜间潜入长安城，四处杀人放火，焚烧财粮，搞得长安城中人心不安，大为惊慌。
中和三年（883年）夏四月初八，李克用等从光泰门进入京师长安，黄巢率军顽强抵抗，但见唐官军势大，便放火焚烧宫殿后逃跑。唐官军进入长安后，再一次横暴抢掠，与农民军没有什么两样。不过，此时长安城内的房屋和百姓已经所剩无几，实在没有什么可抢的了。
黄巢从蓝田进入商山，见唐官军紧追不舍，便下令往路上扔下金钱珍宝。追踪而至的唐官军见钱眼开，争相抢夺，也没有人再继续追击，黄巢就此逃脱。
李克用率先进入京城，夺了头功，因功加官同中书门下平章政事（宰相）、陇西郡公，不久又加金紫光禄大夫、检校右仆射、河东节度使，时年方二十八岁。在替唐朝廷收复京师长安之战中，“功第一，兵势最强，诸将皆畏之”。从此，李克用由镇压黄巢起义发迹，依仗其军事实力，成为唐末政治舞台上风云人物之一。
李克用退回河东后，就开始扩展地盘，加强自己的势力。他攻陷潞州，让堂弟李克修任昭义节度使。
此时，黄巢虽然退出长安，但实力犹在，挥军逼近汴州。这时，朱温任唐宣武节度使，镇守汴州。他对以前的老上司有畏惧之心，自知无力阻挡黄巢的进攻，便向李克用求援。李克用正志得意满，打算趁机一显身手，就欣然应邀。中和四年（884年）春天，李克用率兵五万，自河中南渡，连败黄巢军。黄巢骁将尚让见势不妙，率众向唐将时溥投降，其余几个大齐将领也向朱温投降。
此时，农民军失败大局已定，黄巢起义军只好退走山东。李克用率兵穷追不舍，想将黄巢一网打尽，一日一夜行军二百里，大军难以跟上，最后仅数百骑兵跟上李克用。因为人困马乏，粮草缺乏，李克用只好退还汴州。在这次追击中，李克用捉住了黄巢的幼子，还缴获了黄巢乘坐的车马、仪仗、龙袍、符节和印章等物。
而黄巢被李克用这次穷追猛打之后，也仅剩下千余人，不久，在莱芜（今山东莱芜）又遭到唐将时溥的围攻，逃到狼虎谷（今山东莱芜东南）时，身边只剩下少数几个亲信，黄巢绝望至极，自杀身亡。
李克用到汴州后，在城外扎营。“地主”朱温为答谢李克用出兵相助，特地在汴州驿馆上源驿设宴款待，为其庆功接风。李克用新建战功，志得意满，欣然赴约。他没有想到，这是一场充满杀机的夜宴。
当晚，朱温大排宴筵，“礼貌甚恭”。李克用连同监军陈景及亲随数百人出席了宴会。这是一次历史性的酒宴，日后朱温和李克用二人分别成为了后梁与后唐的开国皇帝，只不过目前二人都还不知道而已。
李克用年轻气盛，加上自认为对朱温有恩，因此在酒席上极为骄横放纵。他自以为是大唐的功臣，内心深处本来就看不起流寇出身的朱温，酒醉之后，言语之间就慢慢流露了出来，对朱温多傲慢侮辱之词，有恶语伤人之处。
朱温从来就不是个有胸襟之人，心里愤愤不平。他投降唐朝廷之后，极受重用。李克用的突然崛起，一度威胁到他的地位。朱温本来就妒火中烧，被李克用轻辱后，心中动了杀机。不过，李克用武艺超群，威名远扬，当时无论是农民军，还是唐将领，都很害怕他。加上他的亲随们一身黑衣，令人望而生畏。所以，朱温虽然怀恨在心，却没敢当场发作，反而加意劝酒，将李克用灌得大醉。
宴会结束后，李克用等人因饮酒大醉，酒将衣襟都打湿了，当晚便留宿在上源驿。朱温离开上源驿后，一脸不高兴。一直跟在他身边的宣武将杨彦洪见识了李克用在酒宴上的无礼，便劝朱温连夜杀死李克用以绝后患，还特意提醒说：“胡人急则乘马，事起后，看见乘马的人一定要用箭射杀。”
朱温这才下定决心铲除李克用。将李克用千里赶来相救，经历多场厮杀后打败了黄巢，解了汴州之围，不过因酒后几句话，就惹来杀身之祸。由此可见朱温的刻薄寡恩。
朱温连夜派人用连起来的马车和栅栏挡住出口，再派汴兵包围了上源驿，乱箭齐发，欲置李克用于死地。而李克用早已经烂醉如泥，躺在床上呼呼大睡，对外面的变故一无所知。幸好他的亲随薛志勤、史敬思等人骁勇，竭力抵挡，由此展开激烈的搏杀。薛志勤箭法极为高明，例无虚发，一人便射死汴兵数十人。围攻的汴军军士心惊胆战，虽然大声鼓噪，却不敢轻易上前，于是从四面纵火，以火炬向驿舍投掷，打算烧死李克用等人。
亲随郭景铢扑灭蜡烛，李克用藏到床下，然后用凉水浇李克用的脸，告诉他事情经过。李克用“始张目援弓而起”，这才摇摇晃晃地站起来，以他现在的状况，自然无法参加格斗。大概是他命不该绝，浓烟烈火刚起之时，突然“大雨震电，天地晦冥”。大火被暴雨一浇，顿时熄灭。薛志勤扶住李克用，借闪电的光亮翻墙突围而出。
此时正是半夜，完全看不见人影。李克用等人得以逃出上源驿。而渡桥被汴军把守住。薛志勤等人奋力拼杀，终于杀出一条血路。史敬思负责断后，英勇战死。李克用等人急奔尉氏门，杀掉守门汴兵，在雷雨的掩护下，从城头缒下逃生。但监军陈景和三百多亲随都被汴兵杀死。从此，双方结下了死仇，水火不容，晋、汴之争拉开了序幕。
巧的是，宣武将杨彦洪事先说见骑马人就射，当天晚上，杨彦洪刚好骑马出现在朱温的面前。因天黑难以辨明，朱温当即下令放箭，杀死了杨彦洪。
跟朱温的妻子张氏一样，李克用的妻子刘氏也是个相当厉害的角色。她非但智多善谋，对于形势的判断远远超过一般的谋士。也不是张氏那类弱不禁风的大家闺秀，每次征伐，她总是从军跟随，陪伴在丈夫身边，颇有豪气。当李克用被围在上源驿的时候，身边有人先从汴州城内逃脱，跑回军营向刘氏报告情况。换作一般女子，要么哭哭啼啼，六神无主，要么火冒三丈，立即点兵去营救丈夫。可刘氏不动声色，还将逃回来报信的人立即斩杀，以掩饰消息。她随即暗中召集将领，“谋保军以还”。
天亮时，李克用狼狈逃回，立即要发兵攻打汴州，报此深仇。妻子刘氏认为这样反而理亏，劝他不如奏明唐朝廷，以便名正言顺地讨伐朱温。刘氏对于李克用的作用不可低估，不但这次镇定自若，出谋划策，在许多关键时刻也起到了作用。
李克用听从了刘氏的话，带领军队离去。但朱温在上源驿无故加害，使得李克用怒气冲天。离开前，他发檄文责备朱温忘恩负义。朱温回信说：“前天晚上的变乱，我实在不知道，是朝廷派遣的使臣与杨彦洪相谋划的，杨彦洪既然已经服罪处死，只有请你体察原谅了。”
李克用随即奏报唐僖宗，罗列朱温的罪名，请求唐朝廷下诏讨伐。但唐朝廷中也有许多大臣倾向朱温，便在僖宗面前为朱温开脱。僖宗无兵无权，无力资助，只能下诏让两人和解。同时，为安慰李克用，僖宗又以破黄巢有功为名加授他为陇西郡王，以息其怒。而朱温为了全力对付西边的秦宗权，避免腹背受敌，也派使者登门谢罪，送上金银等厚重礼物。李克用考虑此时自身羽翼尚未丰满，还想兼并其他地区扩充势力，同时与王重荣共同出兵关中也要分散兵力，也就暂时忍下了这口恶气，只是扬言要领兵讨伐朱温。在各种利益的权衡下，双方的冲突暂时没有爆发。
上源驿事件后，李克用与朱温的矛盾表面化、直接化了。其实，就算没有上源驿事件，李克用与朱温的冲突也不可避免。在唐朝末年镇压黄巢起义军的过程中，朱温与李克用逐渐成为最大的两派势力。李克用当时占据河东，但是并不满足，他要向东发展，就必然与正在中原称霸的朱温发生冲突。上源驿事件后，他与朱温之间的明争暗斗从来没有停止过。最初几年，李克用利用各地军阀矛盾不断征战，北攻云幽，东伐镇冀，南略关中，平定三辅，甚至派兵长驱直入山东，进一步壮大了在河东地区的势力。
李克用是独眼，这其中还有个十分有趣的故事。李克用占据河东地区之后，名声很大。占据淮南的杨行密却常因为不知其相貌而苦恼。为了能了解其长相，杨行密暗中派了画工扮成商人去河东，伺机画李克用的像。画工到河东后不久便暴露了身份，被李克用军队抓住。李克用闻讯后颇为恼怒，对左右说：“我瞎一只眼这是实情，不妨召他们来画一画，看看他们怎么画我。”等画工到了，李克用扶膝呵斥道：“杨行密派你来给我画像，那你肯定是优秀的画工了，如果今天画不好我，台阶下就是你的丧身之地！”画工叩拜后便开始下笔画像。当时正值盛夏季节，李克用正手执八角扇驱热。画工相当聪明，在画中以扇角遮住了李克用失明的那只眼睛。李克用却说：“你这是在谗媚讨好我！”命令画工重画。生命攸关，这个画工急中生智，将李克用画成了弯弓射箭的样子，微闭着一只眼（其实就是那只瞎眼），仿佛正观察箭的曲直。李克用看后大喜，重赏了画工并将他送回淮南。
光启元年（885）底，李克用曾出兵帮助河中节度使王重荣在沙苑（今陕西大荔南）打败唐将朱玫后，一度攻入京城。唐僖宗辗转凤翔（今属陕西）、宝鸡（今属陕西）到兴元（今汉中），两年后才回到长安。昭宗即位后，对李克用采取姑息态度，但迫于朱温的压力，让宰相张濬带兵征讨，结果张濬战败，昭宗只得继续让步，于乾宁二年（895）底进封他为晋王，成为唐末割据势力中被封王的第一人。
次年正月，昭宗打算再次任命张濬为相，李克用上表说：“若陛下朝以张濬为相，则臣将暮至阙廷！”吓得昭宗只好改变主意。
当朱温进攻兖（今属山东）、郓（今东平西北）的朱瑄兄弟时，李克用派兵前去援救，意在牵制朱温向河北发展势力。此后，李克用为争夺河东、河北的南部地区而与朱温血战连年，尽管一度居于下风，但他在太原地区的根基已经深不可摇。
由于李克用劳师远征，四面出击，结果四面树敌，加上军纪败坏，使得晋军失尽人心。从唐朝廷中央政权到地方藩镇，都有一批视他为虎狼的人物。他们往往在李克用大兵压境时，低首归顺，而一旦有机可乘，就伺机对抗。
天复元年（901年），汴将张从晋攻陷晋、绛二州，截断了李克用南下的通路。河中节度使王珂是李克用的女婿，急向岳父求救。李克用首尾不能相顾，给女儿复信说：“你可与王郎弃城投降。”就此放弃了河中。
河中之失，是李克用由盛而衰的重大转折，“武皇自是不能援京师，霸业由是中否”。这年四月，汴军多路从东、南入晋，包围晋阳，“都人大恐”，只是由于连日大雨，汴军粮草不给，将士多患痢疾，才暂时后退。六月，李克用向朱温求和。
第二年，汴军复攻晋阳，形势危急，李克用欲奔云州，北逃以保实力。妻子刘氏激励劝止道：“大王常笑别人弃城逃跑，被人宰割，今天怎么却要效仿呢？大王先前曾到塞外避难，差点遇害，现在如果弃城北逃，难保有不测之事，根本就难以保全自己，还谈什么大业！”李克用听从了刘氏的建议，收聚溃散将士。幸赖诸将奋战，汴军再次退走。虽然汴军这时仍然势盛，朱温挟天子以令诸侯，但李克用毕竟已经走出了低谷。
李克用虽然是一方霸主，然而在军事战略与统驭部下方面的缺陷却严重削弱了自身实力，使得他在与朱温争夺霸权的初期一直处于劣势。不过，他有一点谋略胜过朱温，这就是他从来不像朱温那样，明目张胆地凌驾于唐皇帝之上。李克用也知道唐朝气数将尽，他自己也并非没有称帝的野心，但是在当时，扶唐兴唐还是一面颇有号召力、颇能收人心的招牌。所以，他时时以勤王讨逆的面目出现，而既能趁势扩张自己的势力，又能收买人心。
天祐元年（904年），朱温强迫唐廷迁都洛阳，弑唐昭宗而立辉王李柷，是为哀帝。告哀使到晋阳，李克用南面痛哭，令三军穿素服以志哀。天祐四年（907年），朱温迫不及待地废唐哀帝，自立为王，建立后梁。
朱温称帝后，当时割据四川的王建也想称帝，派使劝李克用一起称帝，割据一方，被李克用婉言谢绝，说自己“累朝席庞，奕世输忠”，因此“誓于此生，靡敢失节”。表面上看起来是忠于唐朝廷，但其实，李克用不是不想称帝，而是想趁朱温称帝之机，兴灭朱兵。他已经看出，朱温急匆匆称帝招致了各地反对，可见唐朝虽亡，但还是没有失尽民心。于是李克用站出来，以唐朝忠臣的身份进行讨伐，利用朱温内部矛盾重重，外部失尽民心的有利时机扩充领地，在与后梁的对抗中逐渐占了上风。
早在天祐二年（905年），李克用就与契丹主阿保机联盟，欲渡河南征。天祐三年（906年），李克用遣兵攻邢州，克泽、潞州。天祐四年（907年），朱温重兵十万围潞州（今山西长治），李克用也派兵驰援。朱温再派军，在城外筑了一道夹寨，将李克用的部下李嗣昭包围在城内，双方相持了一年。李克用派周德威去解围，双方打得很激烈，也没有能将朱温的军队击溃。两军对垒，难分胜负。
就在双方相持的时候，李克用却因头部疽发身染急病，于后梁开平二年（908年）死于晋阳，当时仅五十二岁。
李克用突然去世后，周德威的援军撤还晋阳，朱温认为攻破潞州已不在话下。不料李克用的儿子李存勗率援兵日夜兼程，出其不意地击败了朱温的军队，解了潞州之围，缴获了大量的粮食军械。后来李存勗又用智取的办法，多次击败了朱温的军队，朱温的军队因而在心理上对李存勗产生了恐惧心情，往往两军还未接手就纷纷溃散。朱温感到自己后继无人，不是李克用儿子的对手，所以感叹说：“生子当如李存勗，我的儿子比起来只是猪狗而已。”果然不出所料，朱温死后，他的儿子朱友贞被李存勗所灭。
临终时，李克用下令薄葬，发丧之后二十七天便可除去丧服。在当时，儿子为父亲服丧要满三年，这是丧期最长的。最短的丧期也有三个月。李克用要求缩短，自然是要儿子李存勗以大局为重，把精力放在打退梁军上。
李克用临终时还交给李存勗三支箭，鼓励儿子说：“一支箭先讨伐刘仁恭，你如果不先攻占幽州，那么河南地区也难夺取。一支箭北击契丹，当初阿保机和我盟誓结为兄弟，相约兴复唐朝社稷，后来他却背信弃义，你一定要讨伐他。最后一支箭去灭朱温，你如能完成我这三项未实现的心愿，我死而无憾了。”显然，李克用因壮志未酬，遗恨绵绵，可以说死不瞑目。好在儿子还算争气。李存勗将三支箭藏在李克用的太庙中，到讨伐刘仁恭时，便请出一支，放在锦囊中，命亲将背着追随自己左右，凯旋之日，随同战俘一同献于李克用太庙，后来伐契丹、灭后梁都是如此。
李克用生前始终未敢称帝，死后却得到了皇帝的名号。李存勗称帝建后唐时，追认他为武皇帝，庙号为太祖。
这里再提一下三垂岗战役。李克用死后，李存勗戴孝出征。
当时，朱温的后梁军正与李军争夺潞州，潞州即上党。上党古称天下之脊，战略地位极为重要，自古为兵家必争之地。谁占据了上党、太行的地利，就可以囊括三晋，跃马幽冀，挥戈齐鲁，问鼎中原。因此，从公元883年至907年，二十多年间，朱温等与李克用反反复复争夺上党，主要城池、关隘先后五度易手，战事惨烈。到了公元907年，朱温篡唐自立为皇帝后，派兵十万再攻上党。守将李嗣昭闭关坚守，梁军久攻不克，便在上党城郊筑起一道小长城，状如蚰蜒，内防攻击，外拒援兵，谓之“夹寨”。两军相持年余，战事进入胶着状态。
李存勗召集众将说：“梁人幸我大丧，谓我（年）少而新立，无能为也，宜乘其怠击之。”他亲率大军，疾驰六日，进抵三垂岗。
当年，李克用在邢州大捷之后，还军上党，曾在三垂岗休整。李存勗时年只有五岁。一天，李克用外出校猎，将李存勗带在身边。猎间小憩，他乘兴到一座古祠饮酒，随行伶人奏起声调凄苦的《百年歌》，暗示岁月无情，人生易老。惯于戎马生涯的李克用，不仅未被乐曲伤感的旋律感染，反而乐观地抚摸着偎依在膝边的李存勗说：“老夫壮心未已。二十年后，此子必战于此。”
故地重游，回忆往事，李存勗忍不住感叹道：“此先王置酒处也！”
李存勗随即将全军隐蔽集结，梁军毫无察觉。次日凌晨，弥天大雾，李存勗借大雾的掩护，挥师前进，直捣梁军“夹寨”。此时梁军尚在梦中，仓促不及应战，被晋军斩首万余级，余众向南奔逃，投戈弃甲，填塞道路。符道昭等将官三百人被俘，只有康怀英等百余骑出天井关（一名太行关）逃归。朱温在开封闻讯，惊叹道：“生子当如是。李氏不亡矣！吾家诸子乃豚犬（猪狗）尔！”
三垂岗战役是长途奔袭，以隐蔽奇袭取胜，为之后李存勗兵下太行、逐鹿中原打下牢固的基础。
李克用父子诚然都是叱咤风云、智勇兼备的乱世英雄，只可惜英雄一生，也未必能尽如人意。比李克用抱憾而终更具有悲剧性的是，李存勗是含恨而死，他长于军事而短于政治，夺取天下之后就与从前判若两人，从此弊端百出。关于李存勗，在最后一篇关于五代十国的《天下角逐兴亡中》中再行讲述。