光绪二十一年三月二十三日（公元1895年4月17日），李鸿章与日本代表伊藤博文再次坐到一起，履行议约的最后一道程度：画押钤印。
此条约因在日本马关的春帆楼签订，人们习惯称之为《马关条约》或《春帆楼条约》。
条约规定：清政府承认朝鲜“独立自主”；割辽东半岛、台湾、澎湖列岛及附属岛屿给日本；赔偿日本军费白银两亿两；增开重庆、沙市、苏州、杭州为通商口岸；开辟内河新航线；允许日本在中国的通商口岸开设工厂，产品运销中国内地免收内地税；交换俘虏，中国即行释放日本军事间谍或被嫌逮之日本臣民，并不得逮捕为日军服务的人员。关于割让辽东半岛一条，中日又特别搞了个补充说明，说明强调：中国可用库平银三千万两赎回该岛，正式条约以后签署。
李鸿章总算用三千万两白银保住了辽东半岛。
事后，连伊藤博文也不得不承认，逐回张荫桓、邵友濂而同意李鸿章来议和，是个败招儿，否则，日本绝不可能失去辽东半岛。
伊藤博文一次对陆奥宗光这样说道：“无可否定，中国的李鸿章，的确是个外交老手。这个人很了不起！我们低估他了。”
陆奥宗光后来道：“李鸿章自到马关以来，从来没有像今天会晤这样费尽唇舌进行辩论的。他也许已经知道我方决议的主要部分不可变动，所以在本日的会谈中，只是在枝节问题上斤斤计较而已。例如最初要求从赔偿款二万万两削减五千万两；看见达不到目的，又要求减少二千万两，甚至最后向伊藤博文全权哀求，以此少许之减额，赠作回国的旅费。此种举动，如从他的地位来说，不无失态，但可能是出于‘争得一分有一分之益’的意思。”
李鸿章画押签字的当日，头上的纱布尚未解除，脸上亦带着那颗耻辱的砂弹，即登舟起程回国。他不想在这个国家多停留一刻。
《马关条约》被光绪帝批准后，立即在各阶层引起强烈反响。同年5月2日，广东南海举子康有为，联合在京会试的各省举人一千三百多人，联名上书光绪帝，请求拒绝此条约，要求下旨将李鸿章速逮京师斩首。很快，各省督抚也纷纷上折，提出“请诛议和之人以谢国”。
李鸿章尚在回国途中，却已经成了千夫所指的罪人。船抵天津，署直隶总督王文韶特从保定赶来接他。
李鸿章一见王文韶，眼里却忽然流出泪水，他哽咽着说道：“老夫此次赴日本议和订约，致一生事业，扫地无余。”
王文韶劝道：“老中堂万莫如此，先到行馆歇着吧。”
李鸿章擦了把泪水道：“行馆的后面还有十几间闲房子，烦老哥着人打扫一下，然后把糟糠及孩子们接过来，老夫要在这里住些日子。”
王文韶道：“老中堂，您老还要进京复命啊！”
李鸿章苦笑一声：“复命一事，只能让犬子经方代劳了。马关约成，虽割地赔银，但总算息了战火。淮军已不成军，海军已不复存在。老夫从此后了无牵挂，是真正到了归籍休致的时候了！”
小红这时小声说道：“老爷，咱还是进房歇着吧。您老的身子骨还没全好呢！”
李鸿章默默点了一下头，拄着拐杖在小红和经方的搀扶下，一步步走向行馆。从日本回来后，他自感身心憔悴，万念俱灰。被千夫所指，原本就是意料之中的事，他不想与人争辩，更不想向朝廷表功，他只想在天津静养几天，然后便长告病假，携带一家大小南归故里。
他甚至已经肯定地得出结论，他此次休致，不用过分恳请，朝廷也会答应；他甚至不用上折，朝廷也会勒令他休致。为什么呢？因为朝廷总要找个替罪羊来平息此次订约所引发的众怒。
这个替罪羊既不会是恭亲王，也不会是庆亲王，更不会是皇上，只能是他李鸿章。
但李鸿章此次的猜测却是大错特错了。光绪皇帝既未允准他在天津养疾，慈禧太后亦未许他休致，而是连下二旨，着他速进京师与日本驻华公使林董商订回赎辽东半岛之约。
李鸿章至此才明白，朝廷如此冷酷无情，缘于自己与日本订约的使命尚未完成。
他委盛宣怀去一趟京师，先为自己买下一处宅子，又把王文韶请过来，把身边得力的几名能员推荐给他，嘱他寻机考核，委以重任。
王文韶却道：“老中堂，有一个人，下官却拿不准该怎么待他？”
李鸿章笑道：“老夫料得不错的话，这个人当是浙江温处道现在小站训练新军的袁慰亭。这个人从朝鲜回来，便一头扎进荣禄的怀里，又到处为翁同龢歌功颂德。他是浙江道员，荣禄和翁同龢，却偏举荐他在天津练军，说他懂兵事。老夫从日本回来已一月有余，直隶境内的大小官员，都来看视老夫，说一两句安慰的话，独他不来见我，大概怕受连累，影响自己的前程吧。咳，此李鸿章，毕竟不是彼李鸿章。淮军光了，海军没了，腰弯了，又学会卖国啦！”
李鸿章终于也没有说出王文韶应该怎样对待袁慰亭。袁慰亭即是前驻朝鲜通商大臣袁世凯，慰亭是他的字。
袁世凯是河南项城人，别号容庵。光绪八年（公元1882年），袁世凯随淮军提督吴长庆入朝鲜，负责前敌营务处，后经李鸿章保举为三品道员。中日因朝鲜起战端，袁世凯由朝回国，实授浙江温处道。在京师引见期间，得兵部尚书总理衙门大臣荣禄与户部尚书军机大臣翁同龢的赏识，被二人密保到天津小站编练新军，圣恩渐好。
李鸿章携眷入住京师以后，稍稍歇息了两天，便开始和林董商议订约的事。
此次中日会商倒不费什么周折，无非是把日本对俄、法、德三国关于辽东半岛的承诺，形成书面文字而已，史称《辽南条约》。约成之后，李鸿章上折告假养疾。光绪帝赏李鸿章两月病假。
李鸿章名为养病，其实并无病，只是闲居而已。能办些事情的直隶总督与北洋通商大臣已被免除，头上只剩顶亮闪闪、耀人眼目的文华殿大学士的桂冠和三根招人眼红却一钱不值的花翎，还有就是每逢出门拜客手里握着的那根紫缰，这些，成了李鸿章此时的资本。
李经方奉朝廷之命赴台湾与日本办理完交割手续之后，也是染病在床，无脸出门见客。台湾百姓恨透了李鸿章，也恨透了李经方。
曾经显赫的李家父子虽同居京师，但显然正在被朝廷忘掉。其间，经方两次请洋医进府，想将留在李鸿章脸颊里的砂弹取出来，却两次遭李鸿章拒绝。这颗砂弹于是就永远陪伴着李鸿章，直至他离开人世。
赵莲虽未随夫入日，但受的打击却比李鸿章还大，已是病得不能起床，眼见着就等阎王来叫了。
小红每日都守在李鸿章的身边，陪他下棋，陪他说话。李鸿章几次劝她去江西度日，她抵死不肯，劝得急了，她便要死要活，就是不肯离开李鸿章半步。小红姑娘成了李鸿章晚年最大的安慰。
李鸿章进京三个月后，便致电云南巡抚崧蕃，求崧蕃给代购几方云南的地产柏木，声明一定要最上等的，价钱不惜。柏木很快运进京师，果然是一等一的好木材。
李鸿章让管家把木铺的好匠手请进府里，精心地打造了两具好寿材。他给夫人做了一口，自然也有自己的一口。
这时的光绪皇帝在翁同龢的指点下，为自己培植了一些力量，形成了以翁同龢为首，翰林院侍读学士文廷式、进士康有为为辅的帝党。而以恭亲王、礼亲王、庆亲王为首的一班王公大臣们，则仍唯慈禧太后的眼色行事，军机大臣李鸿藻、刚毅，体仁阁大学士管礼部的徐桐等一班人，更以懿旨为准，无形中便成了后党。
帝党鼓吹变法强国，后党坚持墨守成规，跟唱戏一般，颇有些他方唱罢我登场的意思，很是热闹。
光绪二十一年（公元1895年）十二月二十七日，李鸿章这一天同往常一样，早饭后先到夫人的房间问问病情，在榻前坐上一会儿，然后便由小红扶着到院子里散步。这时的天气很好，虽有些寒冷，但并不十分冻人。
李鸿章一边散步，一边时而停下来看一眼天空，显得很有兴致。小红见李鸿章的心情不错，不由小声说道：“老爷，您老好像特别高兴，奴婢扶您老到街上走走？”
李鸿章笑着摇了摇头，轻声道：“红儿啊，老话说，七十三八十四，阎王不叫自己去。你说，老夫过年就七十四岁了，怎么还不死啊？”
小红忙用手捂住李鸿章的口道：“老爷，奴婢不想听这话，奴婢还没伺候够您呢！”
李鸿章苦笑一声道：“可老夫已经活够了！”
小红正要说话，管家却急匆匆地从方厅里走了出来，说道：“老爷，有旨下来，传旨官在方厅呢！”
李鸿章一愣，急忙对小红说道：“红儿呀，扶老夫去更衣！”
李鸿章很快便顶戴花翎走进方厅里，传旨官一见急忙高喊一声：“圣旨到，李鸿章接旨！”
李鸿章跪倒在地说道：“臣李鸿章接旨！”
传旨官展旨读道：“据总理衙门钞电，明年四月初，为俄君加冕之期，已派李鸿章为正使，前往致贺。钦此。”
打发走传旨差官，李鸿章用手抚摸着圣旨，不由自言自语道：“朝廷还记得我李鸿章吗？”
他当即把府里的拟折书办传进书房，口授《吁辞使俄》一折。