邓小平放眼全球，求同存异，说：“如果仅就缔结条约这个事情来说，只要一秒钟就解决了，不要很多时间。”
邓小平指出：“中国不怕包围，中国革命的历史表明，中国是从包围中冲出来的。”
中日建交了，但中日之间的关系似乎并没有完全走上正轨。随着日本国内政治格局的变化和国际形势的变化，中日关系也随之起伏跌宕。１９７６年，周恩来和毛泽东两位开国元勋先后撒手人寰，中国也没有一位领导人访问过日本。当年田中首相曾在钓鱼台盛请周恩来总理作为日本国国宾馆———赤阪迎宾馆的第一个客人的邀请，也随着田中的下台而成了空头支票。
应该说，自１９７２年中日联合声明发表、恢复邦交正常化后，中日和平友好条约的签订就摆到了中日两国政府的面前。１９７４年１１月中国外交部副部长韩念龙抵达日本，和东乡文彦外务次官开始举行中日和平友好条约的预备性会谈。但由于双方在反对霸权问题的条款上意见分歧，谈判进展缓慢，断断续续。１９７４年１２月，田中内阁倒台后，由三木组成新的内阁。但谈判仍然停滞不前，后来，由于中国和日本两国政局的动荡，谈判终于搁浅。１９７６年１２月，日本三木内阁在全国大选中遭到惨败，宣布辞职。福田当选为自民党总裁，并受命组成福田内阁，由大平正芳任党的干事长，园田直任官房长官。福田组阁后，日本政界要求恢复日中条约谈判的势头再次高涨。在这种形势下，公明党委员长竹入义胜决定访华，福田首相委托竹入给中国捎话，表示“要忠实履行日中联合声明。如果双方彼此理解对方的立场并取得一致意见，就尽早举行和平友好条约谈判”。但是福田派是自民党内反对日中条约的人最集中的大派，一旦要下决心的时候，他周围的人又来拖后腿。正如园田直的秘书渡边亮次郎在《园田直其人》一书中所说的那样：“政局尤其是同在野党的关系趋于紧张，他（福田）就对日中条约采取积极态度，目的是稳定形势；情况稍有好转，他就犹豫徘徊，举步不前。”
１９７７年７月２１日，邓小平在中共十届三中全会上正式复出，恢复其中央副主席、国务院副总理、中央军委副主席、人民解放军总参谋长等职务。这个消息一经传出，在世界上的反响甚至比在中国国内的反响还要强烈。
对这个消息的反应，尤其以与中国近邻的日本更为强烈。日本政府立即发表看法，对恢复邓小平的工作表示欢迎，认为这显示了中国政局趋向稳定，从而使日中关系从整体上来说也将朝着明朗的方向发展。并期望以此为契机，打破日中谈判的僵局。当时的《东京新闻》发表文章说：“由于邓小平的恢复工作，中国的外交路线将进一步增强灵活性。”并形容说，“邓氏的恢复工作也将成为（日中缔约）谈判的促进剂。”
实际也正像日本人所预测的那样。据《邓小平思想年谱》记载，早在１９７７年９月１０日，邓小平会见以浜野清吾为团长的日中友好议员联盟访华团，在谈到日本方面提出的缔结中日和平友好条约问题时，就曾指出：“对于福田首相过去的立场我们是了解的，既然福田首相声明要搞这件事，我们期待他在这方面做出贡献。虽然有各种各样的问题，但如果仅就缔结条约这个事情来说，只要一秒钟就解决了，不要很多时间。所谓一秒，就是两个字———‘签订’。”
邓小平的这个带有声明式的谈话，其实就是暗示福田纠夫首相下定最后的决心。
而在更早的１９７４年８月１５日，因生病住院的周恩来总理委托时任国务院副总理的邓小平，在人民大会堂新疆厅会见以竹入义胜为团长的日本公明党第四次访华团时，就曾在“中日和平友好条约”问题上进行了深入交谈。
竹入说：“日中复交快两周年了，如果可能的话，还是早一点开始两国之间和平友好条约的谈判。持这种意见的人，在日本不少。日中两国之间要建立一个长期的友好关系，５０年、１００年的友好关系，应该怎么办？这是最重要的事情，我相信也是田中内阁的看法。”
竹入希望以两国政府联合声明为基础签订和平友好条约，把重点放在加强今后的友好关系上，希望早日缔结和平友好条约和两个业务协定。
邓小平说：“这次阁下带来了田中首相、大平藏相的话，我们注意到了，我们还要继续研究。我们理解田中首相、大平藏相面临的问题，凡是尽力的，我们愿意尽力。我们还注意到田中首相、大平藏相多次表达了要在联合声明基础上发展中日两国友好关系的愿望。就这方面来说，我们愿意同田中首相、大平藏相共同努力，实现这个目标。我们希望两国的业务协定能比较早地签订。当然，在谈判中面临一些问题，我们希望双方努力，找出彼此都能接受的解决办法。恢复谈判后，希望双方都提出一些彼此比较容易接近的方案，不外乎是措词和方式。我们相信，经过双方的努力，是能够找到解决办法的。”
在谈到“中日和平友好条约”这个问题时，邓小平强调说：“我们希望比较快地谈判。从原则上来说，我们认为可以主要体现中日两国友好的愿望。当然，也不可避免要体现两国联合声明签订以后两国关系的发展和形势的新变化。有些解决不了的问题、难于解决的问题，可以搁一搁，不妨碍签订这样一个条约。具体步骤，总是要通过预备性的会议，先接触，双方的想法可以先了解，问题在谈的过程中来解决。”
邓小平请竹入把这三点内容转告田中首相，同时还请首相注意一下，内阁成员、政府主要官员不要有一些损害两国联合声明原则的行动。最后邓小平坦诚地说：“中日两国之间的问题，焦点还在台湾问题上。就我们来说，这个问题不止涉及日本，也涉及到国际关系中一个比较重要的问题，为什么同你们的声明里强调这个问题？为什么在《中美上海公报》里也强调这个问题？问题就在这里。当然，我们也希望能用和平谈判的方式解决台湾问题。如果不行呢？只能采取其他方式。有些日本人抱住台湾不放，你抱得住吗？”
对此，竹入义胜表示和邓小平看法一致。
邓小平恢复工作后不到三个月的１９７７年１０月１４日，又在人民大会堂会见了日本议员、前官房长官二阶堂进。二阶堂进选择这个时候访问中国，同样也是为了《中日和平友好条约》而来的。众所周知，关于《中日和平友好条约》的预备谈判其实在田中内阁时期就已经开始了。１９７４年１２月田中内阁下台后，三木内阁表示“争取早日缔结和平友好条约”，并于１９７５年１月中日双方决定开始举行和平友好条约的事务级谈判。但在谈判过程中，双方在霸权条款问题上发生分歧，致使谈判断断续续，直至最后搁浅。１９７６年１２月福田内阁上台后，同样表示要“尽早举行和平友好条约谈判”。
１９７７年７月邓小平复出之所以在日本引起震动，就是因为日本政界不少人认为邓小平的“灵活性”能够在中日友好上做出贡献，主张抓住这个时机，尽快和中国缔结和平友好条约。也就在这一年的１０月，日本专门成立了“日中和平友好条约促进协议会”，以小坂善太郎为会长，号召参加日中议联的议员和１０２位在过去７年中访问过中国的国会议员入会，给福田首相施加压力，二阶堂进也在其列。
在这样的背景下，二阶堂进选择了这个时机访问中国，以推动中日和平友好条约谈判的尽快恢复。《中日和平友好条约》的谈判，是因霸权条款而搁浅的。二阶堂进就是在这次和邓小平的会见中，提出了关于霸权条款的也就是后来人们称之为“二阶堂方案”的新方案，即“根据本约发展日中两国间的和平友好关系，不是针对任何第三国的”。９个月后中日双方谈判重开，经过十多轮艰苦的谈判，终于签署了和平友好条约。这是后话。
邓小平说“缔结条约只要一秒钟就能解决”，表明了中国政府的立场，在重大原则问题上决不让步，细节上可以灵活对待。随后，邓小平多次在不同场合反复强调中方的立场，希望日本政府在原有的立场上能有所前进。他对来访的日本友人说：“在谈判签订中日和平友好条约时，中日双方都要从全球战略的政治观点出发。我相信日本人民和日本大多数政治家懂得这一点。”
邓小平在讲话中提到的全球战略的观点，也就是说要看到苏联霸权主义对包括日本和中国在内的整个世界所构成的威胁。邓小平反复强调，苏联的战略重点在欧洲，而不是在中国。他分析说，在中苏边界地区，苏联只有１００万军队，挑起一些冲突有可能，发动战争则还差些，“苏联要进攻中国，１００万军队算什么，它没有５００万、６００万来不了，即使来了，占领了北京（这也不容易），占领东北某些地方，甚至更多地方，也只是战争的开始”。而欧洲和日本则与中国不同，他们几乎所有战略物资都依靠非洲、拉丁美洲和亚洲国家，它们最基本就是要保护通道，以免被包围封锁。
邓小平在详细分析了苏联的战略意图之后，指出：“有些人讲，苏联的这些行动是为了包围中国，中国不怕包围，中国革命的历史表明，中国是从包围中冲出来的。苏联在越南大搞军事基地，当然包括针对中国，但仅仅是针对中国吗？金兰湾离中国很远，切断海上交通，对中国威胁不大，对日本、东南亚和其他亚洲国家的威胁更大，美国第七舰队也不舒服。这不是针对中国的问题，也不是亚洲国家的问题，而是全球问题。”“过去我们总是说，苏联在东方摆１００万军队，第一是对付美国的，其次是对付日本和中国的。我们提出这个论据时，美国人、欧洲人、日本人还不大赞成。现在，至少相当多的人已经懂得了这一点。”“过去相当长的时期，我们说苏联战略重点在欧洲，欧洲人不大接受，认为中国人危言耸听。现在美国人、欧洲人大概都懂得了这一点，他们认识到中国人讲的是真话。”“我们中国自己是放心的，因为我们有明确的战略方向。”
在日本，１９７８年１月２１日，福田在众参两院全体会议上发表演说时指出：“谈判的时机正在逐渐成熟，因此决心做出更大的努力。”从３月开始，福田在自民党内从事统一认识的工作，主要是说服党内以滩尾弘吉为首的慎重派。５月，自民党内的慎重派大部分支持恢复日中和平友好条约谈判。７月２１日，日中和平友好条约事务级谈判在中国北京重新开始。８月８日，福田派园田直外相访华。
在接见日本友人时，邓小平还提出了“双方均不干涉内政”的问题，进一步鼓励园田外相赴华访问，以完成缔约的最后准备工作。
邓小平对园田说：“中日建交稍晚了一些，但建交后的两国关系发展不算慢。条约谈判的步伐本来还可以快些，已经耽误了一些时间，现在要把时间赶回来。条约的中心内容实际上就是反霸。反霸不针对第三国，但谁搞霸权就反对谁。苏联反对这一条，正是暴露了他自己。在当今国际形势下，我们需要日本帮助，日本也需要中国的某些帮助。中日之间不是没有任何问题。例如钓鱼岛问题、大陆架问题。这样的问题，现在不要牵进去，可以摆在一边，以后从容讨论。”
在邓小平“求大同，存小异，寻求更多共同点，寻求更多的相互合作、帮助和配合的途径”的灵活的外交方针指导下，经过会谈，双方就和平友好条约取得一致，促使了《中日和平友好条约》于１９７８年８月１２日在北京签订。
１９７８年８月１２日下午７时许，中日和平友好条约签字仪式在北京人民大会堂安徽厅举行。大厅正面竖立着一架巨大的屏风，上面的图案画的是安徽省佛子岭水库的拦洪大坝。屏风前面摆着覆盖有绿色桌布的长方形条桌。桌子中央插着中日两国国旗。中华人民共和国外交部部长黄华和日本外相园田直分别在桌子的两侧就座，在两份分别用日文和中文书写的条约文本上签字后互相交换条约文本。邓小平出席了这个签字仪式。
当时福田首相在官邸的电视机前收看了签字仪式的情景。据说，他坐的那把椅子，正是６年前的１９７２年２月２１日佐藤首相怀着酸溜溜的心情观看尼克松访华场面时坐的那把椅子。时过境迁，物在人易。此时的福田又是什么样的一种心境呢？看完签字仪式后，福田站起身来对记者感叹地说：“木桥变成了铁桥，今后运东西方便多了。”
而对《中日和平友好条约》的签订，日本舆论的反应也非常积极。《产经新闻》认为：“福田首相和政府有关当局在谈判中全力以赴、顽强拼博。对此，应给予高度评价。”
而此时距第一次谈判的１９７５年，已经整整过去了４年。