连续遭受打击的佐藤政府已到了岌岌可危的地步。据日本社会调查研究所1972年4月的调查显示，日本国民认为佐藤应该下台的人数占被调查者的64.7%。而公众对佐藤政府不满的主要原因在于其对华政策。据《东京新闻》对日本舆论的调查结果显示，要求赶快恢复日中邦交的占被调查者总数的2/3。《中美联合公报》发表后，日本朝野要求恢复日中邦交的呼声更加高涨。促进恢复日中邦交议员联盟会长藤山爱一郎认为：日本一次次被美国搞了“越顶”外交，原因是“日本的外交有错误”。他进一步指出：“日本必须建立新的外交政策。如果佐藤内阁不行，就应尽快让新人出来干。日本也应当在台湾问题上采取明确的态度。”日本社会党书记长石桥政嗣说得更尖锐：“政府对于把日本撇在一边的尼克松访华不要仅仅感到手忙脚乱就了事，而应当从只有一个中国的立场出发，尽快地废除日台条约，缔结日中条约。如果政府做不到这一点，就应当快一点下台。”民社党委员长春日一幸说：“谈到最大的核心问题——台湾问题，如果要恢复邦交，就要花费时间使日台条约变成一纸空文，别的道路是没有的。”在日本自民党内，要求改善日中关系呼声也变得更加强烈。最有代表性的是内阁通产大臣田中角荣的话：“我认为，以这次中美会谈为契机，要迅速改善日中两国关系，必须恢复过去两千年的日中两国的友好历史。只要日本深刻地反省过去给中国带来的麻烦，并从大局出发，认真地努力改善日中关系，那么，我相信就一定能实现。”
“尼克松冲击”一方面增强了日本朝野要求改善日中关系的动力，另一方面却动摇了日美的“相互依赖”关系，这也许是美国所不愿看到。自民党政务调查会会长小坂善太郎撰文指出：“在尼克松新政策中，令人感到出现了基于这样一种认识的政策，即：日本这个国家是一个不能用自己的判断决定新政策的国家，如果不强加在它的头上，那日本是不会同意的。倘若日美关系变成不是依靠对话而是通过‘强加’来解决，则是个严重的问题。”“日美关系在过去是以日美双方听取彼此的意见，仔细加以研究的形式来展开，是非常良好的。但是，这次却变成了硬要日本接受美国的想法以求得解决的方式。假如这种方式就是尼克松政策，那么，则不得不令人对日美关系的前途感到极为不安。”在野党说得更明确。公明党委员长竹入义胜说：“可以说如何处理日美安全条约体制的问题，到了应该果断地下决心的时候了。”
被美国的“越顶外交”搞得晕头转向而又在对华政策上执迷不悟的佐藤，在朝野上下的压力下，终于在1972年6月17日宣布辞去内阁首相和自民党总裁的职务，结束了他连续8年的首相生涯。7月5日，主张发展日中关系的田中角荣以压倒优势当选为自民党总裁。次日又在众议院首相选举中获胜，成为日本第48任首相，战后日本最年轻的首相。7月7日，即“芦沟桥事变”35周年之际，田中组成了他的内阁。他启用了积极主张恢复日中邦交的大平正芳任外相，并且几个重要的阁僚都是打开日中关系的促进派。就任的当天，田中在第一次内阁会议上发表了关于新内阁的内外政策的谈话，他声称：“在外交方面，要加快实现和中华人民共和国的邦交正常化；要在当前动荡的世界形势中强有力地推进和平外交。”大平外相在第一次内阁会议后举行的国内外记者招待会上表示：“要下决心从事日中邦交正常化工作”，“当日中邦交正常化达到完成阶段的时候，就不认为日华和约存在了。”首相和外相的讲话，无疑是在向中方传递一个信号，长期以来阻碍日中关系发展的来自日本方面的因素消失了。
三、中国：把握中日复交的主动权
“尼克松冲击”对中美日新三角格局的形成起了非常大的推动作用。但是，中国在这个过程中也发挥了积极主动精神，其作用也是不可低估的。中国领导人根据新中国成立后20年中日关系发展的曲折历程得出结论，中日关系受到中美关系的严重制约，因此要使中日关系有重大突破，必须首先发展中美关系，抓主要矛盾，突出重点。所以60年代末至70年代初，中国对美、对日外交中，其方针是重点发展中美关系，以中美关系促中日关系。
不过，在重点发展中美关系的过程中，中国政府并未放弃发展中日关系，仍然在积极贯彻“积累渐进”、“以民促官”的方针，为中日邦交实现正常化创造基础和条件。其中最值得一提的是对日“乒乓外交”。1971年春，中国派团参加了在日本举行的第31届世界乒乓球锦标赛，不仅对美国而且也对日本开展了“乒乓外交”。在参赛前，2月1日，中日两国乒协在北京签署会谈纪要，其中第二条为：日本乒乓球协会表示，根据中日关系“政治三原则”＃发展中日两国乒乓界的友好交流，中国乒乓球协会对此表示赞赏和支持。此举在日本引起巨大反响。日本各大电视台2月1日晚上的新闻节目都将其作为第一条消息反复播放。日本《朝日新闻》在次日发表评论说：“由于日本方面承认了政治三原则，这就打开了日本和中国进行乒乓球交流的道路。今后不仅是体育，在推进文化和经济方面的交流时，也将继承这次‘乒乓球方式’。从这一意义上说，在和文化大革命以后的中国进行交流方面，日乒协起了开路先锋的作用。”
中国政府是“乒乓外交”的总导演。在中国乒乓球队赴日前，2月12日，周恩来亲赴中国乒乓球队训练场地，向代表团表达了他的意图。他说，对中国乒乓球队去日本参加三十一届比赛，要充分估计它的政治意义——向日本人民做工作。并且建议将中国球队参赛的口号定为：“技术第二，友谊第一”。可以看出，周恩来打算将体育作为外交手段和突破口，开展体育外交，增加中日两国民间交往，影响日本人民，推动中日政府间的关系。为了实现外交意图，周恩来特意安排国务院外事办日本组的负责人王晓云为代表团副团长，负责做日本各界人士的工作。
从后来毛泽东亲自拍板决定中国代表团参赛，也可看出中国方面对此事的重视程度。比赛日期临近，一些突发事件使问题变得复杂起来。一是由于印度支那局势骤然紧张，柬埔寨王国政府正式向中国提出不承认朗诺集团有权派代表团赴日参赛的请求，并要求中国提议驱逐他们。二是日本一些右翼势力得知中国将派团参赛后，扬言要对中国参赛进行捣乱，并且几次到承担赛事的名古屋政府办公室，要求撤销允许该市的体育馆作为此次比赛场地的决定。与此同时，台湾当局的特务也纷纷活动。在这种情况下，中国派团参赛肯定要冒一定的风险，因此在是否还参赛上发生意见分歧。由于当时中国仍然处在“突出政治”的大气候下，外交部、国家体育运动委员会和中国乒乓球代表团的多数成员主张不去参赛。周恩来从大局出发，考虑到中日、中美关系的现状和打开中国外交局面的需要，认为派团参赛十分必要。于是他亲自打报告给毛泽东，陈述参赛的利弊得失以及中国球队赴日后应对上述问题的措施，请毛泽东最后定夺。毛泽东在报告上批示道：“我队应去，并准备死几个人。不死更好。要一不怕苦，二不怕死。”国家最高领导人参与一个球队出国参赛的决策，看起来真有点“小题大做”。这反映出了当时中国的政治状况和决策机制。但从另一个角度也体现出了中国领导人对此次活动的重视程度和外交意图。
中国代表团在日本期间，根据周恩来的指示，开展了体育外交活动：团长赵正洪和副团长王晓云会见了很多日本朋友，参观了名古屋的大学和丰田汽车厂；赵正洪和庄则栋还在电视台向日本人民讲了话；比赛结束后，中日两国乒乓球队还进行了友谊比赛。特别是王晓云，会见了不少日本政界和财界的要人，其中包括自民党干事长大平正芳、自民党重要领袖人物三木武夫、公明党委员长竹入义胜。据日本报纸估计，在日本的40余天里，王晓云接触和会晤了日本各界人士有500人次之多。王晓云的活动被称为“王旋风”。日本共同社对中国的“乒乓外交”评价道：“它的影响打动了日本人民和商界领导人的心”，“也推动了执政党和反对党的政治家们恢复日中外交关系的运动。”
“尼克松冲击”对日本政局和外交产生了强烈震动，中国政府抓住这个机会积极开展对日外交。在1971年7月中美发表了尼克松将访华的公告一个月后，周恩来委派王国权为总理特使前往日本参加松村谦三的葬礼，在悼念这位为发展中日关系做出突出贡献的日本著名政治家的同时，促进中日之间的相互了解和交往。王国权广泛接触日本政、财等各界人士，在日本掀起了“王国权旋风”。
中国的积累渐进式外交为恢复中日邦交打下了良好的基础，“尼克松冲击”和中国重返联合国则成了中日复交的催化剂。在中日复交的条件已经成熟的情况下，中国政府抓住时机，发挥积极主动精神，努力把握对日外交的主动权，促使中日复交一举实现。中国政府的积极主动作用主要体现在三个方面，即：促使佐藤内阁下台；明确中日复交的原则；响应、配合田中内阁的对华政策。
佐藤内阁在遭受了“尼克松冲击”的打击后，几度想同中国政府接触，以扭转外交上的被动局面。但是，鉴于佐藤内阁以往的反华倾向，再加上佐藤仍坚持“两个中国”的立场，中国政府认为佐藤内阁很难担负起实现中日复交的重任，因此确定了不与佐藤政府会谈的立场和方针。对这一方针，周恩来后来有过解释：佐藤内阁“对恢复中日邦交，首先是解除中日之间的战争状态的立场和态度摇摆不定。今天这样说，明天又那样说，使我们没法子相信他们的话是算数的。这样，如何能够同他们进行接触呢？”
王国权在日本时，佐藤内阁几次做出姿态想与之会谈，但王国权根据周恩来的指示，坚持不与佐藤正面接触。在松村谦三的葬礼上，佐藤两次主动与王国权“寒喧”，但未达到目的。8月20日下午，在松村的葬礼开始之前，佐藤走到坐在前排的王国权面前，主动与王握手并说：“从中国远道而来，非常感谢。”王国权只与他握手，一言不发。葬礼结束，佐藤走出会场时，又一次走到王国权面前说：“请问候周恩来总理”。王只是回答：“谢谢！”后来王国权回忆这段经历时说：“关于与佐藤首相的接触，当时因为他支持台湾，我们得到的批示是，从我们方面不要接触。也就是，与佐藤首相会谈的可能性是没有的。”佐藤内阁在遭受了“尼克松冲击”后，并没有在对华政策上有质的转变，它一方面继续不遗余力地支持台湾当局，另一方面继续积极配合美国在联合国搞“两个中国”的提案，反对联合国驱逐台湾当局的代表。在这种情况下，中日邦交正常化是无从谈起的。佐藤政府想与中国接触的表现实际是想欺骗日本舆论，捞取资本。就连日本媒体都看出了这一点。日本《每日新闻》9月1日发表文章指出：“右手和蒋总统派来的张群氏握手，左手和毛主席派来的王国权氏握手，耍这类花招，本来就是行不通的。”文章还指出：日中邦交正常化的条件是改变在台湾问题上的政策，就是“承认中华人民共和国政府是中国的唯一合法政府，废除日台条约”。“日本越推迟日中邦交正常化，就越成为国际上的孤儿，同时也可以说，这意味着佐藤内阁一直是同历史潮流背道而驰的”。可见，中国政府有意不与佐藤内阁接触，使之处于孤立状态，是正确的。这不仅显示了中国政府原则立场的坚定性，而且还能促进佐藤政府的垮台。
周恩来驳回“保利书简”，是孤立佐藤内阁的又一个重大行动。1971年11月，即“第二次尼克松冲击”和中国恢复在联合国的合法席位后，日本自民党干事长保利茂托来华访问的日本东京都知事美浓部亮吉给周恩来带来一封信，表示“建立崭新的两国关系的时机已经到来”，并承认“中国原来只有一个”。但信中只提“中华人民共和国是代表中国的政府”，没有“唯一”二字，而且还称“台湾是中国国民的领土”。周恩来拒收“保利书简”，认为信中的言论令人怀疑日本对台湾仍有领土野心，为日后策动“台湾独立”、分裂中国留后路。周恩来断言：“这是欺骗，不能作为谈判的对象。”
周恩来拒绝以佐藤为谈判对手，使佐藤内阁陷入了困境，因为此时日本国内要求实现日中邦交正常化的呼声已十分强烈。日本各界普遍认为：佐藤内阁已没有能力解决日中邦交问题，应该早点下台。
1972年2月中美《上海公报》的签署震撼了日本列岛，日本国内要求恢复日中邦交的呼声更加高涨，佐藤内阁下台已指日可待。在这种情况下，中国政府及时提出了“中日复交三原则”，明确了中国在中日复交问题上所坚持的原则立场，也使佐藤之后的日本主政者明确了努力方向。这三个原则的核心内容是台湾问题，即：承认中华人民共和国政府是代表中国的唯一合法政府；台湾是中华人民共和国领土不可分割的一部分，并且已经归还中国；“日台条约”必须予以废除。这三个原则首先为日本主要在野党——社会党、公明党和民社党——接受，后又为取代佐藤内阁的田中内阁接受。长期以来影响中日关系发展的一大障碍消除。
1972年7月7日，田中内阁成立。当天，田中首相和大平外相都表示要加快实现日中邦交正常化，向中方传递了决心打开中日关系的信号。当晚，田中内阁决定：实现日中邦交正常化是田中内阁最大的外交课题。随后，大平外相指示外务省课长桥本恕开始秘密准备与中方谈判的计划。