但尼克松很信任基辛格博士，我们双方谈判，从政治上找一致点。那是中美关系的第一步；要实现建交，还需要一定的时间。中日关系就不同，我们双方都准备马上建交。《日台条约》存在于你们与台湾之间，这个事实是当时美蒋关系造成的。这次公报中可以不提这个字眼，但是不能让我们承认这个条约的存在，不能让我们承认它是合法的。”
  大平说：“要建交，就要与蒋介石断交，日台条约就自然失效。”
  接着，周恩来用很艺术而和缓的语调说：“刚才首相、外相从大的一致都说得好。但是，我并不认为今日上午外长会谈时日方高岛局长说的话，已经表达了田中首相和大平外相的真正意图。如果是那样的话，真不知你们是来吵架的，还是来解决邦交正常化。”
  会谈中，周恩来对在上午第一轮外长会谈中，日方外务省条约局长高岛益郎提出的所谓“蒋介石已在日蒋条约中宣布放弃要求战争赔偿的权利，所以主张在这次两国联合声明中就没有必要再提赔偿问题了，也没有必要将日蒋条约是‘非法的、无效的、必须废除’写进联合声明”的提议，提出批评，并说：“我们对此感到诧异。”
  田中与大平相互望了一眼，问：“那么，中国方面是什么看法？”
  周恩来愤慨而坚定地说：“新中国成立的时候，蒋介石已经逃到台湾，他已经不能代表全中国。他这是慷人之慨，遭受战争损失的主要在大陆。我们放弃赔偿要求，是从两国人民的友好关系出发，不想使日本人民因赔偿负担而受苦。你们条约局长对我们不领情，反而说蒋介石已经说过不要赔偿，这个话是对我们的侮辱，我们绝对不能接受。”
  田中紧接着说：“中国把恩怨置之度外，从大处着眼，本着互让的精神处理问题，日本应坦率地评价中国的立场，并再次表示深切的谢意。”
  这轮会谈从下午２时谈至４时４０分。会谈结束，日方官房长官对记者们吹风说：“刚才，两国首脑进行了令人惊讶的坦率的讨论。”但会谈仍没有进展。
  回到房间，大平抱怨地说：“真是伏兵奇出，不好办。我们没有料到的事情，却突然成为要解决的问题了。”
  田中没有吭声，似在思考着往下怎么办。
  大平说：“怎么办？这样下去我们无颜回日本。”
  田中说：“怎么，这个时候就觉得玩不转啦？”
  大平说：“那么，您说该怎么办？”
  田中望着大平的眉头仍然锁着，就大笑着说：“那就看你们这些诸葛亮出谋划策喽。到了这种地步，没有必要太让步。万不得已就回东京去，就当出来旅游一次好了。”
  这时候，参加谈判的外务省官员们也被叫进田中房间里来了，田中神态严肃地对他们训话：“你们各位，都是受过高等教育，很有学问的。但是，不要钻牛角尖，请你们提出一些能解决问题的见解来，责任由我来负。你们再奋斗一次吧！”
  田中作简短训话之后，就在下午５时许开始了第二次外长会谈，这是在原定日程安排中所没有的。这次外长会谈，要根据刚刚结束的首脑会谈精神，就联合声明的前言部分的文字进行磋商。会谈是这样进行的：大平外相先逐条解释日方方案，姬鹏飞外长认真地作笔记。每解释完一条，就由姬外长的助手送到另一个房间里，交给坐阵在那里的周恩来审阅，重要的问题报告毛泽东。
  自从尼克松之后，世界各国首脑政要访问中国，攀登长城成了访华“必修课目”。中国外交部礼宾官员们在１９７２年就有了这么一句口头禅，外国朋友来北京有三个“Ｍｕｓｔ（必须）”要做：登长城、游故宫、吃烤鸭，而攀登长城则居三项之首。１９７１年９月２７日下午，长城又迎来了一位新客人。日本首相田中一下车，就以矫健的步伐开始了攀登。按原定计划，田中只登至第三个烽火台就行了，但是他仍不肯罢休，又一口气攀登至了第四个烽火台。日本与西方记者们纷纷从长城当场发出报道说，“田中远远超过了尼克松”。
  爬长城归来后，双方接着谈判。然而，如何处置“日蒋条约”中关于日中间已经结束战争状况这个问题上遇到了表述上的麻烦。田中说：“怎么样才能使双方都交待得过去呢？”最后还是周恩来出了一个好主意，用“中日关系正常化结束了两国间迄今为止的不正常状况”这样的说法来表述，使双方都能在不丧失原则立场的情况下予以接受。后来，古川万太郎在《周恩来与日中关系正常化》一文中表达了日方的感受：“周恩来实在是高深莫测的人物。据说，在日中首脑会谈时，周恩来提出这个方案之后，田中、大平才确信邦交正常化可以实现。”
  而美国著名的中国问题专家鲍大可认为：这是周总理在中日复交谈判中的一大发明，这个发明，完全可以与中美谈判中基辛格所发明的那段话有“异曲同工之奥妙”。基辛格那段话是：“海峡两岸所(奇*书*网-整*理*提*供)有的中国人都认为只有一个中国”。
  经过艰苦谈判，双方终于取得了一致。２７日晚８时３０分至９时３０分，毛泽东在中南海书房会见了田中角荣。会谈进行了一个小时。
  一见面，毛泽东就说：“已经吵完了吗？”
  “不，不，谈得很融洽。”田中忙说。
  毛泽东笑说：“不打不成交嘛！”
  毛泽东没有放过田中的“麻烦”问题，说：“半个世纪的事，你只说句‘添了麻烦’，年轻人不满意。你知道吗，在中国，这是将水溅到女孩子裙子上时说的话。”
  “知道了，我会按中国习惯改换过来的。”田中说：“我们很快要达成协议了。”
  毛泽东说：“可以几十年、百把年达不成协议，也可以在几天之内解决问题。”
  田中说：“我们到北京来还只有三天嘛。”
  毛泽东说：“你们到北京这么一来，全世界都战战兢兢。主要是一个苏联，一个美国，这两个大国。它们不大放心了，晓得你们在那里搞什么鬼。”
  在座的众人都笑了起来。
  毛泽东又说：“美国人今年２月来了没建交，你们跑到他们前头去了，心里总有点不那么舒服就是了。”
  田中说：“上个月，基辛格在东京问我，为什么要急于访华，我告诉他：中国和日本之间的关系要比美国和日本之间的关系久远得多啊。”
  毛泽东说：“我很赞赏你这么说。”
  毛泽东谈到了中日两国交往史，从中国史谈到日本的政治制度和选举，从读书、汉字谈到文化的渊源，从日本天皇谈到中国惟一的天皇———唐朝第三代皇帝、武则天的丈夫唐高宗，从《四书》、《五经》谈到家庭，从马克思主义谈到佛教，还谈到了毛泽东自己的少儿时代。
  毛泽东还说：“上次我对尼克松说，我喜欢右派，你竞选时我投了你一票。这回我也投了你们的票啊，你是自民党主力嘛，主力不来怎么行？所以有些人骂我们专门勾结右派。我说，你们日本在野党不能解决问题，解决中日复交问题还是靠自民党的政府。”
  毛泽东指着在座的廖承志：“他是在日本出生的，田中先生，这次你把他领回去吧。”
  田中笑说：“廖先生在日本很有名气，他如果参加参议院选举，一定会当选的。”
  田中知道，会见该结束了。毛泽东指着房里四处堆积的书籍，说：“我有读不完的书。每天不读书就无法生活。”他指着书橱上六卷本《楚辞集注》说，“这套书是送给田中首相的礼物。”周恩来走了两步将书从书橱上取下，递给了田中。
  田中收下书，紧握着毛泽东的手，不住地点头，说：“多谢，多谢。毛主席知识渊博，还这样用功。我不能再喊忙了，要更多地学习。那么，祝你健康长寿。”
  会谈结束后，毛泽东一直把客人送到书房外的走廊中间。毛泽东与田中、大平会见，意味着日中复交谈判的难关已过。
  ９月２８日下午３时４０分，第四轮首脑会谈在钓鱼台１８号楼进行。气氛更为融洽，双方就在外长一级进行磋商的联合声明的内容最后达成了协议，并一致同意在９月２９日建立两国间的外交关系。
  这次会谈，主要是讨论剩下的日蒋外交关系如何处理问题。
  在讨论中，大平表示说：“日本方面将单独发表声明，宣布结束同台湾的外交关系。”
  周恩来问：“什么时候发表，请明确说明具体日期。”
  大平说：“请相信，外交问题是绝对不会失信的。如果日期定下来了，万一届时晚一个小时或一天，就会影响两国的信赖关系。因此，相信我吧，由我来办。”
  周恩来说：“我们重建邦交，首先要讲信义，这是最重要的。我们同国外交往，讲话一向是算数的。”接着，他从《论语·子路篇》中摘引了“言必信，行必果”，说，“这是孔子回答子贡的问话，说作为一个‘士’应具备三个条件中的一条。”他铺开一张纸，题写了这六个大字，赠给田中首相。
  田中接受之后，也铺开一张纸，挥毫写下了“信为万事之本”六个大字，赠给周总理。田中说：“这句名言，是日本飞鸟时代的为政者圣德太子说的话。”
  当晚，由大平与姬外长进行联合声明文字的具体磋商。对于“添麻烦”问题，日方的认识有了提高，对田中致词中说的“给中国国民添了很大麻烦”，在联合声明中，文字上表述为：“日本方面痛感日本国过去由于战争给中国人民造成的重大损害的责任，表示深刻的反省。”
  ９月２９日上午１０时１８分，中日联合声明签字仪式在人民大会堂西大厅举行，在茶色封面的联合声明文本上，先由姬外长、大平外相签字，再由周总理、田中首相签字。