1月17日，中国新华社发表原中共中央总书记赵紫阳逝世的消息后，日本首相小泉纯一郎于当天12时05分在首相官邸大会议室门前接受记者采访时指出：赵紫阳是为中日友好尽过力的人，中日友好的方向不会变。日本外务省也在1月17日发布文告，对赵紫阳的逝世表示哀悼，并对其家属表示亲切的慰问。
    赵紫阳在1980年9月接替华国锋出任中国国务院总理以后，创造性地推进了邓小平的改革、开放路线，同时把中日关系摆在“中国现代化发展的基础”位置，积极推进中日关系发展，使中日关系从“感情外交”全面进入“实务外交”阶段。
    1982年5月31日－6月5日，赵紫阳作为日本的国宾访问日本。5月31日和6月1日，他与铃木善信首相举行两次会谈。这次访问，使中日关系取得了很大进展。中日关系开始从1972年恢复邦交后前10年的感情框架进入到中日全面经济合作的实务阶段。
    在国际关系上，赵紫阳强调中日联合对抗苏联霸权主义。当时，苏共勃列日涅夫总书记屡次向中国伸橄榄枝，要改善中苏关系，赵紫阳强调中苏关系“没有大变化”。当时苏联加紧增加远东的中程导弹，日本深感受到威胁，赵紫阳的表态使日本放心。铃木首相说：日苏关系中有北方四岛问题，改善关系不容易。中日双方在互相交换苏联中程导弹情报、“联合反霸”这一点上取得了一致。在中美关系上，当时中美间有美国对台售武纠葛，使日本担心中美关系对中日关系会有影响。赵紫阳强调，日美联盟和中日关系并不矛盾，中日关系不受任何国际形势的影响而发展，这在一定程度上消除了日本疑虑。
    就在这次访问中，赵紫阳提出了“和平友好、平等互惠、长期安定”的中日关系三原则，提出了中日关系对中国现代化的重要意义，强调两国在经济上应建立日本先进的技术和中国丰富的地下资源互补的关系。日本对中国支付能力和法制不健全存有疑虑，赵紫阳指出中国将在一个相当长的历史阶段中使所有工作重点围绕着中国的现代化进行，中国也将使法制更加完备化，保障长期的安定和内外政策的连续性。赵紫阳的一系列谈话，让日本方面感到放心。铃木首相表示：日本将竭尽全力支持中国的现代化建设，并认为中日在1972年恢复邦交以后的前十年是“感情外交”，而以赵紫阳访日为出发点，中日将进入“感情外交”开花结果的“实务阶段”。
    1982年9月26日，铃木首相回访中国。此前，中日两国正为教科书问题闹得沸沸扬扬，日方非常担心这次访问会“告吹”。但在当时的胡－赵体制下，中国采取了开放态度。铃木首相访中成行，并提出了中日两国“建立根深蒂固的信赖关系”的建议。
1983年3月23日，新任首相中曾根康弘访中。在与赵紫阳会谈时，双方同意建立“中日友好二十一世纪委员会”。陪同中曾根康弘访中的安倍晋太郎外相担心中国对日本有“军国主义复活”的戒心，向赵紫阳解释了日本的防卫政策。赵紫阳大度地说：我十分理解中曾根内阁的防卫政策，决不担心。
    根据赵紫阳访日时对日本提出进一步提供经济援助的请求，中曾根带来了4700亿日元ODA援助贷款的议定书，大大超出了第一次ODA贷款的3000亿日元，并答应在无偿贷款上将继续援助中国。这给当时中国的现代化建设提供了重要的资金基础。谁又会想到，在日本大力支持下实现了经济起飞的中国，在20年后奇迹般地产生了“中国特需”，把日本经济从严重的“不景气”状态中拉了出来，实现了新发展——这绝非偶然，而是当时中日政治家具有“双赢”的远见。赵紫阳担任总理后坚定执行开放政策，中日贸易有了突破性的飞跃。1981年首次突破百亿美元，达104亿美元。
    在1987年赵紫阳出任中共中央总书记后，在党的十三大上提出了“社会主义初级阶段”理论，大大促进了外资进入中国，1988年左右，日本向中国投资进入了一个新高潮。
    对赵紫阳的人格魅力，日本人也很欣赏。赵紫阳访日时，《读卖新闻》发表社论说：华国锋虽然有长者风度，但和他相比，赵紫阳给人明朗的、务实的、充满理性的技术官僚的印象，让人感到发展现代化的中国“脱意识形态倾向”。社论还认为，中日关系的发展进入了“成熟阶段”。在赵紫阳访日期间，日方提出，从中国得到的大熊猫“红红”的丈夫“康康”已死多年，“红红”正在守寡。赵紫阳说：红红没有康康，一定很寂寞，中国虽然熊猫也很少，但为了使日本的孩子们高兴，我们再送一头熊猫给日本。当即答应给“红红”送来一个“夫婿”。
    赵紫阳和当时的日本领导人建立了良好的个人关系。在中曾根1983年访中的3月23日晚上，赵紫阳在人民大会堂为他举行欢迎仪式，人民解放军军乐队演奏日本歌曲《樱花》、《八木节》，著名歌手蒋大维用日语演唱《北国之春》，歌舞团更在雄壮的日本大鼓声中，跳起了日本的《相马盆舞》。舞蹈演员们欢迎大家来一起跳，赵紫阳和中曾根也同上舞台，赵紫阳和日本演员中野良子一起跳了起来，中曾根首相兴致勃勃，要求乐队再奏歌曲，跳得很开心。
    宴会完了后，中曾根首相说：这样的欢迎仪式真没想到，气氛完全是日本式的。1987年，中曾根再次访中，赵紫阳作为中共中央总书记接待了他，朋友相见，分外高兴，中曾根至今对他与赵紫阳的友谊记忆犹新。