中文导报 社论
作者：申文
由OpenAI公司开发并发布的ChatGPT所代表的新一代人工智能AI，正成为新的风口，吸引着无数的前沿科技和金融资本纷纷涌入。在移动互联网的发展摸到天花板之后，生成型人工智能系统的开发成为新的技术目标，是下一个伟大的创新。创新工场董事长兼CEO李开复解释称，AI 2.0将是一个巨大的平台性机会，比移动互联网大十倍。目前被热议的相关产品，只是冰山一角。如果说AI 1.0就像是发明电，AI 2.0就是构建电网，所有的应用都会被重写一遍，就像在移动互联网时代发生的那样。
为了这个被越画越大的“机会”，激进的技术大咖们在开发路上狂奔不止，激动的商业资本为应用获利而高声欢呼，而社会似乎缺少未雨绸缪的问题意识和危机意识。好莱坞电影中经常出现一些人工智能(AI)的“觉醒”可能危及人类的场景，对于人类社会来说，这不再是科幻而是无限接近的现实——加速开发具有人类智能水平的AI系统可能“对社会和人类构成潜在风险”。
最近GPT-4发布后，人们在惊叹于人工智能越来越强大的自我学习和生成能力的同时，也对人工智能可能脱离人类，甚至控制人类的未来场景感到困惑和恐怖。全球千余名科技精英、工商领袖认识到开发更先进AI系统正陷入一场“失控的竞赛”，因为AI生成越来越强大的数字思维，可能让所有人，甚至包括它们的创造者都无法理解、预测或可靠地控制它们，为此呼吁暂停开发更先进人工智能，为引入“共享安全协议”提供时间。
有识者针对AI开发提出的灵魂拷问是：1、我们是否应该让机器用宣传和谎言淹没我们的信息渠道；2、我们是否应该让所有的工作自动化，包括那些令人满意的工作；3、我们是否应该发展最终可能在数量上超过我们、在智能上超越我们、能够淘汰并取代我们的非人类思维；4、我们应该冒着失去对我们文明控制的风险吗?
对于以上质问，以及更多疑虑，目前还没有令人安心和满意的答案，而生成型人工智能已经时不我待地呱呱坠地了。就像生命一旦降生，任何力量都阻碍不了其自然生长一样，AI 2.0的快速成长也是无法阻挡的大概率事件，但是，人的成长需要教育辅助，是以社会环境和文明背景为基础的，这与缺乏责任的自然放养和野蛮生长是完全不同的概念。人工智能的研究和开发也应做如是观，必须建立一种体制和环境来保证越来越强大的、先进的AI系统会变得更加准确、安全、可解释、透明、稳健、一致、可信而可靠。
以上的愿望是不是人类的一厢情愿，需要靠人工智能的未来发展实绩来验证。全球科技精英、工商领袖们签署公开信，希望激进的高性能AI开发能放慢脚步，或按下“暂停键”，让人类有时间去思考并完善上述选题，以共享安全协议的方式为高级AI的发展规划健康的道路和方向，而不是放任AI在失控状态下反噬人类自身、演变成有违开发者初衷的异化存在，或进一步脱逸文明轨道，扮演人类的“掘墓者”。
在历史上，特别是近代以来，人类获得技术突飞猛进却应用不当而付出惨烈代价的先例并不少见。二战期间，曾经在原子能转化为原子弹的过程中扮演重要角色的爱因斯坦后来反核，成为和平主义者。他描述原子弹的危害说：“我不知道第三次世界大战会用什么武器，但第四次人类一定使用的是石头和木棍。”尽管有意见称，大国间的核恐怖平衡维系了战后70多年的世界和平，但是核讹诈、核恐怖、核威胁、核威慑层出不穷，人类至今生活在核阴影中，话题不断，难以自拔。难道人类的未来还会生活在AI恐怖中、时刻承受AI阴影吗？
新一代人工智能，涉及到数字思维和语言模型，首先是一个技术问题，但又不是纯技术问题。每当技术开发登顶，或遭遇十字路口的时候，便是人文出场的时候。时代需要想象力旺盛、特立独行的技术狂人，但社会需要包括道德、伦理、法律、情感、思想在内的人文关怀。诸如ChatGPT的开发运用，因为已经突破了工具的范畴，所以不是OpenAI一家公司的事，也不是科技界的专属，而应成为全社会全人类必须关注的大事。从各国政府、行业领袖到人文学者、法律工作者等，都不是技术壁垒以外的旁观者，而是涉及社会发展和人类命运的直接参与者。有了从人本立场出发的人文因素的渗透，才能实现技术为人所用，让新一代人工智能AI成为人类的助手而不是威胁。
对此，千余名全球科技精英、行业高官和专家联署呼吁，让开发人员和政策制定者合作，大幅加快强大的AI治理系统的开发，至少应当涉及监管机构、审计和认证系统、监督和追踪高性能AI系统、人工智能造成伤害后的责任问题、为AI技术安全研究提供公共资金等方面。在现实中，物理世界的技术创新成果需要漫长的转化周期，而AI技术的突破可以通过互联网一夜散播全球。显然，在人类未能就AI伦理、监管等找到妥善解决方法前，这些讨论和担忧并不多余。
没有人会否认人工智能是科技史，乃至整个人类发展史上的重要时刻。对于快速成长的高级人工智能的开发，不仅要埋头做事，也要抬头看天，即看清社会的需要，看清人类的未来。人类是人工智能的创造者，人类的觉醒必须抢先于人工智能的觉醒，创新才是值得期待的。本次网络联署，可视为人类觉醒的先声。尽管还是初步的，不完善的，却是意义不凡。纽约大学教授马库斯认为，“这封信并不完美，但精神是正确的。这也许是AI史上的转折点，也是人类史上一个非常重要的时刻。”人们需要放慢脚步了，直到更好地理解这一切带来的真正后果。
作者：申文
由OpenAI公司开发并发布的ChatGPT所代表的新一代人工智能AI，正成为新的风口，吸引着无数的前沿科技和金融资本纷纷涌入。在移动互联网的发展摸到天花板之后，生成型人工智能系统的开发成为新的技术目标，是下一个伟大的创新。创新工场董事长兼CEO李开复解释称，AI 2.0将是一个巨大的平台性机会，比移动互联网大十倍。目前被热议的相关产品，只是冰山一角。如果说AI 1.0就像是发明电，AI 2.0就是构建电网，所有的应用都会被重写一遍，就像在移动互联网时代发生的那样。
为了这个被越画越大的“机会”，激进的技术大咖们在开发路上狂奔不止，激动的商业资本为应用获利而高声欢呼，而社会似乎缺少未雨绸缪的问题意识和危机意识。好莱坞电影中经常出现一些人工智能(AI)的“觉醒”可能危及人类的场景，对于人类社会来说，这不再是科幻而是无限接近的现实——加速开发具有人类智能水平的AI系统可能“对社会和人类构成潜在风险”。
最近GPT-4发布后，人们在惊叹于人工智能越来越强大的自我学习和生成能力的同时，也对人工智能可能脱离人类，甚至控制人类的未来场景感到困惑和恐怖。全球千余名科技精英、工商领袖认识到开发更先进AI系统正陷入一场“失控的竞赛”，因为AI生成越来越强大的数字思维，可能让所有人，甚至包括它们的创造者都无法理解、预测或可靠地控制它们，为此呼吁暂停开发更先进人工智能，为引入“共享安全协议”提供时间。
有识者针对AI开发提出的灵魂拷问是：1、我们是否应该让机器用宣传和谎言淹没我们的信息渠道；2、我们是否应该让所有的工作自动化，包括那些令人满意的工作；3、我们是否应该发展最终可能在数量上超过我们、在智能上超越我们、能够淘汰并取代我们的非人类思维；4、我们应该冒着失去对我们文明控制的风险吗?
对于以上质问，以及更多疑虑，目前还没有令人安心和满意的答案，而生成型人工智能已经时不我待地呱呱坠地了。就像生命一旦降生，任何力量都阻碍不了其自然生长一样，AI 2.0的快速成长也是无法阻挡的大概率事件，但是，人的成长需要教育辅助，是以社会环境和文明背景为基础的，这与缺乏责任的自然放养和野蛮生长是完全不同的概念。人工智能的研究和开发也应做如是观，必须建立一种体制和环境来保证越来越强大的、先进的AI系统会变得更加准确、安全、可解释、透明、稳健、一致、可信而可靠。
以上的愿望是不是人类的一厢情愿，需要靠人工智能的未来发展实绩来验证。全球科技精英、工商领袖们签署公开信，希望激进的高性能AI开发能放慢脚步，或按下“暂停键”，让人类有时间去思考并完善上述选题，以共享安全协议的方式为高级AI的发展规划健康的道路和方向，而不是放任AI在失控状态下反噬人类自身、演变成有违开发者初衷的异化存在，或进一步脱逸文明轨道，扮演人类的“掘墓者”。
在历史上，特别是近代以来，人类获得技术突飞猛进却应用不当而付出惨烈代价的先例并不少见。二战期间，曾经在原子能转化为原子弹的过程中扮演重要角色的爱因斯坦后来反核，成为和平主义者。他描述原子弹的危害说：“我不知道第三次世界大战会用什么武器，但第四次人类一定使用的是石头和木棍。”尽管有意见称，大国间的核恐怖平衡维系了战后70多年的世界和平，但是核讹诈、核恐怖、核威胁、核威慑层出不穷，人类至今生活在核阴影中，话题不断，难以自拔。难道人类的未来还会生活在AI恐怖中、时刻承受AI阴影吗？
新一代人工智能，涉及到数字思维和语言模型，首先是一个技术问题，但又不是纯技术问题。每当技术开发登顶，或遭遇十字路口的时候，便是人文出场的时候。时代需要想象力旺盛、特立独行的技术狂人，但社会需要包括道德、伦理、法律、情感、思想在内的人文关怀。诸如ChatGPT的开发运用，因为已经突破了工具的范畴，所以不是OpenAI一家公司的事，也不是科技界的专属，而应成为全社会全人类必须关注的大事。从各国政府、行业领袖到人文学者、法律工作者等，都不是技术壁垒以外的旁观者，而是涉及社会发展和人类命运的直接参与者。有了从人本立场出发的人文因素的渗透，才能实现技术为人所用，让新一代人工智能AI成为人类的助手而不是威胁。
对此，千余名全球科技精英、行业高官和专家联署呼吁，让开发人员和政策制定者合作，大幅加快强大的AI治理系统的开发，至少应当涉及监管机构、审计和认证系统、监督和追踪高性能AI系统、人工智能造成伤害后的责任问题、为AI技术安全研究提供公共资金等方面。在现实中，物理世界的技术创新成果需要漫长的转化周期，而AI技术的突破可以通过互联网一夜散播全球。显然，在人类未能就AI伦理、监管等找到妥善解决方法前，这些讨论和担忧并不多余。
没有人会否认人工智能是科技史，乃至整个人类发展史上的重要时刻。对于快速成长的高级人工智能的开发，不仅要埋头做事，也要抬头看天，即看清社会的需要，看清人类的未来。人类是人工智能的创造者，人类的觉醒必须抢先于人工智能的觉醒，创新才是值得期待的。本次网络联署，可视为人类觉醒的先声。尽管还是初步的，不完善的，却是意义不凡。纽约大学教授马库斯认为，“这封信并不完美，但精神是正确的。这也许是AI史上的转折点，也是人类史上一个非常重要的时刻。”人们需要放慢脚步了，直到更好地理解这一切带来的真正后果。