登录名: 密码: 忘密码了
    设为主页 |  关于我们 | 联系我们  
为什么微信上的小红点总会吸引你点开?
日期: 2021/11/03 08:30
来源:文汇报
  为什么微信上的小红点,总会吸引你点开

  专家指出,当算法和心理学、脑科学试图占据人的注意力时,应加大对人工智能价值观审视和对人工智能伦理研究

  每个人都有过这样的经历:打开手机准备回消息或打电话,一看到微信图标右上方的小红点,于是忍不住先打开微信;看完微信,不知不觉又被另一个App牵引,直到关闭手机屏幕才发现自己早已忘了打开手机的初衷。

  你以为这是健忘?非也!智能手机每一个App背后的算法,不仅有人工智能领域专家操刀,还有心理学以及脑科学家的“精心设计”,让你不知不觉“深陷其中”。

  超级人工智能和人类的博弈,是科幻作品中的永恒主题。而如今,这种博弈或许已嵌入人们的日常生活之中。

  时下,越来越多的学者开始热议一个话题:当算法与心理学、脑科学等对关乎人类本身认知的科学结合得越来越紧密时,算法是否会主宰我们的生活?人类是否会沦为算法的“奴仆”?

  虽然不同学科背景的专家对此看法不一,但大家达成一点共识:学会与机器正确相处,对生活在智能时代的每一个人而言,都是一种生存技能,其重要性不言而喻。

  人的注意力,正在成为被“精心设计”的对象

  日前,一部关于社交媒体成瘾的纪录片《社交困境》引发不小关注。纪录片中的主角,正是那些曾经在硅谷等知名互联网公司的从业人员。他们坦言,当开始意识到随着算法的升级,尤其是当算法和心理学、脑科学相互融合,并逐渐占据人类越来越多的注意力时,他们自己也觉得似乎无法逃脱算法的“控制”。

  事实上,打开手机、点开某个App或划动拇指,对很多人来说不仅是习惯,也已成为一种肌肉记忆,甚至是一种本能。而这背后,是不是也有一只“看不见的手”在操控呢?

  “人工智能的发展,使得机器带来的成瘾行为越来越普遍。”上海交通大学心理与行为科学研究院执行院长李卫东介绍,和药物成瘾会给大脑细胞层面带来不可逆变化有所不同,电子产品或社交软件成瘾对大脑机制的影响方式,目前尚未非常明确。但可以确认的一点是,随着算法和人工智能的发展,这类“成瘾”的可能性更大、影响也更广。

  要知道,在互联网时代来临之前,人类的一切发明都是基于人类的主动使用,使某项新发明能为人类服务。但如今,技术正无时无刻不在想方设法吸引人的注意力,甚至希望能“操控”人的想法并从而获利。《社交困境》中提到,“一切产品都以营利为目的,但是当这些产品都免费时,那么你就是产品。”

  对互联网公司而言,人的注意力正在成为被“精心设计”的对象——用户的增长、用户使用的时间延长,甚至对用户想法的操控,都能换来更多的利润。用户就是能够“自主长大”的产品。

  确实,很多人已经发现,信息推送不仅越来越精准,且很多推送是基于个人喜好,由算法算出来的。有时候,这些推送并不是以事实为依据,其中夹杂着偏激甚至错误的观点,只为迎合用户。随着个人偏好在这些推送中被不断加强,每一个人基于这些推送信息而“看”到的世界也由此显得不同。

  在算法“包围”中,人将变得越来越焦虑、脆弱?

  当算法对人类的爱好和行为预测越来越准确时,越来越多的成年人或未成年人在这样融合心理学和脑科学的算法“包围”中,也许会变得越来越焦虑、脆弱。学会和机器相处,应该是每一个人面对未来所必须储备的能力。

  在同济大学任教的刘翠莲有多年从事心理咨询服务的经验。据她观察,这一代00后、10后,都是在现实世界和虚拟世界同时存在的平行世界中成长起来,他们已习惯网络上的日常社交,包括点赞、评论等。但事实上,无论是点赞还是评论,这些社交界面的功能开发,也都是根据心理学原理精心设计的。对未成年人来说,短期反馈容易让人获得短暂的满足感,且会让他们不断地追求这样的满足。但这种“诱导”机制,或许也会成为他们心理压力的来源。

  “人和任何技术或机器之间都存在互动,可能是人控制机器,也可能是人被机器控制。”上海纽约大学教授张峥始终认为,技术是中性的,就像使用搜索引擎时,每当你搜索一个词,推送给你的第一个页面的前10个结果一定是根据你的习惯和偏好精心裁剪过的,目的就是让你喜欢这个搜索结果,从而持续地用这个搜索引擎。“往好处说,这种设计是为了提升用户粘性;往坏处说,也可以理解为通过强化你的偏好,更容易‘操控’你。”

  更多科学研究,应关注人与机器的交互

  和人工智能技术发展速度相比,人工智能伦理研究则显得落后。不少学者在接受记者采访时都谈到,当下的人工智能发展使得人与机器的关系越来越复杂,人工智能的安全性、可靠性、可信度以及在如何符合人类价值观等方面,都生发出很多值得探索的全新科学问题。

  就在不久前,浙江大学心理科学研究中心和心理学系的三位学者联合发表文章,提出必须将“人-AI交互”作为新的研究领域,并勾画了具体的研究框架,倡导学科交叉合作,目标是确保人工智能造福人类。

  几位学者不约而同地谈到,不恰当的人工智能技术开发已导致了不少伤害人类的事故。仅仅在学术界认可的“AI事故数据库”里就已记录了1000多起事故,如自动驾驶汽车撞死行人、交易算法错误导致市场“闪崩”等。考虑人工智能的价值观等问题,并不是为时过早,其必要性和紧迫性日益凸显。

  有学者呼吁,心理学本身是关注人的学科,而从学科发展来看,未来的心理学不仅要更加关注人本身,还应关注人如何与机器打交道。作为心理学的分支,在中国目前已有工程心理学,这个学科的核心科学问题,就是研究在开发复杂系统中,如何保证技术与人的心理、生理规律相匹配,以便于人的理解和操作,使得整个人—机系统的效能达到最佳状态。

  复旦大学计算机教授张军平也认为,技术本身有其发展逻辑,但是当技术与心理学、脑科学的融合越来越密切时,确实应该加强对人与技术的交互关系研究,并且更客观、更审慎地对待技术。
https://www.chubun.com/modules/article/view.article.php/c108/195278
评分
10987654321
会社概要 | 广告募集 | 人员募集 | 隐私保护 | 版权声明
  Copyright © 2003 - 2020中文产业株式会社 版权所有