为什么微信上的小红点，总会吸引你点开
专家指出，当算法和心理学、脑科学试图占据人的注意力时，应加大对人工智能价值观审视和对人工智能伦理研究
■本报记者 姜澎
每个人都有过这样的经历：打开手机准备回消息或打电话，一看到微信图标右上方的小红点，于是忍不住先打开微信；看完微信，不知不觉又被另一个App牵引，直到关闭手机屏幕才发现自己早已忘了打开手机的初衷。
你以为这是健忘？非也！智能手机每一个App背后的算法，不仅有人工智能领域专家操刀，还有心理学以及脑科学家的“精心设计”，让你不知不觉“深陷其中”。
超级人工智能和人类的博弈，是科幻作品中的永恒主题。而如今，这种博弈或许已嵌入人们的日常生活之中。
时下，越来越多的学者开始热议一个话题：当算法与心理学、脑科学等对关乎人类本身认知的科学结合得越来越紧密时，算法是否会主宰我们的生活？人类是否会沦为算法的“奴仆”？
虽然不同学科背景的专家对此看法不一，但大家达成一点共识：学会与机器正确相处，对生活在智能时代的每一个人而言，都是一种生存技能，其重要性不言而喻。
人的注意力，正在成为被“精心设计”的对象
日前，一部关于社交媒体成瘾的纪录片《社交困境》引发不小关注。纪录片中的主角，正是那些曾经在硅谷等知名互联网公司的从业人员。他们坦言，当开始意识到随着算法的升级，尤其是当算法和心理学、脑科学相互融合，并逐渐占据人类越来越多的注意力时，他们自己也觉得似乎无法逃脱算法的“控制”。
事实上，打开手机、点开某个App或划动拇指，对很多人来说不仅是习惯，也已成为一种肌肉记忆，甚至是一种本能。而这背后，是不是也有一只“看不见的手”在操控呢？
“人工智能的发展，使得机器带来的成瘾行为越来越普遍。”上海交通大学心理与行为科学研究院执行院长李卫东介绍，和药物成瘾会给大脑细胞层面带来不可逆变化有所不同，电子产品或社交软件成瘾对大脑机制的影响方式，目前尚未非常明确。但可以确认的一点是，随着算法和人工智能的发展，这类“成瘾”的可能性更大、影响也更广。
要知道，在互联网时代来临之前，人类的一切发明都是基于人类的主动使用，使某项新发明能为人类服务。但如今，技术正无时无刻不在想方设法吸引人的注意力，甚至希望能“操控”人的想法并从而获利。《社交困境》中提到，“一切产品都以营利为目的，但是当这些产品都免费时，那么你就是产品。”
对互联网公司而言，人的注意力正在成为被“精心设计”的对象——用户的增长、用户使用的时间延长，甚至对用户想法的操控，都能换来更多的利润。用户就是能够“自主长大”的产品。
确实，很多人已经发现，信息推送不仅越来越精准，且很多推送是基于个人喜好，由算法算出来的。有时候，这些推送并不是以事实为依据，其中夹杂着偏激甚至错误的观点，只为迎合用户。随着个人偏好在这些推送中被不断加强，每一个人基于这些推送信息而“看”到的世界也由此显得不同。
在算法“包围”中，人将变得越来越焦虑、脆弱？
当算法对人类的爱好和行为预测越来越准确时，越来越多的成年人或未成年人在这样融合心理学和脑科学的算法“包围”中，也许会变得越来越焦虑、脆弱。学会和机器相处，应该是每一个人面对未来所必须储备的能力。
在同济大学任教的刘翠莲有多年从事心理咨询服务的经验。据她观察，这一代00后、10后，都是在现实世界和虚拟世界同时存在的平行世界中成长起来，他们已习惯网络上的日常社交，包括点赞、评论等。但事实上，无论是点赞还是评论，这些社交界面的功能开发，也都是根据心理学原理精心设计的。对未成年人来说，短期反馈容易让人获得短暂的满足感，且会让他们不断地追求这样的满足。但这种“诱导”机制，或许也会成为他们心理压力的来源。
“人和任何技术或机器之间都存在互动，可能是人控制机器，也可能是人被机器控制。”上海纽约大学教授张峥始终认为，技术是中性的，就像使用搜索引擎时，每当你搜索一个词，推送给你的第一个页面的前10个结果一定是根据你的习惯和偏好精心裁剪过的，目的就是让你喜欢这个搜索结果，从而持续地用这个搜索引擎。“往好处说，这种设计是为了提升用户粘性；往坏处说，也可以理解为通过强化你的偏好，更容易‘操控’你。”
更多科学研究，应关注人与机器的交互
和人工智能技术发展速度相比，人工智能伦理研究则显得落后。不少学者在接受记者采访时都谈到，当下的人工智能发展使得人与机器的关系越来越复杂，人工智能的安全性、可靠性、可信度以及在如何符合人类价值观等方面，都生发出很多值得探索的全新科学问题。
就在不久前，浙江大学心理科学研究中心和心理学系的三位学者联合发表文章，提出必须将“人-AI交互”作为新的研究领域，并勾画了具体的研究框架，倡导学科交叉合作，目标是确保人工智能造福人类。
几位学者不约而同地谈到，不恰当的人工智能技术开发已导致了不少伤害人类的事故。仅仅在学术界认可的“AI事故数据库”里就已记录了1000多起事故，如自动驾驶汽车撞死行人、交易算法错误导致市场“闪崩”等。考虑人工智能的价值观等问题，并不是为时过早，其必要性和紧迫性日益凸显。
有学者呼吁，心理学本身是关注人的学科，而从学科发展来看，未来的心理学不仅要更加关注人本身，还应关注人如何与机器打交道。作为心理学的分支，在中国目前已有工程心理学，这个学科的核心科学问题，就是研究在开发复杂系统中，如何保证技术与人的心理、生理规律相匹配，以便于人的理解和操作，使得整个人—机系统的效能达到最佳状态。
复旦大学计算机教授张军平也认为，技术本身有其发展逻辑，但是当技术与心理学、脑科学的融合越来越密切时，确实应该加强对人与技术的交互关系研究，并且更客观、更审慎地对待技术。
