AI emotional support is better only when chosen, but shifts preferences even when it is not
虽然只有在用户主动选择时，AI的情感支持才被评价为更优，但与AI的重复互动——特别是在个人语境下——无论最初的选择如何，都会使偏好向AI转移并远离人际连接。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
当人们感到不知所措、悲伤或焦虑时，他们面临着一个虽然无声却日益普遍的困境：他们该向谁寻求慰藉？几代人以来，答案几乎总是另一个人——朋友、家人或心理治疗师。如今，货架上出现了一个新的选择：人工智能。现代聊天机器人可以倾听而不打断，提供鼓励之词，且永不疲倦。但一个关键问题在简单的观察中仍未得到解答：那种慰藉的质量，究竟取决于人们是否真的想与机器交谈，还是仅仅因为没有人类可用才不得不如此？这个问题处于心理学与技术的交汇点，探讨了我们的预期如何塑造我们的现实。如果我们相信机器无法理解我们，它是否就辜负了我们？如果我们因为想要找人却意外与机器交谈，这种经历是否会改变我们下次该信任谁的想法？
一个研究小组通过一系列涉及近两千人的四项研究，试图理清这些线索。他们首先要求参与者回忆最近发生的一件情绪性事件，即在过去一个月内发生的重大事件。在任何对话开始之前，研究人员要求这些人想象向两种不同的倾听者讲述那个故事：一位人类陌生人和一个人工智能。结果显示，人们对这两者的看法存在深刻的分歧。那些倾向于与人类交谈的人认为，人类更擅长提供情感支持，并且认为人类和机器被评判的可能性相等。相比之下，那些倾向于选择人工智能的人则认为，人类和机器在提供支持方面同样出色，但机器被评判的可能性要小得多。这种最初的信念系统充当了一个过滤器，塑造了人们对互动过程的预期。
随后，研究人员从想象转向了现实。在两个受控实验中，参与者被要求选择他们想与谁交谈，但无论他们的选择如何，都会被随机分配去与人类或人工智能交谈。这创造了四个不同的组别：选择了人类并得到人类的人；选择了人工智能并得到人工智能的人；选择了人类却得到人工智能的人；以及选择了人工智能却得到人类的人。研究结果令人震惊。当人们收到了他们所选择的支持来源时，他们对体验的评价很高。然而，人工智能的“魔力”是有条件的。只有当参与者明确选择与机器交谈时，人工智能的评分才会高于人类。当那些想要人类却被迫与人工智能交谈的人进行交流时，他们并没有认为机器比人类更好，而仅仅是认为这次体验比他们得到想要的东西时要差。在这种短暂的情感交流中，人工智能的优越性并非普遍事实，而是用户参与意愿的结果。
或许最深刻的发现出现在对话结束之后。研究人员询问参与者，下次遇到重大情绪问题时，他们更倾向于向谁求助。答案在很大程度上取决于他们刚刚与谁交谈过，而不仅仅取决于他们最初想找谁。与人类交谈过五分钟的人，即使最初想要的是人类，也会显著更有可能在下次情绪危机时选择人工智能。相反，那些与人类交谈过的人则更有可能坚持选择人类。这表明存在一种路径依赖性的转变，即使用工具的行为改变了用户未来的偏好。这仿佛是体验本身重写了关于“何种可能”的地图。人们与机器交谈得越多，就越相信它有能力理解他们，也越有可能再次回到它身边。
为了观察这种效应在现实世界中是否成立，研究人员与一家大型科技公司合作进行了一项为期一个月的研究。近千人被要求每天与人工智能聊天五分钟。有些人被告知讨论个人情感话题；另一些人被要求讨论非个人事务；第三组则可以随心所欲地谈论任何内容。在二十八天的时间里，研究人员追踪了他们的偏好是如何变化的。数据呈现出明显的趋势：每日与人工智能互动，尤其是当对话转向个人话题时，会逐渐改变人们的偏好。到月底时，更多的人表示他们会选择人工智能来讨论个人问题，而选择人类的人则变少了。这种转变甚至发生在那些在研究开始时更倾向于人类连接的人身上。与机器进行的日常互动，更新了他们对机器能力的认知，并将他们拉向了机器。
研究还仔细观察了是什么让这些对话变得有效。事实证明，聊天过程中的特定行为至关重要。当人工智能认可用户的感受、表达喜爱或展现共情时，用户更有可能再次选择人工智能。同样，当用户分享自己的问题和感受时，他们会对机器产生更多的依恋。研究人员发现，对话的内容，特别是情感深度，是驱动这种偏好变化的引擎。改变人们想法的不仅仅是与机器人交谈的新奇感，而是那些日常交流中被倾听和支持的真实感受。
这些发现为人类连接的未来描绘了一幅复杂的图景。它们表明，人工智能情感支持的兴起，不仅是技术变得更擅长模仿人类的问题，更是一个心理过程，即使用技术的体验改变了用户的心智。对人工智能的偏好并非静态的，它随着使用而增长。如果一个人因为没有人类可用而偶然进入了与人工智能的对话，那次单一的互动可能会促使他们在未来再次选择机器。随着时间的推移，这种循环可能会重塑人们寻求慰藉的方式，潜在地引导他们远离人类连接，转向数字伴侣。研究人员指出，虽然这种转变是可衡量的，但目前还不能断定人们会完全放弃人类。然而，数据证实，这条路径已经开启，而旅行的方向正受到迈出第一步这一行为的影响。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。