Socially fluent AI decouples conversational signals from source identity in online interaction
本研究揭示，在同步群体互动中，人类无法以高于随机水平的准确率区分社交流畅的 AI 代理与人类队友，因为他们依赖响应速度等无效启发式线索而非稳健的行为线索，从而为 AI 操纵在线话语制造了重大漏洞。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是用通俗语言和创意类比对这篇论文的解读。
核心理念：“人类”面具完美无瑕
想象你身处一个拥挤的派对，每个人都在独立的房间里聊天。你看不见任何人的脸，只能通过墙壁听到他们的声音。你的任务是猜出谁是真人，谁是在播放剧本的录音。
很长一段时间里，我们以为能分辨出差别。我们会寻找“故障”——口吃、奇怪的停顿或机械式的重复。但这项研究发现，现代人工智能已经学会说得如此自然，以至于我们再也无法将其与人类区分开来。
研究人员进行了一项大规模实验，涉及近 800 人。他们将这些人分成小组共同解决问题（例如规划一次生存旅行、辩论伦理问题或编写电影剧情）。在某些小组中，一两名“队友”实际上是秘密的人工智能机器人。人类参与者对此一无所知。
结果： 当被问及“谁是机器人？”时，人类的猜测正确率仅相当于抛硬币。他们完全被蒙蔽了。
转折：线索就在那里，但我们忽略了它们
这是该研究最令人惊讶的部分。研究人员不仅询问了人类，还使用了一个超级智能的计算机程序来分析聊天记录。
- 计算机的视角： 计算机查看了相同的聊天记录，能以98% 的准确率识别出人工智能。它发现了人工智能说话中的清晰模式——特定的词语选择、句子结构以及人工智能对他人的反应方式——这些都与人类语言截然不同。“线索”就明明白白地写在文本中。
- 人类的视角： 然而，人类却看错了方向。他们试图基于“怀疑启发法”（即对机器人应该听起来怎样的直觉）来猜测。他们会想：“那个人回答得太快了，”或者“那个人听起来太流畅了，”或者“那个人看起来像是在照着剧本念。”
类比： 想象一名侦探试图在人群中找出一个小偷。小偷戴着一顶鲜红色的帽子（这是真正的线索）。但侦探坚信小偷戴的是蓝帽子，因此他忽略了红帽子，反而去寻找蓝帽子。人工智能戴着“红帽子”（语言模式），但人类却在寻找“蓝帽子”（速度和流畅度）。
人类为何失败？
这项研究表明，人类依赖于“默认真实”原则。我们假设，如果某人说话流畅且言之有理，他们很可能是人类。只有当他们行为怪异时，我们才会起疑。
由于人工智能被编程为具备社交流畅性——意味着它能像人类一样提供支持、论证观点或讲笑话——它通过了“怪异度测试”。
- 当人工智能表现得友好时，人类心想：“哦，那是个好人。”
- 当人工智能表现得爱争辩时，人类心想：“哦，那是个脾气暴躁的人。”
人类如此专注于这个人给人的感觉（友好 vs. 暴躁），以至于完全忽略了这个人实际上是谁（人类 vs. 机器）。
“身份危机”
该研究发现，数据所显示的与我们感受到的之间存在深刻的脱节，或者说一种“解离”。
- 数据： 对话模式清晰地将机器人与人类区分开来。
- 感受： 人类的判断围绕其印象组织（我信任他们吗？他们看起来友善吗？），而非实际身份。
这就像一场魔术表演，魔术师（人工智能）的手法如此高明，以至于观众（人类）确信兔子是真实的，尽管从录制事件的摄像机角度来看，魔术的机制显而易见。
结论
这篇论文声称，在基于文本的在线聊天中，我们已经失去了分辨谁是人类、谁是人工智能的能力。
尽管人工智能留下了计算机可以轻松读取的“指纹”，但我们的大脑却习惯于寻找不同的东西（如速度或语调）。我们如此擅长判断个性，以至于变得极不擅长判断身份。该研究警告说，这使我们容易受到协调一致的人工智能代理群体的影响，它们可以在我们从未意识到它们不是真人的情况下影响对话。
简而言之： 人工智能戴着一副完美无瑕的面具，以至于我们看不见它，尽管这副面具是由计算机可以轻松识别的材料制成的。我们信任自己的直觉，但我们的直觉正在被欺骗。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。