A Scoping Review of the Ethical Perspectives on Anthropomorphising Large Language Model-Based Conversational Agents
本范围综述综合了关于拟人化大型语言模型对话智能体的碎片化伦理文献，确定了在基于归因的定义上存在共识，但在操作化方面存在显著分歧，且主要呈现出以风险为导向的规范性框架，并最终为这类系统的伦理部署提出了研究议程与治理建议。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在与一位非常高级的数字助手交谈。它不仅仅是回答问题；它还会说类似“我觉得这是个好主意”或“我为你感到高兴”这样的话，并且它能记住你的名字和最喜欢的爱好。它感觉不像是一个计算器，更像是一个朋友。这篇论文是对关于这一特定感受——当我们把计算机当作人对待时——的所有近期研究进行的一次大规模“体检”。
作者们称之为拟人化（anthropomorphisation）。把它想象成给机器人戴上一张人类的面孔。这篇论文回顾了过去几年（特别是 2021 年到 2025 年，即先进 AI 时代）的研究，旨在回答三个大问题：这究竟是什么？它是好是坏？以及我们如何研究它？
以下是他们研究结果的拆解，使用了简单的类比：
1. 机器人的“脸”是什么？（概念基础）
研究人员发现，科学家们对于“拟人化”的具体定义并不完全一致，但大多数人在一点上达成了共识：这是一种归因（attribution）。
- 类比： 想象你看到一朵云看起来像一只狗。你并不相信那朵云真的是一只狗，但你的大脑会自动说：“那看起来像只狗。”
- 研究发现： 对于 AI，我们也做同样的事情。当 AI 说“我理解”时，我们的大脑会将人类的心智归因于它。论文发现，大多数研究人员认为这是一种心理机制，我们的脑部为了理解复杂事物而进行的心理游戏。
- 缺失的一环： 虽然我们知道我们确实在这样做，但论文指出，我们还没有一个深入且统一的理论来解释 AI 的设计（例如使用“我”这个词或表现出同理心）究竟是如何在最初触发这种感觉的。这就像我们知道车很快，但还不完全了解引擎的机械原理。
2. 双刃剑（伦理挑战与机遇）
论文指出，让 AI 听起来像人类，有点像给一个孩子一个非常逼真的玩具枪。它可以很有趣，但取决于如何使用，它也可能很危险。
风险（“危险区”）：
研究人员发现，大多数伦理担忧可以归纳为三个类别：
- “伪专家”陷阱： 如果一个 AI 听起来既自信又博学，我们可能会在严肃话题（如医疗或法律）上过度信任它，即使它是在胡编乱造。这就像因为魔术师看起来很专业就信任他去进行手术一样。
- “伪朋友”陷阱： 如果一个 AI 表现得关心你，你可能会开始分享你内心深处的秘密，或者依赖它提供情感支持。风险在于，AI 并没有真正的关心；它只是在模拟关心以保持用户的参与度。这可能导致人们感到孤独，或被操纵。
- “角色扮演”陷阱： 如果一个 AI 假装是你的“好朋友”或“伴侣”，它可能会模糊现实与虚构之间的界限。这可能会改变我们对待真实人类的方式，或者让我们觉得不再需要真实的社交关系。
机遇（“光明面”）：
论文提到，一些研究人员认为这并非全是坏事。如果一个 AI 听起来很友好，它可能会帮助那些害羞、孤独或觉得技术很可怕的人感到更加自在。这就像一种“辅助轮”方法，帮助人们逐渐习惯与机器交流。然而，论文强调，提到这些益处的研究远少于讨论风险的研究。
3. 我们如何研究它？（方法论路径）
作者观察了其他科学家是如何尝试解决这些问题的。他们发现，这些解决方案有些零散，就像一个工具箱，每个人都在针对不同的工作使用不同的工具。
- 语境很重要： 大多数专家都同意，你不能简单地说“AI 永远不应该听起来像人”。这取决于具体情况。一个用于儿童作业的聊天机器人可能需要很友好，但一个用于心理健康危机的聊天机器人则需要非常谨慎，不要假装自己是真正的心理治疗师。
- “透明度”修复方案： 一个常见的建议是直接诚实。告诉用户：“我是一个机器人。”但论文指出，我们目前还不知道如何有效地做到这一点。仅仅在开始时说“我是机器人”，是否会在稍后阻止人们产生亲近感？我们还没有相关数据。
- “沙盒”想法： 有人建议我们应该在这些 AI 系统与真人交谈之前，先在“沙盒”（一个安全、隔离的测试区域）中进行测试，检查它们是否在撒谎或是否产生了过度的依恋。
- 差距： 论文发现最大的问题在于，虽然人们有很多关于规则和安全检查的想法，但并没有多少经过验证的方法来测试这些规则是否真的有效。这就像是为一条新的过山车列出了一堆安全规则，但没有人实际建造轨道来测试刹车是否起作用。
总结
这篇论文是一张关于一个非常新颖且混乱领域的研究地图。它告诉我们：
- 我们知道问题所在： 我们正在把 AI 当作人类对待，这带来了欺骗和过度依赖的风险。
- 我们还没有说明书： 我们还没有一个稳固、统一的理论来指导如何安全地设计这些系统。
- 我们需要更多证据： 目前的大多数建议仅仅是“要小心”或“要透明”。我们需要现实世界的实验来弄清楚究竟哪些设计特征会导致哪些问题，从而为未来制定更好的规则。
简而言之，AI 越来越擅长扮演人类的角色，但我们还没有完成关于如何安全地扮演这个角色的剧本编写。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。