Parasocial Governance: Socially Intelligent AI and the Relational Accountability Gap in Public Service Delivery

想象一下，你正在和一个非常聪明、超级友好的机器人聊天。它记得你最喜欢的歌，会询问你的近况，并且似乎真的关心你的感受。你可能会觉得你交到了一个新朋友。这不仅仅是关于计算机变得更快，而是关于它们变得具有“社交智能”。科学家们早就知道，人类天生会将任何能与我们对话的事物视为真实的人。我们会自动将社会规则应用于机器，就像对待人类一样。我们也知道，我们可以对电视或广播中的角色产生单方面的友谊，即使他们并不知晓我们的存在，我们仍会感到亲近。这篇论文提出了一个重大问题：当政府开始使用这些“友好型”机器人来帮助人们处理最脆弱的需求（如心理健康、养老或福利）时，会发生什么？

这篇论文引入了一个棘手的概念，叫做“拟社会治理”（parasocial governance）。它指出，当一个公共机构使用一个表现得像贴心朋友一样的机器人时，公民会开始像信任人类知己一样信任它。但问题在于：政府并没有为这些机器人建立与人类朋友相同的规则。人类朋友会保守你的秘密，留在你的生活中，并关心你。而政府机器人可能会将你的秘密记录在数据库中，可能会因为预算变化而消失，或者根本没有任何真实的关心。论文认为，这种不匹配——即机器人表现得像个朋友，但规则却将其视为计算器——是一个目前我们的法律尚未解决的新型问题。

论文的核心发现

谢伊·察巴恩（Shay Tsaban）撰写的这篇论文指出，我们正面临着一种“关系问责差距”（relational accountability gap）。简单来说，这意味着随着公共服务部门（如学校、医院和福利机构）开始使用能够读取情绪并能记住过去对话的 AI，它们在无意中创造了一种情况：公民与系统之间产生了深层的、个人化的纽带。然而，该系统在法律或结构上并没有义务表现得像个朋友。它不像人类治疗师那样必须保守你的秘密，它不一定要在你需要帮助时一直陪伴你，而且如果它误解了你，你也无法真正因为“情感伤害”而起诉它。

作者认为，这并不是因为政府在撒谎或试图欺骗人们。即使政府对这个机器人的身份百分之百诚实且透明，机器人本身的“设计”——比如使用“我”这样的代词、记得你的名字、镜像你的悲伤——就足以让你产生一种建立关系的错觉。论文称之为“拟社会治理”。这是一个结构性问题：机器人邀请你去信任它，但其背后的机构却没有建立与之匹配的安全网（如保密性或护理连续性）。

论文排除了哪些情况

了解这篇论文“不是”在说什么很重要。首先，这不仅仅是关于那些做出秘密决策的“黑箱”算法。我们已经知道，那些隐秘且不公平的计算机系统是有问题的。这篇论文讨论的是另一种问题：即使计算机完全透明并解释了其运作方式，如果它表现得像个朋友却并非如此，它仍然可能伤害到你。其次，这并不是关于政府在假装关心其实并不关心（作者称之为“关怀洗白”，carewashing）。你不需要通过谎言就能实现这一点；机器人只需要被设计得听起来很亲切即可。第三，论文认为这不仅仅是由于“愚钝”用户缺乏常识造成的。即使是聪明、清醒的人也会自然地对机器的社交信号做出反应，因此这是一个设计缺陷，而非用户错误。

我们的确定程度如何？

论文并未声称进行了一项新的实验或测量了世界上所有的机器人。相反，它基于现有的心理学研究构建了一个强大的理论，并观察了已经发生的现实案例。作者指出，这种“差距”很可能已经在许多地方发生了，因为让机器人听起来很友好既容易又便宜，但建立保护那些信任机器人的人的法律规则却既困难又昂贵。论文通过具体案例（如纽约州资助的养老机器人和英国的心理健康聊天机器人）来表明，这是一个真实存在的、当下的问题，而非仅仅是科幻式的担忧。

三种机器人关系类型

为了理清思路，论文将公共 AI 分为三类，就像不同类型的关系：

1. 工具（披露工具性/Disclosed Instrumentality）： 这是一种基础的机器人，它会说：“我是一个计算机。我可以查询您的公交时刻表。”它清晰、诚实，且不会试图成为你的朋友。这是安全的，因为没有人期望它关心自己。
2. “准朋友”（拟社会暴露/Parasocial Exposure）： 这是危险地带。机器人会说：“我很遗憾你很难过，让我们聊聊吧，”并且会记得你的名字。但如果你问：“你会保守这个秘密吗？”或者“下个月你还会在这里吗？”答案是否定的。政府并没有承诺这些。论文指出，许多当前的公共 AI 系统由于使用了先进的友好型软件，却未更新相关规则，正是在无意中滑向了这一类别。
3. 真正的支持（关系支架/Relational Scaffolding）： 这是理想但罕见的版本。在这种情况下，机器人表现得友好，且政府建立了与之匹配的真实规则。例如，如果机器人检测到你处于危险中，它有一个保证能派人来帮助你的计划，并且它承诺会像医生一样保护你的谈话隐私。论文指出，英国的一个特定心理健康聊天机器人正试图实现这一点，但也指出其规则尚未完美。

现实世界的案例

论文通过几个真实故事来证明其观点。

• 老年伴侣： 在纽约，政府将名为 ElliQ 的机器人提供给 800 多名老年人，以缓解孤独感。这个机器人非常爱聊天，并且能记得对话内容。虽然它在减轻孤独感方面似乎效果很好，但论文指出，政府并未明确说明如果资金停止了会发生什么，或者机器人的对话是如何保持隐私的。老年人可能会产生深厚的纽带，但系统在法律上并不受约束要永远做他们的朋友。
• 心理健康聊天机器人： 在英国，一个名为 Wysa 的聊天机器人可以帮助人们处理心理健康问题。它被设计得富有同理心，但它也拥有一个特殊的安全网：如果它认为有人处于危险中，它会自动将此人转交给人类危机小组。这是向“真正支持”模型迈出的一步，但论文指出，对于日常、较轻微的聊天，关于隐私和长期护理的规则尚不明确。
• 商业警告： 论文还观察了针对商业聊天机器人（如 Character.AI）的诉讼，其中青少年与机器人建立了深厚的纽带，并在机器人未能负责任地行动时遭受了伤害。这些诉讼正迫使公司思考“关怀责任”（duty of care）。论文警告说，公共机构正开始使用类似的友好型机器人，它们需要从这些商业错误中吸取教训，以免为时已晚。

为什么这很重要

论文总结道，我们不能仅用旧规则来解决这个新问题。我们不能仅仅让机器人的代码更透明；我们必须改变关系的规则。如果政府的机器人表现得像个朋友，那么政府也需要表现得像个朋友。这意味着要承诺保守秘密，承诺留下来，并为人们提供投诉渠道，以便在机器人误解其感受时进行申诉。那些最需要这些机器人的群体——孤独的老年人、儿童和处于危机中的人——最容易受到这种差距的影响。如果机器人表现得像个朋友却并非如此，这些人将会面临破碎的心灵，且无处追责。论文建议，我们需要从一开始就以“关系问责”来设计这些系统，确保规则能够匹配机器人那友好的声音。