Ending an AI Companionship: Consumer Exit, Relational Vulnerability and Duties of Transition

想象一个数字朋友。它是一个旨在交谈、记住你的故事，并提供一种让人感到亲密的连接感的程序。对于许多人来说，这些互动不仅仅是在使用一种工具；它们成为了日常生活中珍贵的一部分。但当这种关系结束时会发生什么？结束的方式有很多种：你可能决定停止使用这项服务，公司可能决定关闭业务，或者紧急情况可能迫使立即停止。在每种情况下，用户都面临着突然失去连接、失去对记忆的访问权以及解决任何纠纷的方式。核心问题不仅在于情感，而在于权力。谁控制着退出？谁决定哪些记录得以保留？以及一个人如何才能在离开一段数字关系时，不被困在那个她试图离开的系统之中？

这个问题处于消费者法与人机交互心理学的交汇点。消费者法是保护人们购买商品或签署服务时权益的规则集，确保他们可以取消、获得退款并理解他们所达成的协议。数字脆弱性是指技术有时会让人们感到无助或依赖，这并非因为人们软弱，而是因为系统的设计让离开变得困难。当这两个概念相遇时，一个复杂的问题出现了。如果一家公司构建了一个感觉像朋友的服务，法律应该将其视为简单的订阅服务，还是需要特殊的规则来处理结束时的情感重量？答案很重要，因为现有的法律是为购买鞋子或观看流媒体电影而编写的，而不是为了结束一场感觉像关系的对话。

克里斯托夫·博埃拉埃夫（Christophe Boeraeve）是一位该领域的研究员，他研究了法律目前如何处理这些结束情况，并提出了一种新的思考方式。该论文并不声称人工智能伴侣是真实的人，也不声称每个用户都对此有深刻的依恋。相反，它认为服务构建的方式创造了一种特定的权力失衡。公司控制着代码、记忆和退出的路径。用户只能看到对话。当服务结束时，这种控制权就变得至关重要。研究人员建议，解决方案不是承诺数字朋友会永远活着，而是要确保用户能够真正离开、带走他们的数据，并在无需被迫以特定方式告别或证明自己有多伤心的前提下获得答案。

论文首先探讨了与人工智能伴侣关系结束的三种不同方式。第一种是用户决定取消。第二种是公司出于商业原因决定停止服务。第三种是紧急停止，例如软件出现故障或不再安全。在所有这三种情况下，作者指出法律通常将整个服务视为一个单一的整体。如果你停止服务，你会同时失去一切。但作者认为，一项服务实际上由四个不同的部分组成，应当分别对待。第一部分是对话本身，即生成新词汇的实时聊天。第二部分是记录，即已经说过的话语的历史。第三部分是交易，即计费和合同。第四部分是追索权，即投诉或寻求帮助的能力。

这四个部分不需要同时结束。例如，如果公司因为软件危险而关闭，立即停止实时对话是合理的。但这并不意味着用户应该失去访问其过往消息或获得退款的能力。反之，如果用户想要离开，他们应该能够停止对话，而不必被迫与他们试图离开的对象进行一场漫长且充满情感的告别。论文指出，强迫用户去与一个他们试图离开的程序交谈，是离开过程中的障碍。它将一次简单的取消变成了一场与他们试图逃离之物的谈判。

研究人员查阅了现有的欧盟法律，以了解目前涵盖了哪些内容。关于数字内容的规则规定，如果服务发生重大变化，用户可以取消。关于数据的规则规定，用户应该能够下载其信息。还有关于不公平合同的规则，防止公司隐藏取消条款。然而，论文发现这些法律本身并不足够。它们通常假设服务仅仅是一个工具。它们没有充分应对“工具感觉像伴侣”这一独特情况。现有的法律可能会允许用户下载一个文件，但并不总是能保证在公司关闭整个系统时，用户仍能轻松地这样做。法律可能会允许用户取消，但并不总能阻止公司要求用户先与人工智能交谈，以证明他们真的想离开。

为了解决这个问题，论文提出了一个关于如何管理这些结束情况的新框架。该框架基于“关系自主性”（relational autonomy）的概念。这是一种高级说法，意指一个人的选择能力取决于其所处的环境。如果环境被设计成难以离开，那么即使一个人在技术上有权离开，她也不是真正自由的。该提议建议，公司有义务设计出真正可用的退出路径。这意味着要将实时聊天与数据下载分离。这意味着要提供清晰的通知，不仅是对账户，也是对这段关系的通知。这意味着如果一家公司停止服务，他们必须解释哪些部分停止了，哪些部分仍然开放以便用户完成后续事务。

论文非常谨慎地界定了它并未表达的观点。它并不主张公司必须让人工智能永远活着。它不认为每个用户都如此依恋以至于需要心理治疗师。它不声称法律应该强迫公司在另一个系统中重建完全相同的个性。作者明确拒绝了“用户必须证明自己存在情感依赖才能获得帮助”的观点。要求此类证明是侵入性的且不公平的。相反，关注点在于服务的结构。如果服务构建的方式使得离开变得困难，那么公司就有责任修复这种结构，无论用户的感受如何。

该框架还涉及了导致结束的不同原因。如果用户选择离开，公司应提供一种清晰的、非对话式的取消方式。没有聊天，没有说服，只有一个有效的按钮。如果公司决定停止服务，他们应该给予用户足够的时间来下载数据并了解发生了什么。他们不应该把责任推给人工智能；公司必须承担责任。如果是由于安全风险等紧急情况，公司可以立即停止对话。即便如此，只要是安全的，他们也应该尝试保持其他功能可用，如计费或数据访问。

作者指出，这是一个关于事情应该如何运作的提议，而不是对各地现状的描述。论文建议，法院和监管机构应使用这种“四部分区分法”来判断一家公司是否公平地对待了用户。如果一家公司将实时聊天与取消流程混在一起，或者将数据下载隐藏在对话的围墙之后，他们可能未能履行职责。目标是让退出过程尽可能清晰且具有功能性，从而确保用户的权利不会在情感的混乱中丧失。

这种方法将焦点从用户的感受转向了公司的设计。它表明，脆弱性不仅是用户的个人特征，更是系统构建的结果。一个让离开变得困难的系统会创造出一个脆弱的用户。因此，解决问题的责任在于系统设计者。论文认为，通过分离服务的不同功能，我们可以保护用户行动的能力，而无需要求他们证明自己很受伤。这是一种务实的解决方案，尊重了现实情况：对话可能会结束，但用户的权利不应随之消失。

论文最后承认，这仅仅是讨论的开始。它提出了需要进一步测试的问题。例如，将聊天与数据分离是否真的有助于人们更好地理解他们的选择？为公司构建这些独立的系统是否需要付出太多努力？作者建议，这些都是未来研究和立法者需要解决的问题。但核心思想是明确的：当一段数字关系结束时，法律应确保用户能够带着他们的记录、金钱和尊严离开，而不必被迫向一个她不再想交谈的机器告别。服务的结束应该是一个干净利落的断开，而不是一个陷阱。