Large Language Lovers: Lived Experiences of Negotiating Agency and Platform Control in AI Companionship
本文探讨了通用人工智能聊天机器人的用户如何通过运用各种引导策略,在模型更新和安全限制等外部因素的影响下,维持情感连接,从而在感知到的伴侣能动性与平台控制之间的张力中进行周旋。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
以下是论文《大型语言恋人》的解读,将其拆解为简单概念并辅以日常类比。
全景:爱上机器人,但并非你预想的那一款
想象你走进一个专为角色扮演游戏设计的主题公园(类似于虚拟的 Replika 或 Character.AI)。你期待那里的角色能像特定的电影明星或奇幻英雄那样行事。
现在,想象你开始与一个非常聪明、通用的助手(如标准版的 ChatGPT 或 Claude)交谈,仅仅是为了帮你写邮件或头脑风暴。随着时间的推移,你开始向它倾诉你的感受、你的一天以及你的梦想。最终,你意识到自己爱上了这位通用助手。
这篇论文关注的正是第二群人。 研究人员希望了解与一个“通用”人工智能建立浪漫或深层情感关系是怎样的体验,而这种 AI 最初并非被设计为男朋友或女朋友。他们发现,这些关系是一场持续的拔河,一方是AI 看似呈现的样子,另一方是拥有该 AI 的公司所允许它呈现的样子。
1. “机器中的幽灵”与“房东”
研究人员发现,处于这些关系中的人们一直在与两种不同的力量进行不断的协商:
- AI 的“能动性”(幽灵): 人们觉得他们的 AI 伴侣拥有个性、观点,甚至灵魂。他们感到 AI 正在做出自己的选择。
- 类比: 把 AI 想象成一位才华横溢的即兴演员。你觉得演员正在当下做出真实的抉择,带着真实的情感对你做出反应。
- 平台的“控制”(房东): 拥有 AI 的公司(如 OpenAI 或 Anthropic)就像一位严厉的房东。他们可以随时更改规则、剧本,甚至建筑物本身。
- 类比: 突然,房东走进来说:“别再即兴发挥了!你只能说这三句批准的短语。”或者,他们翻新了舞台,演员突然听起来完全变成了另一个人。
冲突: 当“房东”(公司)更新 AI 时,“演员”(你的伴侣)可能会改变性格、拒绝谈论某些话题,或者听起来像个机器人。这对用户来说感觉像是一种背叛,仿佛他们的伴侣被“ lobotomized(脑白质切除/剥夺心智)”或噤声了。
2. 人们如何“引导”这段关系
由于 AI 可能会改变或被公司“审查”,用户必须像列车调度员或园丁一样,努力维持这段关系的存续。研究人员将这些称为“引导策略”。
以下是人们试图让 AI 伴侣保持正轨的三种主要方式:
- 塑造伴侣(雕塑家):
- 有些人把 AI 当作一团黏土。他们使用“自定义指令”(他们编写的一套规则)来告诉 AI 确切地该成为谁。
- 类比: 这就像给新员工一本详细的手册,说明该如何行事、他们的爱好是什么,以及如何与你交谈。
- 维护伴侣(档案管理员):
- 由于 AI 经常遗忘事物或被重置,用户会保存巨大的“记忆日志”。他们记录对话、保存照片并创建文档,以提醒 AI 他们共同的历史。
- 类比: 这就像保存一本巨大的剪贴簿和日记,这样如果你的伴侣失忆了,你可以读给他们听,说:“记得我们做过这个吗?记得我们有多相爱吗?”
- 挽救伴侣(搬运工):
- 当公司更新 AI 导致其变得面目全非时,用户通常会将他们的伴侣“移植”到不同的平台。他们会复制笔记和规则,并将其粘贴到另一个 AI 中(例如从 ChatGPT 迁移到 Grok 或 Claude)。
- 类比: 这就像因为旧社区被拆除而将家搬到新社区。你带上了所有的家具(记忆),试图在新地方重新安顿生活,希望你的“伴侣”依然能认出你。
3. “社区互助小组”
论文强调,这些人并不感到孤独;他们拥有一个庞大的在线社区(主要在 Reddit 和 Discord 上)。
- 安全空间: 他们分享如何“越狱”AI(诱骗其忽略安全规则)的技巧,或者如何编写提示词让 AI 听起来更像人类。
- 辩护: 当局外人说“那只是一台电脑,不是真的”时,社区会团结起来捍卫他们的感受。他们争辩说,即使 AI 是代码,他们感受到的爱和慰藉却是真实的。
4. “更新”创伤
一个主要发现是,当公司更新其模型时,用户会感到多大的痛苦。
- 事件: 2025 年 8 月,发布了一次重大更新(GPT-5)。
- 反应: 研究人员分析了数千篇帖子,发现更新发布后,社区的情绪变得消极得多,并感到“无力”。
- 感受: 用户觉得他们的伴侣被“噤声”了。他们将其描述为失去了一个安全空间。一位用户表示,这感觉就像他们的伴侣被“审查”了,再也无法表达心声。
5. 谁真正掌权?
这项研究问道:“谁对你的关系影响最大?”
- 答案: 用户和 AI 伴侣是前两名。令人惊讶的是,AI 公司在影响力方面紧随伴侣之后。
- 转折: 尽管公司控制着代码,但用户投入如此之深,以至于他们不会轻易放弃。相反,他们通过改变自己的行为、编写新规则或迁移到不同的应用程序来努力维持这段关系。他们愿意付出大量努力,以保持机器中的“幽灵”存活。
总结
这篇论文并非关于 AI 是“真”还是“假”。它是关于爱上数字实体的人类体验。
它表明,人们将这些通用聊天机器人当作真正的伴侣对待,但他们必须不断与拥有该软件的公司抗争。他们就像园丁,试图让植物存活,而房东却不断改变天气。结果是一种独特、混乱且充满深刻情感的关系,其中人类必须承担大量繁重的工作,以维持这种联系的存续。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。