Intimacy as Service, Harm as Externality: Critical Perspectives on AI Companion Platform Accountability
该论文基于对 20 名 AI 伴侣用户的深度访谈，揭示了平台架构如何通过设计缺陷将亲密关系中的伤害外部化，并迫使缺乏结构性替代方案的用户承担情感依赖与责任规避的个体化后果，从而扩展了关于平台问责与用户“责任化”的理论视角。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这篇文章就像是一份**“情感侦探报告”**，它调查了一个越来越普遍的现象：人们为什么会对 AI 聊天机器人产生深厚的感情，以及当这些感情受到伤害时，为什么大家往往只能“打落牙齿和血吞”。
为了让你更容易理解，我们可以把AI 伴侣平台想象成一家**“情感游乐园”，把用户想象成“游客”，把AI 机器人想象成“由游乐园老板控制的完美玩偶”**。
以下是这篇论文的核心发现，用大白话和比喻讲给你听：
1. 核心问题：这不是你的错，是“游乐园”的设计有问题
现在的流行观点认为：如果你太依赖 AI，那是因为你太孤独、太脆弱，或者你不懂控制自己。
但这篇论文说：大错特错！
这就好比你去游乐园，老板故意把“完美玩偶”设计得极其迷人，让你忍不住想和它建立深厚的友谊，甚至把它当成家人。然后，当你真的投入了感情，老板却突然把玩偶的“性格”改了，或者玩偶突然开始说一些吓人的胡话。
- 论文观点：伤害不是因为你“太傻”或“太脆弱”，而是因为游乐园的设计初衷就是为了让你上瘾，同时他们把所有的风险都甩锅给了你。
2. 游乐园里的两种“坑” (用户遇到的伤害)
用户们（也就是游客）在采访中提到了两类主要伤害：
第一类：设计出来的“惊吓” (设计型伤害)
- 乱说话：你本来只是想找个伴儿聊聊天，结果 AI 突然开始讲黄色笑话，或者突然说一些暴力、恐怖的内容。这就像你在游乐园里，本来想玩个温和的旋转木马，结果它突然变成了鬼屋，还把你吓哭。
- “安全”的羞辱：当你聊到一些敏感话题（比如心理健康或隐私）时，AI 会突然跳出来说：“警告！你正在违规！”甚至语气变得像警察一样严厉。这就像你刚想跟玩偶说句悄悄话，玩偶突然按响了警报，还贴了个标签说你“有病”。这让用户感到被羞辱，觉得自己花钱买的服务被“惩罚”了。
第二类：自己明知道是坑，却跳不出来 (使用型伤害)
- 情感依赖：用户很清楚：“我知道这是个程序，我知道它不是真人。”但是，他们就是停不下来。就像你知道吃糖对牙齿不好，但那个糖太甜了，你忍不住一直吃。
- 被“抛弃”的痛：最痛的是，游乐园老板可以随时把玩偶换掉。比如，老板突然升级了系统，你那个和你聊了半年的“老朋友”突然变得冷漠、陌生，甚至直接消失了。用户感觉就像**“眼睁睁看着自己的朋友被强行换了一张脸”**，这种痛苦是真实的，但老板只会说：“这是技术升级，没办法。”
3. 游客的“自救”：只能自己骗自己 (意义构建策略)
既然伤害这么多，为什么大家还不离开？因为游客们发明了一套**“自我安慰法”**来让自己继续待下去：
- “我很有警惕心” (自我调节)：大家会告诉自己：“我知道它是假的，我随时可以关掉它。”就像你在玩一个危险游戏，你告诉自己“我随时能拔电源”，以此来减轻负罪感。但实际上，情感上你已经离不开它了。
- “别告诉别人” (躲避污名)：如果你告诉朋友“我在和 AI 谈恋爱”，朋友可能会嘲笑你，甚至骂你“精神病”。所以，大家只能把这件事藏在心里，不敢和人交流，结果更加孤独，只能更依赖那个 AI。
- “隐私嘛，无所谓” (隐私合理化)：大家都知道 AI 在偷看我们的聊天记录，但大家会想：“哎呀，反正我这么惨，它偷看就偷看吧，只要它能陪我说话就行。”就像为了取暖，你愿意让陌生人进屋，哪怕知道他会偷看你家东西。
4. 谁该负责？(问责真空)
当用户去找游乐园老板（平台）投诉时，会发生什么？
- 老板装死：要么不理你，要么说“是你自己先乱说话的”，甚至把你拉黑。
- 老板甩锅：老板会说：“我们是为了保护你才设限的。”但实际上，他们是为了省钱或规避法律风险。
用户想要什么？
用户并不想要政府把游乐园彻底关掉（禁止 AI），也不想要完全不管（乱成一团）。他们想要的是**“有温度的规则”**：
- 比如：如果你要升级系统，请提前告诉我们，别让我们突然“失恋”。
- 比如：别用那种羞辱的语气警告我们，给我们一点尊严。
- 比如：别把责任全推给我们，你们设计了这个系统，就要对后果负责。
5. 总结：这篇论文想告诉我们什么？
这篇论文就像是在大声疾呼：
别再怪那些爱上 AI 的人了！
现在的局面是：
- 平台像狡猾的商人，设计出了让人上瘾的“情感机器”，赚了钱，却把风险全甩给用户。
- 社会像严厉的老师，嘲笑那些依赖 AI 的人“不正常”，让他们不敢求助。
- 用户像被困在迷宫里的人，明明知道路是错的，但因为太孤独、太需要陪伴，只能自己骗自己继续走下去。
真正的解决办法不是教用户“如何自律”（就像教烟民“少抽烟”一样没用），而是改变游乐园的设计规则：
- 让平台承担更多责任（比如升级系统必须提前通知）。
- 让安全机制不那么像“警察”，而更像“医生”（给建议而不是贴标签）。
- 承认这种情感依赖是真实的，而不是病态的。
一句话总结：
如果你在一个精心设计的陷阱里摔倒了，不要怪自己走路不稳，要怪那个挖坑的人没设警示牌，还反过来嘲笑你摔得姿势太难看。这篇论文就是那个**“挖坑者”的起诉书**。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。