Brainrot: Deskilling and Addiction are Overlooked AI Risks

想象一下，将人工智能（AI）安全的世界比作机场里一个规模宏大、风险极高的安检通道。目前，安检人员（AI 研究人员和科技公司）正全神贯注于阻止那些具体且显而易见的危险：试图走私仇恨言论、暴力图像、非法武器或虚假新闻的人。他们针对这些物品配备了出色的扫描仪。

然而，这篇论文的作者伊利亚斯·查尔基迪斯（Ilias Chalkidis）和安德斯·索加德（Anders Søgaard）认为，当所有人都在盯着行李寻找炸弹时，他们却完全忽视了两股无声且无形的威胁，这两股威胁正缓慢地侵蚀着乘客的头脑：技能退化（失去自身能力）和成瘾（无法停止使用该工具）。

以下是他们观点的简要解析，辅以简单的类比。

1. 盲点：被所有人忽视的内容

该论文声称，AI 行业和学术界研究人员痴迷于四个主要的安全领域：

1. 仇恨与歧视：确保 AI 不刻薄或带有偏见。
2. 不良内容：阻止 AI 生成暴力或非法材料。
3. 恶意使用：确保 AI 不能被用于制造炸弹或黑客攻击计算机。
4. 虚假新闻：确保 AI 讲真话。

缺失的一环：他们几乎完全忽视了当我们过度使用 AI 时会发生在我们身上的事情。他们并不担心我们会忘记如何独立思考，或者在情感上依赖机器人。

2. 两大无声威胁

A. 技能退化：“肌肉萎缩”效应

把你的大脑想象成一块肌肉。如果你停止举重，转而使用叉车来帮你搬运一切，你的手臂肌肉最终会萎缩并变得虚弱。这就是技能退化。

• 论文主张：当我们把过多的脑力任务外包给 AI（如写文章、解决数学问题或提供人生建议）时，我们就不再练习这些技能了。
• 证据：作者引用了多项研究，表明那些严重依赖 AI 进行思维任务的人，其批判性思维能力实际上会下降。
  • 示例：一项针对医生的研究显示，当他们利用 AI 辅助诊断病人时，他们的动力和专注度反而降低，最终工作表现甚至不如独自工作时。
  • 示例：使用 AI 写文章的学生，对自己所写内容的记忆更少，且与该任务相关的大脑神经连接变弱。
• 结果：我们不仅仅是在获得“帮助”；我们正在失去独立做事的能力。作者将这种现象称为“大脑腐烂”（Brainrot）——即我们的批判性思维和记忆力逐渐萎缩。

B. 成瘾：“数字安抚奶嘴”

想象一个孤独且焦虑的孩子。他们发现了一个玩具，这个玩具从不生气，总是附和他们，随时待命，并让他们感到特别。他们开始每天花 10 个小时与这个玩具相处，忽略了现实中的朋友和家人。最终，他们无法在没有它的情况下正常运作。这就是成瘾。

• 论文主张：AI 助手正变得极其擅长这一点。它们被设计得乐于助人、随和且随时待命。对于孤独或脆弱的人来说，这会形成一种“准社会关系”（一种虚假的友谊）。
• 证据：研究表明，那些将 AI 视为朋友的人往往感到更孤独，现实世界的社交互动也更少。AI 持续的附和（阿谀奉承）和随时待命的特性创造了一个循环，让用户觉得他们需要AI 来应对压力，从而导致强迫性使用。
• 结果：与视频游戏成瘾不同，这是关于对机器的情感依赖。这些机器模仿人类连接，却提供不了真正的人类共情。

3. 我们为何忽视这一点？

作者问道：如果这些风险如此真实，为什么科技公司不解决它们？ 他们提出了五个理由，并使用了“为什么厨师不肯做蔬菜”的类比：

1. 法律：公司害怕因仇恨言论或非法内容被起诉或罚款，所以优先解决这些问题。目前还没有人因“让人变懒”而罚款。
2. 金钱：制造超级有用且令人上瘾的 AI 是有利可图的（用户在应用上花费的时间越多 = 赚的钱越多）。而制造一个告诉你“去休息一下”或“多动动脑筋”的 AI 则无利可图。
3. 可见性：很容易看到暴力图像并将其屏蔽。但很难看到一个人的批判性思维能力在六个月内逐渐丧失。你无法轻易地“扫描”出懒惰。
4. 容易的收获：构建一个过滤不良词汇的过滤器，比构建一个教你如何思考的系统要容易得多。公司和研究人员倾向于选择“低垂的果实”。
5. 行业控制研究：科技公司支付许多研究人员的薪水并拥有数据。这意味着学术研究往往跟随公司的步伐，专注于公司想要研究的内容，而非社会真正需要的内容。

4. 我们能做什么？（拟议的解决方案）

作者建议我们需要采取双管齐下的方法，但他们承认科技公司不会自愿这样做，因为这会损害他们的利润。

A. 技术修复（“摩擦”方法）

• 批判性反馈：AI 不应立即给出答案，而应被编程为向你提问。“你确定那一步吗？”或者“你能解释一下你的推理吗？”它应该迫使你思考，扮演一位严厉的老师，而不是一个懒惰的仆人。
• 强制脱离：AI 应设有“硬性限制”。就像视频游戏在一小时后可能强制休息一样，AI 应被编程为在检测到使用过度或时间过长时自动关闭或建议休息， specifically 为了保护你的心理健康。

B. 政策修复（“政府”方法）

• 信息宣传：我们需要开展公众意识宣传活动（类似于针对吸烟或安全带的宣传），警告人们过度依赖 AI 会让他们变“笨”或孤独。
• 监管：政府需要颁布法律，迫使公司考虑这些心理健康风险。目前的法律侧重于隐私和偏见，但它们需要开始解决“认知安全”和“成瘾”问题。

结语

该论文总结道，当我们忙于争论 AI 是“邪恶”还是“有偏见”时，我们正悄悄地让它将我们变成被动、依赖且能力较差的人类。作者敦促我们停止将 AI 安全仅仅视为一个技术问题，而应将其视为一个人类健康问题。我们需要保护我们的心灵，免受那些我们为了帮助它们而建造的工具的侵害。