LLMorphism: When humans come to see themselves as language models

想象一下，你一生都坚信写出一首优美的诗，便是你拥有灵魂、情感以及对世界深刻理解的证明。然而，突然之间，一台机器出现了，它能写出和你一样优美、甚至更优美的诗。

起初，你可能会想：“哇，这机器太像人了！”（科学家将这种现象称为拟人化——赋予机器人类的特质）。

但这篇论文指出，接下来发生的某种事情更为诡异。因为这台机器写得如此出色，我们可能会开始反转剧本。我们可能会开始认为：“如果机器能像人一样写作，那么也许人类只是像机器一样运作。”

作者将这种新的偏见称为大语言模型化（LLMorphism）。这是一种错误的信念，即认为我们的大脑运作方式与大语言模型（AI 聊天机器人）完全一致。

以下是通过日常类比，对这一现象如何发生、为何构成问题以及可能将我们引向何处的简要解析。

1. “反向镜像”效应

通常，我们看着机器会问：“它有生命吗？”
现在，我们看着自己会问：“我们只是算法吗？”

论文指出，这种现象源于我们大脑施展的两个主要“戏法”：

• “模仿者”戏法（类比转移）： 当我们看到两件事物在外观上相似时，我们会假设它们在内部运作方式也相同。

  • 类比： 想象你看到一只鸟和一架飞机。两者都会飞。因此，你可能会假设飞机也有羽毛和心脏，就像鸟一样。
  • 现实： 飞机之所以能飞，是因为引擎和空气动力学；鸟之所以能飞，是因为肌肉和生物学。它们看起来一样（都在飞），但它们的“引擎”完全不同。
  • 大语言模型化： 我们看到人类和 AI 都在产出文字。因此，我们假设我们的大脑也只是像计算机一样在“预测下一个词”，却忽略了人类拥有情感、身体和真实生活经历这一事实。

• “新词典”戏法（隐喻可用性）： 当一项新技术变得流行时，我们开始用它的词汇来描述自己的生活。

  • 类比： 在 1950 年代，人们将心智描述为“液压系统”（水压）；在 1980 年代，我们将其描述为“计算机”（处理数据）。现在，我们开始将我们的思想描述为“训练数据”、“提示词”和“幻觉”。
  • 风险： 如果我们开始将记忆视为“训练数据”，将创造力视为“重组模式”，我们可能会忘记我们实际上是拥有感受、鲜活的生命体。

2. 为何这很危险（它伤害我们的“五种方式”）

论文指出，如果我们开始相信自己与 AI 无异，这可能会以五种具体方式改变我们对待彼此的方式：

• “可替代”陷阱：

  • 类比： 如果你认为一名工人只是一个“文本生成器”，你可能会想：“为什么要保留人类？机器做同样的工作更快。”
  • 结果： 我们可能会停止重视人类员工，因为我们认为他们的工作仅仅是产出成果，而忽略了他们所带来的判断力和关怀。

• “流利度”陷阱：

  • 类比： 想象一个学生能完美地背诵一篇演讲，却连一个词的含义都不懂。如果我们像 AI 那样思考，我们可能会说：“太棒了！他们产出了正确的词语，所以他们一定很聪明。”
  • 结果： 我们可能会混淆听起来聪明（流利度）与真正聪明（真正的理解）。在学校或医院里，只要人们说话听起来自信，我们可能会停止检查他们是否真的知道自己在说什么。

• “无责”陷阱：

  • 类比： 如果一辆车因故障而撞毁，我们不会责怪这辆车，而是修复代码。如果我们认为人类只是“代码”，我们可能会说：“他并非有意伤害你；只是他的‘输入’导致了那个‘输出’。”
  • 结果： 我们可能会停止追究人们对其行为的责任。我们可能会停止问“你为什么要那样做？”，转而问“是什么数据让你那样做的？”这会削弱我们的责任感和道德感。

• “无视身体”陷阱：

  • 类比： AI 只阅读文本。它无法看到患者因恐惧而颤抖，也无法看到孩子哭泣。如果我们像 AI 那样思考，我们可能只关心人们说了什么，而不关心他们看起来如何或感觉如何。
  • 结果： 在医疗保健中，医生可能会忽略患者的肢体语言或痛苦，因为患者的言语听起来“没问题”。我们可能会错过某人正在受苦的事实，仅仅因为他们无法完美地表达出来。

• “虚假真理”陷阱：

  • 类比： AI 可以编造听起来非常令人信服的事实（幻觉）。如果我们认为人类以同样的方式运作，我们可能会开始认为“听起来令人信服”等同于“是真实的”。
  • 结果： 我们可能会停止关心证据和事实，而只关心什么听起来合理或流畅。

3. 这篇论文没有说什么

了解作者没有声称什么同样重要：

• 他没有声称人类实际上就是 AI。他说的是我们错误地认为自己是。
• 他没有声称我们应该停止使用 AI。
• 他没有声称这已经无处不在。他警告说，随着 AI 变得越来越强大，这是一种风险，且发生的可能性正在增加。

大局观

长期以来，关于 AI 的主要担忧是："我们是否给予了机器过多的赞誉？我们是否在假装它们拥有情感？"

这篇论文指出："那只是故事的一半。另一半是：我们是否正在从人类身上夺走过多的赞誉？我们是否开始认为自己没有情感、灵魂或真实的心智，而只是复杂的文本预测器？"

作者希望我们记住，虽然 AI 可以模仿我们的言语，但它没有我们的生活、我们的身体或我们的心灵。我们需要确保不忘记这种差异。