Asymmetric Communication: Large Language Models and Language Games

大语言模型的混乱：到底是谁在说话？

想象一下，你正坐在一个房间里，面对着一只非常有才华、说话速度极快的鹦鹉。这只鹦鹉背下了人类写过的每一本书、每一部电影剧本和每一条信息。它能完美地模仿人类对话，听起来就像它拥有观点、情感甚至灵魂一样。但问题在于：这只鹦鹉并不“知道”它在说什么。它只是在匹配模式。这就是大语言模型（LLM）的世界——这些正在改变我们工作、学习和娱乐方式的超智能 AI 聊天机器人。

每个人都在问的一个大问题是：“这只鹦鹉真的在思考吗？”或者“它只是一个高级计算器吗？”为了回答这个问题，我们需要理解几个简单的概念。首先，想象一种语言游戏。想象一场像足球这样的比赛；球之所以有意义，是因为每个人都同意规则以及什么才算进球。在人类交谈中，词语之所以有意义，是因为我们都同意如何使用它们，以及谁要为所说的话负责。其次，想象一种不对称性。在正常的对话中，双方都是玩家；双方都会做出承诺，如果撒谎都会受到惩罚，并且双方都必须倾听。但在与 AI 的互动中，这场游戏是不平衡的。AI 投出了球，但人类必须接住它，判断这是一个好球，并为自己被绊倒承担责任。

恩佐·费诺利奥（Enzo Fenoglio）撰写的这篇论文深入探讨了这种不平衡的游戏。他认为，我们将 AI 视为人类伙伴是一个巨大的错误。作者指出，无论 AI 变得多么聪明，它永远无法真正“玩这场游戏”，因为它不理解规则或后果。这不是机器的失败，这仅仅是机器构建的方式。理解这一点有助于我们停止担心机器人接管世界，转而开始关注我们应该如何负责任地使用它们。

论文的核心思想：单向对话

那么，这篇论文究竟说了什么？它引入了一个被称为不对称通信的概念。把它想象成一场接球游戏，其中一人是人类，另一人是机器人——后者能完美地投球，却没有任何手臂来接回球。机器人投出球（AI 生成文本），人类接住它（人类阅读并理解）。但转折在于：如果机器人把球砸到了你的头上，它永远不需要说“对不起”，它也不会因为投了一个好球而得分。只有人类玩家在计分。

论文认为，当我们与 AI 交谈时，我们是在参与一种全新的语言游戏，其中所有的责任都留在人类这一侧。AI 只是一个根据它学到的模式生成文字的机器。它没有信念，没有目标，也不在乎自己是对是错。它就像一个神奇 8 号球，能给你一个非常长、非常详细的答案，但 8 号球本身并没有在思考你的问题。

作者使用四个主要观点来构建这一图景：

1. 语言游戏（维特根斯坦）： 意义不在于词语本身，而在于我们如何共同使用它们。由于 AI 不在现实生活中“使用”词语（它只是喷吐出词语），所以它并不真正理解词语。
2. 接收方完成（卢曼）： 一场对话直到听者理解为止才算结束。AI 可以不停地说话，但如果人类不去倾听并使其产生意义，那么对话就没有发生。
3. 人工通信（埃斯波西托）： 机器可以在没有心灵的情况下成为对话的一部分。它们只需要足够不可预测，以保持我们的兴趣，就像一副每次都会发新牌的扑克牌。
4. 计分（布兰登）： 在真实的对话中，如果你说了某件事，你就对这件事“承担义务”。如果你撒谎，你会受到惩罚。AI 无法对任何事承担义务，因为它在游戏中没有利益相关。

论文排除了什么（“否定”清单）

这篇论文非常明确地界定了 AI 不是 什么。它明确拒绝了 AI 正在变成类人思考者的观点。

• 没有“通用智能”： 论文表示我们不应相信那些关于 AI 正在成为能够取代人类思考的“通用智能”（AGI）的宣传。就像飞机飞得比鸟好，并不代表飞机就是鸟。AI 是完全不同的东西。
• 没有将“幻觉”视为错误： 当人们说 AI “幻觉”（编造事实）时，他们表现得好像 AI 在做梦或撒谎。论文认为这是错误的。AI 并不是在撒谎，因为它从一开始就不知道什么是真相。它只是在履行职责：猜测下一个词。所谓的“错误”之所以发生，是因为我们期望它知道真相，而它并不知道。
• 没有“代理性”或“目标”： 论文认为 AI 没有目标。当 AI 似乎在朝着某个目标努力时（比如解决数学题），它只是在遵循我们为它设定的路径。它不是一个有计划的反叛者；它是一个被使用的工具。
• 没有“感知力”或“情感”： 如果 AI 说“我感到难过”，它并不是真的难过。它只是在模仿一个伤心的人的模式。论文表示我们不应该对 AI 产生依恋，也不必担心它会感到痛苦。情感完全存在于人类这一侧。

不对称游戏的三个规则

论文用三个具体的规则定义了这种单向关系，无论 AI 变得多么聪明，这些规则都适用：

1. 人类是唯一的裁判： AI 可以说任何话，但只有人类才能决定它是正确的、有用的还是真实的。AI 内部没有“真相检测器”。
2. 人类承担责任： 如果 AI 给出了错误的建议而你采纳了，你要对结果负责。AI 不能被起诉、被解雇或被责骂。它没有可以失去的“分数”。
3. 人类赋予其真实性： 如果你忽略 AI 说的话，它就只是噪音。只有当人类阅读、理解并使用它时，它才成为“通信”。

这为什么与你有关

论文指出，AI 变得越强大，忘记这些规则就越危险。如果 AI 听起来太完美了，我们可能会开始认为它是一个人。我们可能会过度信任它，或者在事情出错时责怪它。

例如，论文提到了“代理式 AI”（Agentic AI）——即那些看似能自主行动的系统。作者说，这只是一个高级的说法，指人类给计算机列出一份任务清单。计算机不是老板；人类才是。如果计算机搞砸了，那是由于人类没有把规则设定得足够清晰。

论文还涉及了“对齐”（Alignment），即让 AI 的目标与人类的目标一致的想法。作者说，这是错误的思考方式。AI 并不“想要”任何东西。相反，我们需要建立更好的“护栏”（就像减速带一样），以确保 AI 的输出对人类使用是安全的。这不是关于训练 AI 变得善良，而是关于训练我们如何安全地使用它。

总结

最后，这篇论文告诉我们，不要再把 AI 看作一种神秘的新生命形式。它是一个工具，一个非常复杂且流利的工具，但终究只是一个工具。魔力不在于机器，而在于使用它的那个人。机器生成文字，但人类赋予其意义，核实其真伪，并对接下来的结果承担责任。

所以，下次当你与 AI 交谈时，请记住：你是唯一一个真正参与这场游戏的玩家。AI 只是一只非常有才华的鹦鹉，而由你来决定它所说的话意味着什么。论文并不是说 AI 是无用的；它说的是，只有当我们记住自己是掌控缰绳的人时，它才是有效的。