Six misconceptions about large language models: A minimal model and diagnostic taxonomy
本文基于四项关键区分，提出了一个大语言系统的最小工作模型，旨在诊断并纠正六个常见的误区，从而提供一种超越“鹦鹉学舌式思维”二元论的诊断工具包，以提升能力评估、系统设计与治理水平。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代实验室的静谧轰鸣声中，以及今日繁忙的新闻编辑室里，一种新型机器已成为一种常态化的伴侣。这些是大型语言模型，是在浩如烟海的文本上训练出的系统，它们能够撰写故事、回答问题并起草电子邮件，其流利程度往往能模仿人类的对话。由于它们表现得如此出色，人们开始对这些机器究竟是什么形成了强烈且直觉性的看法。有些人将它们视为简单的工具，仅仅是在预测句子中的下一个词，就像一个非常先进的自动补全功能。另一些人则将它们视为一种新型思维的黎明，具备推理、感受并像人一样理解世界的能力。这两种观点虽然看似截然相反，却有着共同的缺陷：它们都依赖于无法匹配这些系统运作方式之复杂现实的简化叙事。当我们误解了文字背后的机械原理时，我们就有可能在如何将这些工具应用于学校、医院和法庭，或者如何监管它们以保障社会安全方面做出错误的决策。
一位名叫林志诚（Zhicheng Lin）、任职于延世大学的研究人员提出了一种看待这些系统的新方法，以拨开迷雾。林认为，我们不应争论这些机器究竟只是“鹦鹉”还是“原初思维”，而应该停止试图将它们强行塞进这两个框框之一。他构建了一个简单的、可运行的模型，分解了这些系统的实际构造方式以及人们使用它们时的行为模式。该模型建立在四个经常被模糊处理的清晰区别之上。首先，它将训练过程（即机器从书籍和网站中学习的过程）与部署系统（即包括安全过滤器和工具在内的、人们实际交互的产品）区分开来。第二，它区分了机器所学习到的庞大且复杂的知识图谱，与它在任何时刻选择给出的单一且具体的答案。第三，它阐明了系统“记忆”事物的不同方式：有些知识被锁定在机器的永久设置中，有些暂时保存在当前的对话中，还有些存储在机器可以查阅的独立数据库中。最后，它将执行任务的能力与拥有思维或主体意识的概念区分开来。
利用这一框架，林指出了出现在新闻文章、政策文件和日常对话中的六个常见误解。第一个误解是认为这些模型只不过是“随机鹦鹉”或简单的下文预测器。虽然其核心引擎确实是在预测下一个词，但这种观点忽略了这样一个事实：当这些引擎被包装在一个带有工具和安全检查的系统中时，它们可以解决远超简单预测的复杂问题。例如，当一个模型连接到数据库以查找事实或使用计算器时，其回答问题的能力会大幅提升，这表明作为一个整体，该系统不仅仅是其基础训练的产物。
第二个错误是认为这些机器总是产生枯燥、平庸的答案，比如互联网的“模糊平均值”。事实上，机器学习的是广泛的可能性，而它给出的具体答案很大程度上取决于用户如何提问以及使用了哪些设置。如果一个系统被设计为具有创造力，或者由人类引导去探索奇特的想法，它就能产生新颖且令人惊喜的结果，这证明了平庸的输出往往是设计者的选择，而非数学上的必然。
第三种误解是认为这些系统只是简单地记忆并重复它们所训练过的文本，充当巨大的查找表。虽然它们有时会重复精确的短语，尤其是来自名著的内容，但它们生成的大部分内容都是从数百万个来源中学习到的模式的新组合。真正的风险不在于它们逐字复制文本，而在于它们可能会无意中重现敏感信息，或在没有适当署名的情况下，以模仿版权材料的方式构建其论点。
第四种困惑涉及记忆。人们经常担心聊天机器人会记住用户说过的每一句话，或者相反，认为它什么都不记得。真相介于两者之间。机器的永久记忆是固定的，在对话过程中不会改变。然而，它之所以能“记得”对话早期的内容，是因为这些文本被保留在一个临时窗口中。此外，运行聊天机器人的公司可能会将对话日志存储在独立的数据库中。理解这三个层面中哪一层持有信息，对于保护隐私至关重要，然而大多数人仍将机器视为一个单一的、全知的实体。
第五，许多人认为安全特性和性格调整只是添加在其中性核心之上的薄层，就像相机镜头上的滤镜一样，可以轻易移除。林认为，这些调整实际上已经植入到机器的永久设置中。当一个模型被训练得更具帮助性或无害性时，其内部结构会发生变化，这种变化无法被简单地关闭。这意味着系统的价值观和行为是深度嵌入的，移除安全特性并不像摘掉面具那样简单。
最后一个误解是最深刻的：即认为这些机器要么像人类一样思考，要么完全不理解任何事物。林建议，这是一个虚假的抉择。这些系统没有情感、信仰或意识，但它们也并非只是在随机地移动符号。它们展示了高度的功能性胜任力，即使在没有人类思维的情况下，也能解决困难的问题并从语境中学习新任务。危险在于，要么赋予它们人类权利，要么忽视它们执行有用工作的真实能力。
这种新的思考方式已经被应用于现实世界的规则中，例如主要科学出版商制定的政策。林发现，许多现有政策是基于旧有的、混乱的想法编写的。例如，有些政策声称人工智能不可信，因为它只是一个“统计学上的鹦鹉”，这忽略了当人工智能与人工验证相结合时可以成为强大工具的事实。另一些政策则警告人工智能由于其训练截止日期而永远会产生不完整的知识，未能认识到现代系统可以查阅当前信息。通过使用这个新模型，决策者可以制定更清晰的规则，将重点放在系统的实际用途、数据存储位置以及它正在执行的具体任务上，而不是依赖于模糊的恐惧或夸张的希望。
该论文并不声称解决了关于机器是否能真正理解或感受的谜团。相反，它提供了一个用于辨别真相与炒作的实用工具包。通过观察系统的特定部分——训练、设置、记忆层和工具——评估这些机器实际能做什么便成为了可能。这种方法有助于科学家、教师和领导者超越“鹦鹉对阵思维”的极化争论，转而专注于设计安全、有效且诚实的未来系统的实际工作。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。