Language Models Struggle to Use Representations Learned In-Context
尽管有证据表明大型语言模型能够从上下文信息中编码新的语义表示，但本研究揭示，无论是开源权重模型还是最先进的闭源模型，都难以有效利用这些习得的表示来调整其行为以适应下游任务。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是论文《语言模型难以利用上下文学习到的表征》的通俗解释，包含简单的语言和类比。
大局观：那个“记不住笔记”的“聪明学生”
想象一位才华横溢的学生（即人工智能）坐在教室里。老师在黑板上用奇怪的符号写下一条复杂且虚构的规则（比如“墨水”代表“城市”，“玩具”代表“空气”）。学生看着黑板，研究了一番，似乎完美地掌握了这个规律。
这篇论文的研究人员想知道：如果学生在看着黑板时理解了规律，那么当黑板被擦除后，他们能否真正利用这种理解来解决新问题？
简短的回答是：不，不能。 尽管学生在当下似乎“懂了”，但当被要求利用这些知识做新事情时，他们却难以应用。
实验：三项不同的测试
研究人员进行了三项主要测试，以观察人工智能模型在多大程度上能够学习并利用这些新的虚构规则。
1. “记忆回廊”测试（下一个词预测）
设置： 想象一个游戏，你穿行在一个由随机单词组成的秘密城市中。你从“玩具”走到“墨水”再到“城市”。人工智能看到了这条路径。
转折：
- 情景 A： 人工智能在自己的回复中看到这条路径（就像它在写日记）。它可以轻松预测下一个词。
- 情景 B： 老师（用户）写下这条路径，然后在停顿后要求人工智能预测下一个词。
结果： 在情景 B 中，人工智能卡住了。这就像学生研究了地图，但当被要求在一张白纸上画出下一条街道时，他们却忘记了地图的存在。人工智能学习了规律，但它无法将其从记忆中“提取”出来加以利用。
2. “变形者”测试（自适应世界建模）
设置： 人工智能被展示在一个由随机单词组成的网格（如 4x4 的棋盘）中的随机行走路径。随后，老师给出几个新规则的例子，比如“向右移动两步”。人工智能必须将这一规则应用于一个新单词。
结果： 人工智能彻底失败了。
- 为什么？ 研究人员检查了人工智能的“大脑”（其内部数学机制），发现它确实学习了网格的形状。它知道地图。
- 问题所在： 尽管地图存储在大脑中，人工智能却无法利用该地图来解决谜题。这就像你口袋里有一台完美的 GPS，但在需要转弯时却无法读取导航指令。这种知识是“惰性”的——它存在，但对于手头的任务毫无用处。
3. “超级思考者”测试（推理模型）
设置： 研究人员在最新、最强大的人工智能模型（即“推理模型”）上进行了相同的测试。这些人工智能经过训练，会在给出答案之前“大声思考”，即写下长长的推理链条。
结果： 这些超级模型表现更好，但仍不完美。
- 它们在简单的一维线条（如直路）上表现出色。
- 当面对二维网格（如城市街区）时，它们完全崩溃。
- 即使它们“大声思考”，也难以将学到的内部地图转化为可用的工具。如果被问及，它们可以描述地图，但无法可靠地利用它进行导航。
核心发现：“惰性”知识
这篇论文的主要发现是作者称之为**“惰性表征”**的概念。
可以这样理解：
- 编码： 人工智能就像一块海绵。当你把水（新信息）倒在上面时，它会立即吸满。它容纳了水。
- 部署： 但当你挤压海绵想把水挤出来浇灌植物（解决新任务）时，水却流不出来。
论文证明，仅仅因为人工智能能够在对话过程中将新规律“编码”（存储）到大脑中，并不意味着它能够“部署”（利用）该规律来解决后续问题。知识被困住了。
那“思考型”人工智能呢？
研究人员希望，那些能够“大声思考”（写出长推理链条）的最新模型或许能解决这个问题。也许如果它们能边思考边解决问题，就能解锁被困住的知识？
论文指出：部分可以，但基本上不行。
这些高级模型在利用信息方面稍好一些，但当任务变得复杂时（如在二维空间中移动），它们仍然会严重失败。它们仍在努力将“上下文学习”转化为灵活的工具。
结论
论文得出结论，虽然人工智能模型在当下识别模式的能力越来越强，但它们尚未成为“适应性代理”。它们无法可靠地从对话中学习新规则，然后立即利用该规则解决不同的问题。
要构建真正具有适应性的人工智能，我们需要弄清楚如何让那个“挤压”过程生效——即如何让人工智能当下学到的知识，真正对其接下来面临的任务有用。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。