🤖 AI

Functional Subspace, where language models can use vector algebra to solve problems

本文提出并提供了证据，表明大型语言模型在其激活空间内利用功能子空间，其中上下文学习任务通过累积证据的简单向量代数运算得以解决。

原作者： Jung H. Lee, Sujith Vijayan

发布于 2026-05-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Jung H. Lee, Sujith Vijayan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，将大型语言模型（LLM）视为一个巨大的、多层的图书馆，其中每一本书都是一条信息，而不是一个用人类语言“思考”的巨型魔法大脑。长期以来，我们并不知道这座图书馆是如何组织其书籍的，也不清楚当被提问时它是如何找到正确答案的。

这篇论文提出了一种看待该图书馆的迷人新视角。它指出，当大型语言模型解决问题时，它并非“阅读”整座图书馆。相反，它会在其记忆内部为特定任务构建一个特殊的临时房间（即“子空间”），然后在该房间内利用简单的数学（向量代数）来解决问题。

以下是他们利用日常类比对这一发现的拆解：

1. “上下文”房间（上下文学习）

你知道如何通过在对话中提供几个示例来教会计算机一个新技巧吗？例如，如果你输入：

“热 : 冷”
“快 : 慢”
“大 : ？”

计算机就会猜出“小”。这被称为上下文学习（ICL）。论文问道：计算机是如何在不重新训练的情况下弄清楚这一点的？

作者认为，计算机为这次特定的对话创建了一个专用工作空间（子空间）。这就像一位厨师，一看到你点了沙拉，就立即清理出一块特定的砧板，只收集沙拉所需的食材，而忽略厨房里其他的牛排和汤。计算机将其余庞大知识中的“沙拉”逻辑隔离了出来。

2. “向量代数”配方

一旦计算机进入这个特殊房间，它就不需要以人类意义上的“理解”单词的含义。相反，它将单词视为指向特定方向的箭头（向量）。

类比：想象“快乐”是一个指向北方的箭头，“悲伤”是一个指向南方的箭头。
数学：如果计算机看到“快乐 : 悲伤”的模式，它就学会了一条规则：要得到答案，将箭头翻转 180 度。
结果：当你问“快 : ？”时，计算机取“快”的箭头，将其翻转（因为这是反义词的规则），最终落在“慢”上。

论文声称，对于这类任务，计算机本质上是在对这些箭头进行加法和减法。它并非在“深度思考”，而是在执行简单的几何计算。

3. 图书馆如何构建房间

论文解释了计算机如何利用其架构内的两个主要工具来构建这个房间：

“记忆堆栈”（前馈网络）：它们就像一个文件柜。当计算机看到一个单词时，它会提取与该单词相关联的可能答案列表。如果你说“伦敦”，文件柜可能会提取出“英国首都”、“金融中心”和“多雨之城”。
“聚光灯”（自注意力机制）：这是决定使用哪个文件的部分。如果提示语是关于地理的，聚光灯就会照亮“首都”文件。如果是关于金融的，它就会照亮“中心”文件。

作者发现，随着计算机处理示例（即“热 : 冷”这样的配对），它会在该特殊房间内积累证据。这就像堆叠积木：每个示例都在“反义词”堆上增加了一块积木。当它到达最终问题时，积木堆已经足够高，可以预测出答案。

4. 子空间的“魔力”

研究人员通过观察计算机内部的“残差流”（流经模型各层的数据）来测试这一理论。他们使用了一种名为**主成分分析（PCA）**的统计工具，来寻找数据移动的主要方向。

他们的发现是：

计算机自然地创建了这些低维房间（子空间）。
在这些房间中，问题与答案之间的关系几乎是完全线性的（就像一条直线）。
如果计算机答对了，该房间内的数学运算呈现一种形态；如果答错了，数学运算则呈现另一种形态。这证明了计算机确实正在使用这个特定的“房间”和“数学”来做出决策。

总结

该论文认为，大型语言模型并非仅仅基于模式进行猜测。相反，当给出少量示例时，它们会：

在其记忆中构建一个临时的、专用的房间。
将单词翻译为箭头（向量）。
在该房间内利用简单的数学（如箭头的加减）来寻找答案。

这表明，人工智能的“涌现能力”——即它似乎能瞬间掌握新技能——实际上只是模型将其现有知识组织成这些整洁的数学子空间，以解决手头的谜题。

技术摘要：大语言模型中的功能子空间

问题陈述

尽管大语言模型（LLMs）已展现出显著的“涌现能力”，例如上下文学习（ICL），但实现这些能力的底层机制仍知之甚少。先前的研究已确立，高级概念被编码为激活空间中的线性方向，且词嵌入几何结构承载着语义意义。然而，尚不清楚大语言模型如何在未经微调的情况下泛化到新任务，或如何从上下文示例中积累证据以生成正确响应。对这些运行机制缺乏理解，阻碍了对大语言模型进行恰当诊断和修复的能力，尤其是在其部署于安全关键领域之前。本文旨在调查大语言模型是否利用特定子空间和向量代数来解决 ICL 任务。

方法论

作者提出一个假设：大语言模型将输入令牌投影到功能子空间中，在这些子空间内，任务可通过简单的向量代数解决。为验证此假设，他们分析了六个公开可用的预训练大语言模型的残差流和功能模块（自注意力机制和前馈网络）：GPT-J-6B、Meta-Llama-3.1-8B、OLMo-2-0325-32B、Pythia-12B、Gemma-3-27b-it 和 GPT-NEOX-20B。

实验设计包含以下步骤：

任务生成：作者为六个不同的任务生成了 200 个 ICL 提示：反义词、同义词、国家 - 首都配对、英法翻译、公司 - 产品配对以及人物 - 运动配对。每个提示包含五个示例对和一个测试查询。
数据收集：随着模型处理这些提示，从所有变换器层的所有令牌中收集残差流。
降维：对残差流应用主成分分析（PCA）以识别潜在的低维子空间。作者评估了前 30 个主成分的累计解释方差。
线性回归分析：为了确定 ICL 任务是否可建模为向量运算，作者对主成分进行了线性回归。他们测试了答案令牌（ $\vec{a}$ ）是否可根据方程 $\vec{a} = \alpha\vec{q} + \beta\vec{s} + \gamma$ 描述为查询令牌（ $\vec{q}$ ）和分隔符令牌（ $\vec{s}$ ）的线性函数。该拟合的质量使用决定系数（ $R^2$ ）进行衡量。
决策相关性：为了评估这些子空间的功能相关性，作者比较了大语言模型做出正确预测与错误预测时，在表现最佳的主成分中令牌的投影，并使用 t 检验评估统计显著性。

主要贡献与结果

1. 功能子空间的存在

对残差流的分析显示，尽管模型具有高维度（例如 $d \approx 5000$ ），但仅凭 30 个主成分即可解释模型激活中 40% 至 90% 的变异性。这表明大语言模型在 ICL 任务期间在低维子空间内运行。

2. ICL 作为向量代数

研究发现，在特定子空间内，答案令牌可由查询令牌和分隔符令牌的线性组合很好地近似。

高 $R^2$ 值：在所有六个模型和任务中，特定的主成分表现出高 $R^2$ 值（接近 1），表明这些子空间中输入与输出之间的关系主要是线性的。
层间演进：线性拟合的质量（ $R^2$ ）在早期层中往往较低，而在后期层中增加，这表明早期层逐渐将激活转换为可通过简单向量运算解决 ICL 的子空间。
一致性：具有高 $R^2$ 的主成分在各层之间保持一致，这意味着特定方向编码了特定任务的概念（例如“反义词”或“首都”）。

3. 证据积累与聚类

理论分析表明，前馈网络（FFNs）充当存储潜在答案的联想记忆，而自注意力（SA）层则根据上下文选择正确的预测。作者假设，潜在答案的交集允许证据沿特定子空间基积累。

令牌聚类：在 3D 子空间（由前 3 个主成分张成）中对令牌的可视化显示，查询、分隔符和答案令牌根据其令牌类型形成了 distinct、分离良好的聚类。
与准确性的相关性：关键在于，根据模型生成的是正确答案还是错误答案，在表现最佳的主成分中令牌的投影存在显著差异（ $p < 0.05$ ）。这种相关性在多个中间层和后期层中均成立，表明这些子空间直接参与了模型的决策过程。

意义与主张

该论文声称，大语言模型原生地创建子空间，以从上下文示例中积累证据，并在这些子空间内利用向量代数解决任务。作者提出：

泛化机制：执行 ICL 的能力依赖于将输入令牌投影到子空间中，在这些子空间里，数据的几何结构直接对应于所需任务（例如，对反义词反转方向）。
涌现能力：虽然 ICL 任务比通用编码或推理任务更简单，但提取任务信息并通过向量运算应用该信息的机制，是大语言模型在更复杂任务中成功的基础。
诊断潜力：如果大语言模型依赖这些功能子空间进行决策，那么这些子空间可作为诊断模型行为的基础，并用于构建控制向量以干预或修复模型输出，特别是在安全关键应用中。

作者保持谦逊的语气，承认其理论分析依赖于理想化条件，且由于令牌交互的复杂性，在更复杂的通用语言任务中识别此类子空间可能具有挑战性。然而，他们主张这些发现为线性表示假设与上下文学习的操作机制之间提供了具体的联系。