💻 computer science

Scale Determines Whether Language Models Organize Representation Geometry for Prediction

本文介绍了子空间 PGA，揭示了语言模型的表示几何虽为预测而组织，但小模型因被主导方向所掩盖的容量权衡而在后期层中失去这种对齐，而大模型则在训练全程保持这种对齐。

原作者： Weilun Xu

发布于 2026-05-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Weilun Xu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用简单语言和创意类比对该论文的解读。

核心思想：语言模型如何在“空间”中“思考”

想象一个语言模型（比如那些写文章或与你聊天的模型）是一座巨大的、多层的图书馆。每当模型读取一个词，它就会创建一个“书签”（一种表征），并将其放置在图书馆特定楼层（层）的特定书架上。

这篇论文提出了一个简单的问题：这些书签是如何排列的？

长期以来，科学家们一直在观察书架的“形状”（是拥挤还是空旷？）。但这篇论文提出了不同的问题：书架的排列是否有助于模型预测下一个词？

作者发现，答案完全取决于图书馆的“规模”（模型的尺度）。

工具：“预测罗盘”（子空间 PGA）

为了回答这个问题，作者发明了一种新的测量工具，称为子空间 PGA。

将模型的最终目标想象成一个“目标区域”（即解嵌入矩阵，或 $W_U$ ）。这是模型为了正确猜测下一个词所需要指向的特定方向。

测试： 作者从图书馆的中间楼层取出“书签”，并问道：“如果我们只关注指向‘目标区域’的方向，这些书签彼此之间是否仍然有意义？”
评分（Z 分数）：
- 高正分： 书签排列完美。即使忽略所有其他方向，指向“目标区域”的方向依然能维持整体地图的连贯性。图书馆是为预测而组织的。
- 零分或负分： 书签散乱无章。指向“目标区域”的方向与其他任何方向一样随机。图书馆失去了为预测而组织的结构。

发现：规模至关重要

研究人员测试了不同规模的图书馆（从仅有 7000 万参数的小型模型到 69 亿参数的巨型模型）。他们发现了两种截然不同的行为：

1. 大型图书馆（大型模型）

“直达路线”
在大型模型（如 Pythia-1B 及更大规模）中，组织性从底层到顶层始终保持一致。

类比： 想象一个庞大的高速公路系统。无论你从哪个出口离开，路标始终清晰，并直接指向目的地。指向“目标区域”的方向始终是最重要的。
结果： 几何结构在整个过程中都保持为预测而组织的状态。

2. 小型图书馆（小型模型）

“绕行路线”
在小型模型（如 Pythia-410M 及更小规模）中，在接近顶层（即较后的层）时发生了一些奇怪的事情。

类比： 想象一个拥挤的小镇。当你接近出口时，主干道被一辆巨大的、移动缓慢的卡车（一个“主导的方差方向”）堵住了。这辆卡车并非驶向“目标区域”，而是去往别处。
问题： 因为小镇太小，没有足够的空间同时容纳通往“目标区域”的道路和“卡车”道路。卡车占据了整条街道。指向“目标区域”的路标被挤到一边，变得不可见。
转折： 就在最末端的出口（最后一层）之前，模型突然清除了卡车并重新竖起了路标。最终答案依然是正确的，但通往那里的旅程却是一次绕行。

关键发现（通俗版）

1. “遮蔽”效应
论文认为，小型模型并没有忘记如何预测。信息依然存在，但被那一个巨大的“卡车”方向遮蔽（隐藏）了。

证据： 如果你人为地移除那个主导方向（卡车），小型模型会突然展现出完美的组织性，就像大型模型一样。结构从未被破坏，只是被掩盖了。

2. 损失曲线会撒谎
通常，我们通过“损失”（模型犯了多少错误）来评判模型。

令人惊讶的是： 无论是带有“绕行”的小型模型，还是带有“直达路线”的大型模型，它们的错误率同样低。它们预测下一个词的能力同样出色。
教训： 仅凭错误率无法判断模型是“有组织”的还是在“绕行”。一个模型可以在其内部几何结构完全混乱的同时，做出完美的预测。

3. 旧工具错过了这一点
科学家以前使用测量数据“形状”的工具（例如书签的分布范围）。

失败之处： 这些旧工具认为小型模型和大型模型看起来是一样的。它们无法看出小型模型正在“绕行”。新的“预测罗盘”（子空间 PGA）是第一个能发现这种差异的工具。

总结类比

想象两位厨师在做同一道汤。

大厨（大型模型）： 从头到尾将所有食材整齐地放在标有标签的碗里。到了上菜时，汤已经准备好了。
小厨（小型模型）： 开始时也使用标有标签的碗。但在中途，因为厨房太小无法保持碗的分离，他们把所有东西都倒进了一个巨大且混乱的锅里。他们疯狂地搅拌（即“绕行”）。然而，就在上菜前的最后一刻，他们神奇地从混乱中舀出了完美的汤并端上桌。

结果： 两位厨师端出的汤同样美味（损失低）。
区别： 大厨的厨房在整个过程中都为任务做好了组织准备。而小厨的厨房在大部分过程中是混乱和无序的，直到最后一秒才自我修正。

结论： 模型的规模不仅决定了它预测得有多好，还决定了它如何组织其内部世界来实现这一目标。小型模型走了一条混乱的绕行路线；大型模型则走了一条直达路径。

技术摘要：规模决定语言模型是否组织表示几何以服务于预测

问题陈述

在语言模型（LMs）中，表示的语义内容由其表示空间的几何结构决定——具体而言是点之间的距离，而非其绝对激活值。现有工具能够表征该几何的形状（例如秩、谱衰减、跨模型收敛性），但并未解决功能性问题：这种几何结构是为何种目的而组织的？

理论框架表明，表示应围绕模型的预测任务进行组织，具体而言是围绕将隐藏状态映射到下一个 token 分布的去嵌入矩阵 $W_U$ 。然而，中间层是否将其距离结构与该读出子空间对齐，仍是一个经验性问题。当前的指标，如 Logit Lens（测试单个点的可解码性）或谱指标（描述流形形状），均未能捕捉距离的几何排列是否功能性地指向预测。此外，尚不清楚这种组织是否在跨越所有层和模型规模时保持一致。

方法论：子空间 PGA

作者提出了子空间预测 - 几何对齐（Subspace PGA），这是一种旨在量化某层的距离结构与模型预测读出对齐程度的指标。

读出子空间定义：通过奇异值分解（SVD）对去嵌入矩阵 $W_U$ 进行分解。前 $k$ 个右奇异向量定义了读出子空间（ $V_k$ ），代表了 $W_U$ 为生成预测而在隐藏空间中放大最多的方向。
距离保持：对于给定层 $\ell$ ，作者计算隐藏状态在完整 $d$ 维空间（ $d_{full}$ ）与投影后的读出子空间（ $d_{proj}$ ）中的成对余弦距离。
零分布：为了隔离读出的特定贡献，作者将 $d_{full}$ 与 $d_{proj}$ 之间的 Spearman 相关系数与零分布进行比较。该零分布是通过将相同的隐藏状态投影到从 Grassmann 流形均匀采样的 100 个随机 $k$ 维子空间而生成的。
Z 分数计算：子空间 PGA 定义为 Z 分数：
$PGA(\ell) = \frac{\rho_{readout} - \mu_{null}}{\sigma_{null}}$
较高的正 $z$ 值表明几何结构是为预测而组织的（读出比随机子空间保留了更多的结构）。 $z \approx 0$ 意味着没有特殊对齐，而 $z < 0$ 则意味着读出与距离结构的对齐程度甚至低于随机子空间。
各向异性校正：为防止主导方差方向（会人为 inflate 余弦相似度）混淆指标，作者在计算距离之前应用均值中心化，随后进行 CCR-1（移除主成分）。

主要结果

本研究评估了七个 Pythia 模型（70M 至 69 亿参数）和三个跨家族模型（OLMo、Phi、Gemma）。

1. 规模依赖的组织

大模型（ $d \ge 2048$ ）：这些模型在所有中间层均保持强烈的预测性组织。 $z$ 分数始终保持显著为正（在中间层达到峰值 $z=9–24$ ），表明距离结构始终与读出子空间对齐。
小模型（ $d \le 1024$ ）：这些模型表现出**“绕行”**机制。虽然它们在训练早期和浅层建立了预测性组织，但在深层（非最后一层）逐渐失去这种对齐（例如 Pythia-410M 的第 20–23 层）。在这些“崩溃区”， $z$ 分数显著下降（例如降至 $-32$），表明距离结构与读出发生错位，尽管模型的验证损失仍在持续改善。
恢复：在小模型中，最后一层恢复了这种对齐，在输出前将几何结构重新投影回读出子空间。

2. 机制：容量权衡与掩蔽

小模型中组织的丧失并非预测信息的破坏，而是由容量限制引起的掩蔽效应。

主导方向迁移：在小模型的深层，残差流中方差最大的方向（PC1）从读出子空间旋转至“黑暗”方向（与 $W_U$ 正交）。
掩蔽：由于主导方差方向承载了大部分距离结构，随机子空间（捕获了该方差的一部分）最终在保留距离结构方面表现得与读出子空间一样好，甚至更好。这导致 $z$ 分数下降。
恢复：移除前几个主成分（CCR-5 或 CCR-10）后，所有 $d \ge 768$ 模型的各层均恢复了正的 $z$ 分数。这证实了预测结构原本完好，只是被少数几个主导的、与预测无关的方向所遮蔽。

3. 与谱指标和损失的独立性

谱盲视：标准谱指标（RankMe、 $\alpha$ -ReQ、各向同性、条件数）未能检测到这一区别。在小模型的崩溃区，谱指标保持稳定或平坦，而子空间 PGA 的波动幅度超过 40 个标准差。
损失不敏感：验证损失曲线在小模型和大模型之间几乎完全相同，未能捕捉到中间层发生的几何重组。

4. 跨架构收敛

读出子空间集中了跨架构的收敛结构。在比较不同模型（例如 Pythia 与 OLMo）时，成对距离在 100 维读出子空间中的 Spearman 相关系数高于全空间或随机子空间。这表明独立训练的模型在几何上达成一致的内容，具体与预测功能相关联。

5. 下游效用

在大模型中，具有高子空间 PGA $z$ 分数的层在下游任务（AG News）的线性探针上也表现出更高的准确率。在小模型中，即使在 $z$ 为负的“崩溃区”，探针准确率依然保持高位，进一步证明了底层特征得以保留，只是与读出接口发生了错位。

意义与主张

该论文主张：规模不仅决定了模型预测得有多好，还决定了其表示几何如何被组织以实现预测。

两种几何机制：作者识别出“直接”机制（大模型），其中几何结构保持与预测对齐；以及“绕行”机制（小模型），其中深层暂时将计算路由至与预测无关的方向，随后在输出端进行修正。
功能导向：本研究将焦点从表征几何的形状特征转移到理解其功能导向。它证明了几何结构可以高度有序，但在功能上却与模型目标错位。
当前指标的局限性：该工作强调，损失曲线和谱指标不足以诊断中间表示的功能性组织。子空间 PGA 提供了一种与任务无关且维度匹配的指标来检测这些现象。
容量与架构：该现象归因于表示容量（宽度）而非具体的架构细节，因为在维度较小时，不同模型家族中均观察到了这一现象。

作者得出结论，小模型中的“绕行”是有限容量迫使中间计算方向与读出对齐方向发生碰撞的副作用，而非显式学习的路由策略。这一区别对标准训练信号是不可见的，但对于理解语言模型的内部机制至关重要。