💬 NLP

From Associations to Activations: Comparing Behavioral and Hidden-State Semantic Geometry in LLMs

该研究通过对八个指令微调 Transformer 模型进行大规模心理语言学实验，发现基于强制选择的语言行为比自由联想更能有效揭示大语言模型内部隐藏状态的语义几何结构，且行为数据能预测未见过的内部语义相似性。

原作者： Louis Schiekiera, Max Zimmer, Christophe Roux, Sebastian Pokutta, Fritz Günther

发布于 2026-02-17

📖 1 分钟阅读☕ 轻松阅读

原作者： Louis Schiekiera, Max Zimmer, Christophe Roux, Sebastian Pokutta, Fritz Günther

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文就像是一次**“透视大模型内心”**的探险。

想象一下，你面前有一个超级聪明的机器人（大语言模型，LLM）。它肚子里装满了海量的知识，就像一本写满秘密的“大脑地图”。但是，我们通常只能看到它说出来的话（行为），却看不到它脑子里在想什么（内部激活状态/隐藏层）。

这就好比：你看到一个人看到“狗”时，会联想到“猫”或“骨头”。你知道他的行为（回答），但你不知道他大脑里神经元是如何连接和激活的。

这篇论文的核心问题就是：如果我们只看机器人的“行为”（它选了什么词、说了什么），能不能猜出它“脑子里”的地图长什么样？

🕵️‍♂️ 核心实验：两个“心理测试”

研究人员给 8 个不同的 AI 模型做了两种“心理测试”，就像给人类做词汇联想测试一样：

强制选择题 (Forced Choice, FC) —— “做选择题”
- 玩法：给 AI 一个词（比如“狗”），然后给它 16 个选项，让它必须从中选出 2 个最相关的。
- 比喻：就像考试做单选题。因为选项是固定的，AI 必须仔细比较，它的选择更集中、更精准。
- 结果：这种“做选择题”的行为，非常精准地反映了 AI 脑子里的语义地图。就像通过做选择题，我们能非常准确地画出一个人的知识网络。
自由联想题 (Free Association, FA) —— “脱口秀”
- 玩法：给 AI 一个词（比如“狗”），让它随便说出 5 个它想到的词。
- 比喻：就像玩“词语接龙”或者“头脑风暴”。AI 想到什么说什么，很发散，但也更杂乱。
- 结果：这种“自由发挥”的行为，虽然也有用，但噪音很大。就像让人随便乱说，很难从中精准还原出他脑子里严谨的地图。

🔍 研究方法：把“行为”和“大脑”做对比

研究人员做了两件大事：

画“行为地图”：收集了 1750 万次以上的实验数据，根据 AI 的回答，画出它的“行为语义地图”（比如它觉得“狗”和“猫”很像，和“香蕉”不像）。
看“大脑地图”：直接读取 AI 模型内部每一层的神经激活数据，画出它真正的“内部语义地图”。

然后，他们用一种叫**“表示相似性分析 (RSA)"**的数学工具，把这两张地图叠在一起比一比，看看重合度有多高。

💡 主要发现：三个惊人的结论

“做选择题”比“瞎聊天”更懂内心
- 比喻：如果你想知道一个人的真实想法，让他从几个选项里选（强制选择），比让他随便乱说（自由联想）要准得多。
- 结论：强制选择（FC）的行为数据，能非常完美地还原出 AI 内部的“大脑地图”。而自由联想（FA）虽然也有用，但效果差很多，因为它太发散、太随机了。
行为能预测“看不见”的大脑
- 比喻：这就像你不需要做开颅手术，只需要看一个人做选择题的表现，就能相当准确地猜出他大脑里神经元的连接方式。
- 结论：即使我们拿不到 AI 的内部代码（黑盒模式），只通过观察它的输出行为，也能“反推”出它内部的语义结构。这证明了行为是内心状态的可靠投影。
不同模型有“通用的灵魂”
- 比喻：虽然这 8 个 AI 模型是不同公司造的（像不同品牌的大脑），但它们对词语的理解（比如“狗”和“猫”的关系）竟然惊人地相似。
- 结论：这些模型内部有一个“通用的语义空间”。只要看它们的行为，就能发现它们共享着某种深层的、类似人类的认知结构。

🌟 总结与启示

这篇论文告诉我们：不要只盯着 AI 说了什么，要看它怎么“选”出来的。

对于普通人：如果你想了解一个 AI 是怎么思考的，不要让它随便聊天，给它出“选择题”，它的回答会像 X 光一样，清晰地暴露出它内部的思维逻辑。
对于科学家：我们不需要把 AI 拆开来研究，通过精心设计的“行为实验”，就能透视它的黑盒，理解它的认知世界。

一句话总结：
这篇论文就像发明了一副**“行为透视镜”，证明了只要让 AI 做“选择题”**，我们就能透过它简单的回答，精准地看到它复杂的大脑内部地图。而让它“自由发挥”，反而容易让我们看走眼。

这是一份关于论文 《From Associations to Activations: Comparing Behavioral and Hidden-State Semantic Geometry in LLMs》（从关联到激活：比较 LLM 中的行为与隐藏状态语义几何）的详细技术总结。

1. 研究问题 (Problem)

在认知科学中，语义知识通常被视为一种潜在的（latent）结构，无法直接观察，只能通过行为（如词汇联想任务）进行推断。然而，对于大型语言模型（LLM），我们既可以观察其行为（输出），也可以直接访问其内部表示（隐藏状态/Hidden States）。

本研究的核心问题是：LLM 的隐藏状态语义几何（Internal Semantic Geometry）在多大程度上可以通过其外部行为（Behavioral Geometry）被恢复？ 具体来说，通过经典的心理语言学范式（如自由联想和强制选择）收集的行为数据，能否构建出与模型内部层状隐藏状态相似的语义空间？

2. 方法论 (Methodology)

2.1 实验设置

模型范围：涵盖了 8 个经过指令微调的 Transformer 解码器模型（包括 Falcon3, Gemma-2, Llama-3.1, Mistral, Phi-4, Qwen2.5 等），参数量从 7B 到 14B 不等。
词汇表：基于 SUBTLEX-US 词表，筛选出 5,000 个高频名词作为共享词汇表。
数据规模：收集了超过 1750 万次 的试验数据（Trials）。

2.2 行为实验范式 (Behavioral Paradigms)

研究采用了两种心理语言学范式来构建行为语义几何：

强制选择 (Forced Choice, FC)：
- 给定一个提示词（Cue）和 16 个候选词，模型需从中选出 2 个与提示词最相关的词。
- 每个提示词进行 313 次试验（基于不同的候选集排列）。
- 构建提示 - 响应计数矩阵，经 PPMI（正点互信息）加权后计算余弦相似度，得到行为相似性矩阵 $S_{FC}$ 。
自由联想 (Free Association, FA)：
- 给定一个提示词，模型需生成 5 个最相关的单字联想词。
- 每个提示词进行 126 次随机种子运行。
- 同样构建计数矩阵并计算 $S_{FA}$ 。

2.3 隐藏状态提取策略 (Hidden-State Extraction)

为了对比行为与内部状态，研究从模型的 40+ 层中提取了词向量，并采用了四种上下文提取策略：

Averaged：在 50 个自然句子（来自 C4 语料库）中提取并平均。
Meaning：使用定义式提示（"What is the meaning of the word {w}?"）。
Task (FC)：使用强制选择任务的提示（不含候选列表）。
Task (FA)：使用自由联想任务的提示。
处理：对提取的向量进行去中心化（Mean-centering）以消除各向异性（Anisotropy）影响，并计算层间隐藏状态相似性矩阵 $S^{hid}_{\ell}$ 。

2.4 评估指标

表征相似性分析 (RSA)：计算行为相似性矩阵与隐藏状态相似性矩阵之间的皮尔逊相关系数，衡量几何结构的对齐程度。
最近邻重叠 (Nearest-Neighbor Overlap, NN@k)：衡量在隐藏状态空间中，行为定义的最近邻邻居与内部状态定义的邻居的重合度。
岭回归预测 (Held-out-words Ridge Regression)：使用词汇基线（FastText, BERT）和跨模型共识（Cross-model consensus）作为基准，测试行为相似性（FC/FA）是否能预测未见过的隐藏状态相似性。

3. 主要贡献 (Key Contributions)

行为与激活的对齐分析：首次系统性地比较了 LLM 的行为语义几何与其内部层状隐藏状态几何。发现强制选择（FC）行为与隐藏状态的对齐程度显著高于自由联想（FA）。
行为预测内部状态的能力：通过岭回归证明，仅基于行为（特别是 FC）的数据，在超越词汇基线（FastText, BERT）和跨模型共识的情况下，仍能显著预测未见的隐藏状态相似性。这表明行为测量保留了可恢复的内部语义信息。
大规模数据集与可复现工具：发布了包含 1750 万 + 次试验的 LLM 关联行为数据集，以及完整的预处理、评估和绘图代码，促进了该领域的可复现研究。

4. 关键结果 (Key Results)

FC 优于 FA：
- 在 RSA 分析中，FC 行为与隐藏状态的平均相关性（ $r \approx 0.46$ ）远高于 FA（ $r \approx 0.19$ ）。
- FC 产生的行为矩阵更密集，信噪比更高；而 FA 矩阵稀疏且长尾分布，导致信号较弱。
提取策略的影响：
- **任务对齐（Task-aligned）**的提取策略（即使用与行为实验相同的提示提取隐藏状态）在中间层（约第 10-12 层）表现出最强的对齐效果。
- Averaged（自然语境平均）策略的对齐峰值出现在更深层（约第 40 层），且整体相关性略低。
跨模型共识（Cross-model Consensus）：
- 不同模型之间共享的语义几何结构（共识）非常强（平均 $r \approx 0.79$ ），解释了目标模型隐藏状态的大部分方差。
- 尽管如此，目标模型自身的特定行为（尤其是 FC）仍能提供额外的预测信号。
回归预测性能：
- 在保留词（Held-out words）回归中，加入 FC 行为特征后，测试集 $R^2$ 平均提升了 0.022，而 FA 仅提升 0.002。
- 最佳模型（如 Llama-3.1-8B-Instruct）在特定策略下 $R^2$ 可达 0.844。

5. 意义与结论 (Significance & Conclusion)

认知科学验证：该研究为认知科学的核心假设提供了实证支持，即结构化的行为受内部状态约束，并能部分揭示内部状态。在 LLM 这一“全可见”系统中，验证了行为作为探测内部认知状态的测量工具的有效性。
测量范式的选择：研究指出，并非所有行为任务都能同等有效地揭示内部结构。**受控的比较任务（如强制选择 FC）**比开放式的生成任务（如自由联想 FA）更能集中观测点，从而获得更高信噪比的语义几何测量。
黑盒模型的可解释性：即使在无法访问 Logits 或内部权重的黑盒设置下，通过精心设计的离散行为任务，我们仍能推断出模型内部相当一部分的语义组织方式。
未来方向：研究建议未来应探索更多心理语言学范式（如排序、三向比较），并尝试因果干预（修改内部激活以观察行为变化）来进一步确立因果关系。

总结：这篇论文通过大规模实证研究证明，LLM 的外部行为（特别是强制选择任务）是其内部语义几何的可靠投影。这不仅加深了我们对 LLM 内部工作机制的理解，也为利用行为数据评估和解释黑盒模型提供了新的方法论基础。