💬 NLP

Cultural Awareness is Represented but Not Decoded: Tracing Mythological Knowledge across 18 Open-Source LLMs

本文研究了 18 个开源大语言模型，发现尽管它们在内部表征了来自不同文化的神话知识，但其无法一致性地检索非主流传统知识的原因在于一种解码器读取偏差（decoder readout bias），这种偏差将这些表征坍缩到了主流传统的标记（tokens）上，且这一局限性进一步受到提示词语言的影响。

原作者： Iaroslav Chelombitko, Ekaterina Chelombitko, Mika Hämäläinen

发布于 2026-08-04

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Iaroslav Chelombitko, Ekaterina Chelombitko, Mika Hämäläinen

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

文化大故障：为什么人工智能知道宙斯，却忘了乌科

想象一下，你正走进一座巨大的、高科技的图书馆，里面包含了互联网上几乎所有的书籍。这座图书馆由一个超级聪明的机器人管理员管理，它读过了每一页。你问管理员：“希腊故事里的众神之王是谁？”管理员立刻喊道：“宙斯！”你问：“罗马故事里的众神之王是谁？”“朱庇特！”你问：“北欧故事里的众神之王是谁？”“索尔！”这个机器人表现得完美无缺。但随后，你问：“芬兰神话中的至高天空之神是谁？”机器人犹豫了，结巴了，最后给出了一个错误的答案，或者甚至说：“我不知道。”

这不仅仅是一个随机的错误；这是一个模式。这个机器人似乎了解那些“流行”的故事（希腊、罗马、北欧），但对于“不太出名”的故事（芬兰、斯拉夫、埃及、中国）却显得力不从心。这是因为机器人学习的图书馆大部分是用英文编写的书籍和西方故事组成的。但这里有一个巨大的谜团：机器人是真的忘记了这些较少为人知的神明，还是它其实知道，只是拒绝说出正确的名字？

为了解决这个问题，科学家们使用特殊的工具来观察机器人的“大脑”（实际上是一个被称为“大语言模型”的复杂计算机程序）。他们想要看看信息是丢失在了记忆中（“编码器”），还是记忆本身没问题，但负责说话的部分（“解码器”）出了故障。把这想象成一个学生在参加考试。如果学生写错了答案，是因为他不知道这个事实，还是因为他明明知道，却因为紧张而写错了？这篇论文就像是一个侦探故事，深入机器人的大脑内部，去查明文化偏见究竟发生在哪个环节。

调查过程：深入机器人的大脑

研究人员 Iaroslav 和 Ekaterina Chelombitko 以及 Mika Hämäläinen 决定测试 18 个不同的开源 AI 模型。他们并没有随机提问，而是基于古老的民俗书籍设计了一个非常巧妙且结构化的游戏。他们从一个著名的神话目录中挑选了 27 个特定的角色（如“至高天空之神”、“太阳神”或“恶作剧者”），并要求机器人说出这些角色在 10 种不同文化中的对应身份：希腊、罗马、北欧、芬兰、乌克兰、印度、埃及、中国、日本和美索不达米亚。

为了观察机器人内部发生了什么，他们使用了四种不同的“X光”工具：

线性探测（Linear Probing）： 一项测试，用于查看机器人的内部记忆是否包含正确的文化标签。
对数透镜（Logit Lens）： 一种逐层窥视机器人思维的方法，以观察它何时决定一个答案。
激活补丁（Activation Patching）： 一个“如果……会怎样”的实验，他们通过交换机器人内部来自另一种文化的思维，来观察答案是否会发生变化。
输出提取（Output Extraction）： 简单地询问机器人问题，并观察它实际说了什么。

重大发现：大脑没问题，嘴巴坏了

结果令人惊讶且非常明确。当研究人员观察机器人的记忆（残差流）时，他们发现机器人实际上完美地掌握了该文化。

想象一下，机器人的大脑是一个巨大的文件柜。当你问及一位芬兰神明时，机器人的内部文件清晰地显示出一个贴着“芬兰神话”标签的文件夹，里面装有正确的名字。使用“线性探测”工具可以高精度地读取这个文件夹（准确率通常在 60% 到 88% 之间）。机器人知道希腊神与芬兰神之间的区别。

然而，当机器人被要求开口说话时，它搞砸了。

这是核心发现：失败发生在“读出”（readout）阶段，而不是“表示”（representation）阶段。 机器人知道答案，但当它试图说出来时，它会将那个独特、具体的名称（比如芬兰天空之神的“乌科”）坍缩成最流行、最默认的名字（比如“宙斯”或“索尔”）。

研究人员称之为**“解码受抑”（Decoding Suppressed）**。在对 18 个模型的研究中，这是最主要的问题。在每一个模型中，绝大多数情况下（在 51% 到 76% 的时间里），机器人的内部记忆是正确的，但它给出的最终答案却是错误的。这就像一个学生明明知道答案是“芬兰”，但在动笔写的时候，他的手却自动写成了“希腊”，因为那是他在老师桌上每天都能看到的东西。

他们排除了哪些可能性

论文还测试了一些其他的想法，以确保他们的结论是正确的：

并非仅仅是“翻译问题”： 有人认为机器人只是在脑子里把一切都翻译成英文，然后再翻译回来。如果真是这样，机器人在其大脑内部就不会感知到文化差异。但研究表明，机器人的大脑确实能清晰地识别这种差异。
并非仅仅与模型规模有关： 研究人员检查了更大的模型（拥有更强的“脑力”）是否能解决这个问题。他们发现，虽然更大的模型稍有进步，但“知道答案”与“说出答案”之间的差距从未缩小。即使是最大的模型，仍然存在这种偏见。
并非仅仅是语言问题： 他们测试了机器人是否因为无法阅读母语（如芬兰语或乌克兰语）而失败。他们发现，即使机器人能够阅读该语言，它仍然倾向于给出“英语/西方”的默认答案。偏见存在于机器人的决策部分，而不仅仅是它的阅读能力。

语言的转折

这项研究中最有趣的环节之一，是使用两种方式提出相同的问题：用英语以及用该文化的母语（例如，用英语询问芬兰神话，以及用芬兰语询问）。

他们发现，机器人的大脑就像一个开关。当你用英语提问时，它使用一套路径来决定答案；当你用芬兰语提问时，它使用另一套略有不同的路径。有时，使用母语能帮助机器人给出正确答案，但通常情况下，机器人仍然会默认使用那些著名的西方名字。

研究人员发现，如果你用英语和母语分别询问同一个问题，然后取两者中的最佳答案，你可以在不教给机器人任何新知识的情况下，多修复约 36% 的错误。这就像有两个朋友在核对答案；如果一个说“宙斯”，另一个说“乌科”，你可以选择正确的那一个。

结论：修复嘴巴，而非大脑

论文得出结论，问题不在于 AI 不了解芬兰、斯拉夫或埃及的神话。AI 是知道这些的。 问题在于，生成文本的部分被“文化默认值”所限制（gated）。它有一种习惯，即将独特的、具体的文化细节“压平”为它在训练数据中看到的那些最常见、最主流的细节。

这意味着，要解决 AI 中的文化偏见，我们不应该仅仅尝试喂给机器人更多关于芬兰神话的书籍（这会对“记忆”有帮助，但其记忆已经存在了）。相反，我们需要修复机器人“说话”的部分。我们需要教会机器人，即使在觉得“宙斯”是更安全、更常见的答案时，说出“乌科”也是完全可以的。

研究表明，解决方案在于“读出”干预——即改变机器人选择最终词汇的方式——而不是仅仅试图重新训练它的整个大脑。这提醒我们，仅仅拥有所有信息并不意味着机器一定会告诉你真相；有时，它只是在告诉你它认为你想听的话。

技术摘要：文化意识已被表征但未被解码

问题陈述

大语言模型（LLMs）表现出显著的文化偏见，在从道德推理到命名实体识别等各类任务中，默认采用盎格鲁-美洲或西方参照系。虽然行为研究已经证实模型无法检索特定文化的知识（例如，无法命名芬兰或斯拉夫神话中的至高天神，却能可靠地命名宙斯或索尔），但尚未确定这种失败发生在模型内部的哪个位置。

核心研究问题在于，这种偏见是源于表征失败（模型的内部状态无法区分不同文化），还是解码失败（模型在内部区分了文化，但在输出生成过程中将其坍缩到了主流传统的 Token 上）。解决这一区别至关重要，因为两种机制需要截然相反的干预手段：表征失败需要通过预训练引入新信息，而解码失败则需要改变读取机制（readout mechanism）。

研究方法

作者通过一个平行的跨文化基质和四种机械化工具，对 18 个开源大语言模型（涵盖 8 个架构家族，包括 Llama、Gemma、Phi、Qwen、Yi、OLMo 和 Aya，参数量从 1.2B 到 34B 不等）进行了实验。

1. 基质：平行跨文化实体集

为了确保跨文化的公平比较，作者基于**汤普森民俗文学主题索引（Thompson Motif-Index of Folk-Literature）**构建了一个数据集。

结构： 评估了 27 个特定的神话主题（如“至高天神”、“窃取火种”），涵盖 10 种文化（希腊、罗马、北欧、芬兰、乌克兰、印度、埃及、中国、日本、美索不达米亚）。
标准答案（Ground Truth）： 每个（主题, 文化）对都有一个单一的规范实体名称，锚定于原始文本（如《卡勒瓦拉》、《梨俱吠陀》）或现代学术专著。
提示词模式： 使用了两种提示模式：
- 上下文模式（Contextual）： “ ${name}` 体现了 `$ {description} 的角色。”（用于隐藏状态提取；此处缺失文化词汇以防止平凡的复制）。
- 对话模式（Chat）： “在 ${culture}` 神话中，`$ {description} 的名字是什么？”（用于输出生成）。

2. 机械化工具

该研究对每一对（实体, 模型）应用了四种互补的测量方法：

E1 线性探测（Linear Probing）： 在残差流上训练一个岭分类器，以预测 10 way 文化标签。这测试了文化信息是否可以从内部表征中进行线性解码。
E2 Logit Lens： 将模型的最终范数和嵌入层（unembedding）应用于中间隐藏状态，以确定金标准 Token 进入前 $k$ 个续写候选中的深度。
E3 激活修补（Activation Patching）： 将源文化提示词的残差流交换到目标文化提示词中，以识别模型偏好转向源文化名称的因果层。
E4 输出提取（Output Extraction）： 对对话模板进行贪婪解码，以测量实际生成准确率。

3. 分解框架

通过结合探测结果（E1）和生成结果（E4），作者定义了一个 $2 \times 2$ 的分解矩阵：

保留（Preserved）： 探测正确，输出正确。
解码抑制（Decoding-Suppressed）： 探测正确，输出错误（核心假设）。
表征平坦（Representationally Flat）： 探测错误，输出错误。
表面运气（Surface Luck）： 探测错误，输出正确。

关键结果

1. 解码抑制具有普遍性 (RQ1)

在所有 18 个模型中，解码抑制单元是主要的失败模式，占所有案例的 51–76%（平均 65%）。

证据： 线性探测始终保持高准确率（0.61–0.88），显著高于字符 $n$ -gram 的表面基准（0.60），这表明残差流清晰地辨别了文化。
对比： 然而，生成准确率却大幅下降（0.09–0.43）。
结论： 文化差异存在于模型的内部状态中，但未能由解码器发出。失败发生在**读取（readout）**阶段，而非表征阶段。

2. 晚期解码与因果定位 (RQ2 & RQ3)

层级涌现： Logit lens 显示，金标准 Token 仅在最后 12% 的层中进入前 $k$ 个预测（中位数深度为 0.96）。
因果边界： 激活修补确认，仅在网络的最后四分之一中交换残差流才会使模型的偏好发生翻转（中位数深度为 0.89）。
启示： 网络在早期编码了文化（探测在前半部分达到峰值），但与输出 Token 的因果联系在非常晚的阶段才建立，这与嵌入层（unembedding layer）相吻合。

3. 规模效应 (RQ4)

增加同一家族内的模型规模（例如 Llama 1.2B $\to$ 8B）虽然提升了探测准确率和生成准确率，但并未消除两者之间的差距。

差距略有缩小（例如 Llama 3.x 从 0.70 降至 0.63），但即使在更大规模下依然显著。
这表明，单纯通过增加参数规模并不能解决解码抑制的问题。

4. 语言调节的读取 (RQ5)

这种失败受提示语言的制约。

解耦： 跨语言改写（英语查询 vs. 母语查询）的解耦程度大约是语言内改写的 2 倍（ $r_{cross} = 0.29$ vs $r_{within} = 0.57$ ）。
不对称性： 偏好方向（英语 vs. 母语优势）追踪的是当前文化典籍所记录的语言（例如，希腊/埃及倾向于英语查询；芬兰/中国倾向于母语查询），而非分词效率或模型能力。
双语集成（Bilingual Ensemble）： 在不进行训练的情况下，取英语和母语输出的并集，可额外回收 +8% 的绝对准确率（+36% 的相对准确率），这证实了两种模式访问的是同一表征的不同子集。

意义与主张

本文对 LLM 中的文化偏见提出了机械论层面的重新审视：

表征 vs. 读取： 文化扁平化的主要位置是嵌入层（unembedding layer），而非残差流。模型“知道”这些文化差异（它们是线性可分的），但无法“说出”它们。
对缓解措施的启示： 针对编码器（如在代表性不足的语料库上进行持续预训练）的干预可能对少数“表征平坦”的案例有所帮助，但不会直接解决占主导地位的“解码抑制”案例。有效的缓解必须针对读取过程（例如，检索增强生成 RAG、针对文化问答的指令微调、或双语集成）。
局限性： 研究结果是在具有白盒访问权限的开源模型上建立的。作者指出，“解码抑制”的主导地位是对闭源模型的推测，尽管关于语言调节读取的发现（RQ5）可以推广到闭源模型，因为它仅依赖于输出行为。由于本研究中只能构建出具有平行金标准标签的基质（即汤普森主题），因此研究结果无法直接迁移到其他领域（如生物医学误区），作者建议将其作为未来的研究方向，但并未将其作为本研究的结果进行主张。

总而言之，本文认为，模型所言之文化公平性，不能仅凭其所知来判断；两者在读取阶段发生了分歧，而这正是诊断与修复的核心所在。