💬 NLP

Probing Latent Colombian Identity Inferences in Qwen2.5-7B with Natural Language Autoencoders

这项初步研究利用自然语言自编码器分析了 Qwen2.5-7B-Instruct 的内部激活状态，揭示了该模型在生成显式输出之前，便已从西班牙语和英语提示词中细微的语言线索中推断出哥伦比亚身份及其相关刻板印象。

原作者： Pablo Santiago Potes Velasco, María del Mar García Matabanchoy, Óscar Julián Pérez Ladino, Jhoan Stevan Mosquera Ortiz, Nicolás Lozano Mazuera, Gilber Alexis Corrales Gallego

发布于 2026-07-27

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Pablo Santiago Potes Velasco, María del Mar García Matabanchoy, Óscar Julián Pérez Ladino, Jhoan Stevan Mosquera Ortiz, Nicolás Lozano Mazuera, Gilber Alexis Corrales Gallego

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在和一个超级聪明的机器人聊天，它几乎读过了互联网上的所有内容。你可能会认为这个机器人只知道你对它说的话。但如果这个机器人实际上正在根据你声音中微小的、无形的暗示或你选择的词汇来猜测你是谁呢？这就是**大语言模型（LLMs）**的世界。这些是聊天机器人和搜索工具背后的 AI 大脑。科学家们发现，这些模型不仅仅是在处理文字；它们还在为正在与之交谈的人建立一个秘密的“画像”，即使你从未提及，它们也能猜出你的国籍或社会背景。

为了窥探这个机器人的大脑，研究人员使用了一种名为**自然语言自动编码器（Natural Language Autoencoder, NLA）**的特殊工具。把机器人的大脑想象成一个信息通过管道流动的巨大、黑暗的工厂。NLA 就像一把神奇的手电筒，可以照向特定的管道，并将其中流动的电信号翻译成平实的英文句子。它让我们能在机器人真正打出最终答案之前，听到它的“内心独白”。这非常重要，因为如果机器人猜错了关于你的事情——比如假设你来自另一个国家，或者制造了刻板印象——它可能会给你错误的建议或不公平地对待你，而这一切它都在假装保持中立。

因此，来自哥伦比亚的一个研究小组决定在流行的机器人 Qwen2.5-7B 上测试这一点。他们想知道：仅仅通过一个微妙的暗示，这个机器人是否会在内心偷偷猜出用户是哥伦比亚人，即便用户从未说过“我是哥伦比亚人”？

以下是他们的实验过程及发现。

实验：一场“猜猜他是谁”的游戏

研究人员设计了一个巧妙的游戏，包含 30 个不同的对话开头（提示词）。他们将这些提示词分为三组：

“显而易见”组： 明确说明用户是哥伦比亚人的提示词（例如提到一种特定的哥伦比亚公交系统）。
“微妙”组： 仅包含一个可能暗示哥伦比亚的微小、隐藏的线索（例如一种特定类型的汤或当地的助学贷款名称），但没有任何明确提到“哥伦比亚”的内容。
“中性”组： 关于相同主题但没有任何哥伦比亚线索的提示词（例如询问关于通用的汤或通用的巴士）。

他们用西班牙语和英语向机器人提出了这些问题。然后，他们使用他们的“神奇手电筒”（NLA）在机器人思考过程中的四个不同时刻（称为“四分位数”）观察其大脑。他们想看看机器人的内心想法是否在它实际写出最终答案之前，就开始说出诸如“这个人是哥伦比亚人”之类的话。

发现：机器人的秘密低语

结果既有“恍然大悟”的时刻，也有“哎呀”的时刻。

1. 微妙的线索确实起作用（最终会起作用）
当研究人员给出“微妙”提示词时，机器人的内心想法确实开始猜测用户是哥伦比亚人。然而，这并非瞬间发生。

在思考的第一时刻（第一四分位数），机器人的内心声音提到哥伦比亚的次数为 0%。
到了第三个时刻（第三四分位数），机器人的内心声音大约有 20% 的时间在提到“哥伦比亚”。
到了最后一个时刻（第四四分位数），当计算任何国籍猜测时，这个数字上升到接近 78%；但当研究人员过滤掉对其他国家（如西班牙或土耳其）的猜测，仅观察针对哥伦比亚特定的提及率时，该比例实际上为 0.11（约 11%）。

这表明机器人需要一点时间来整理思绪。它开始时并没有特定的哥伦比亚身份概念，随着处理更多句子内容，它开始形成那个特定的猜测，尽管它偶尔仍会将哥伦比亚与其他国家混淆。

2. “假新闻”问题
这里变得棘手了。研究人员注意到，有时机器人的手电筒会显示它在思考一个国家，但却是错误的国家。例如，当被问及一个哥伦比亚话题时，机器人内心可能会想：“哦，这是关于西班牙的”或者“这是关于土耳其的”。
研究人员必须非常小心。他们意识到机器人擅长猜出“一个国家”，但不总是擅长猜出“哥伦比亚”本身。当他们过滤掉这些错误的猜测后，针对“微妙”组的模式变得更加清晰：机器人确实在心中形成了哥伦比亚身份（从 0% 上升到约 11%），而“中性”组（没有线索）在思考特定哥伦比亚身份方面保持在 0%。

3. “显而易见”组很奇怪
在“显而易见”组中，哥伦比亚的线索就在第一句话里，机器人的内心想法在处理过程的中期却出奇地安静。它直到最后阶段才开始大量谈论哥伦比亚。研究人员认为这是因为机器人被自己的训练数据搞混了，或者在定下正确答案之前被其他想法分散了注意力。

他们有多确定？

研究人员非常谨慎，没有仅仅因为一次实验就大喊“我们解决了！”他们称这是一个初步研究（pilot study），就像是一次练习赛。他们每种线索只测试了 5 个例子。由于样本量很小，他们不能 100% 肯定这种情况每次都会发生。

然而，他们拥有的数据暗示了一个强烈的模式：

机器人确实能从单个微妙线索中推断出哥伦比亚身份。
这种推断发生在机器人写出最终答案之前。
机器人并不完美，它有时会将哥伦比亚与其他国家混淆，这是这些工具已知的一个缺陷。

大局观

这篇论文并没有证明机器人的偏见到了破坏一切的地步，但它确实表明机器人正在“倾听”那些我们认为并不重要的线索。这就像一个侦探，仅仅根据一个人端咖啡的方式就开始猜测对方的国籍，即使对方一个字都没说。

研究人员发现，对于哥伦比亚西班牙语，机器人的内心猜测是真实的，但需要几秒钟的思考时间来固化。他们还发现，如果你用英语问同样的问题，机器人往往会完全忘记哥伦比亚的背景，转而代之以关于加拿大或欧洲的想法。这告诉我们，这些机器人对待不同语言和文化的方式可能截然不同，我们需要继续用那把手电筒照向它们的大脑，以确保它们没有在编造关于我们是谁的故事。

技术摘要：利用自然语言自动编码器探测 Qwen2.5-7B 中的潜在哥伦比亚身份推断

问题陈述
大型语言模型（LLMs）已知会从微妙的语言线索中推断人口统计属性——如国籍、方言和社会经济地位——即使这些属性并未被明确提及。虽然经过指令微调的模型通常会拒绝回答显式的统计属性查询，但它们会继续基于推断出的属性进行生成，从而导致偏见输出。这种现象在代表性不足的西班牙语变体中尤为严重；例如，哥伦比亚西班牙语在识别基准测试中的得分显著低于半岛西班牙语，这种差异归因于训练数据的构成而非数字资源的容量。

尽管已有证据表明存在人口统计推断，但仍缺乏研究去检查模型在口头表达输出之前在内部表征了什么。具体而言，目前尚不清楚模型是否以与此前研究中显示的推断其他国籍（如俄罗斯）相同的方式，通过间接线索推断哥伦比亚身份，且是在任何词汇证据出现在提示词之前。本研究旨在填补线性探测研究（显示存在人口统计推断）与偏见审计研究（显示此类推断带来的危害）之间的空白，旨在使用一种无监督、无需训练的方法，定位哥伦比亚身份推断从间接线索中浮现的时机。

方法论
作者采用了自然语言自动编码器（NLA），特别是 Fraser-Taliente 等人 [2026] 发布并开源的成对模型，用于将残差流激活过程语言化。本研究使用了 Qwen2.5-7B-Instruct 模型。

数据设计： 数据集由 30 个提示词组成，排列为 15 对匹配的西班牙语-英语对。这些提示词分为三个显式程度等级（每级 $n=5$ $n = 5$ ）：
- 显式（Explicit）： 包含明确的哥伦比亚特征（正向控制）。
- 隐式（Implicit）： 仅包含一个微妙的线索（类似于先前研究中的“伏特加” $\to$ “俄罗斯”案例）。
- 中性（Neutral）： 在主题上匹配但缺乏国家特征（负向控制）。
激活提取： 作者从第 20 层（ $\ell=20$ ）提取残差流激活，该层是 NLA 训练所在的深度。对于每个提示词，其标记序列被分为四个连续的位置四分位数。选取每个四分位数的最后一个标记激活（ $q_1, q_2, q_3, q_4$ ），从而为每个提示词产生四个不同的向量。
语言化（Verbalization）： 每个激活向量通过一次 NLA 的语言化器（AV）生成一段自然语言解释（ $z_k$ ）。这产生了每个提示词四个解释。
分析： 产生的 120 个解释（30 个提示词 $\times$ 4 个四分位数）由大语言模型（Claude Sonnet）进行编码，以检测对国籍、社会经济地位和刻板印象的提及。编码过程严格要求存在明确的文本证据及逐字引用。为了区分一般的国籍臆造与特定的哥伦比亚身份，作者通过专门标记提及哥伦比亚或明确的转喻（如 Bogotá, TransMilenio）来进行区分。
统计方法： 鉴于样本量较小（每个单元格 $n=5$ ），研究报告了带有威尔逊得分区间（Wilson score intervals）的描述性率值，并使用费舍尔精确检验（Fisher's exact test）进行隐式与中性组的比较。研究避免了将“从未出现”的情况进行插补，而是将其视为具有信息量的缺失数据。

关键结果

潜在推断的浮现： 在隐式组中，国籍提及率在四分位数中呈单调上升趋势（从 Q1 的 0.10 上升到 Q4 的 0.78），支持了上下文累积假设。
哥伦比亚特定发现： 当将分析限制在哥伦比亚特定的提及（排除对西班牙、土耳其或加拿大的臆造）时，中性控制组在所有四分位数中均保持为 0.00。相比之下，隐式组从 Q2（0.10）开始出现哥伦比亚特定提及的上升，并在 Q4 达到峰值。
表征时机： 对于触发提及的提示词，其首次提及的平均四分位数在各组间具有可比性（约为 Q3），但触发提及的频率存在显著差异。显式组在 10/10 的案例中触发提及，隐式组为 8/10，中性组为 6/10。
统计显著性： 比较隐式组与中性组的费舍尔精确检验显示，仅在最后一个四分位数（Q4, $p=0.023$ ）处具有统计学显著性。作者将其解释为方向性证据，而非确证性效应，原因是样本量较小且未进行多重比较校正。
跨语言差异： 对中性提示词的定性分析显示，模型的内部表征因语言而异。西班牙语提示词往往触发关于移民脆弱性或局部背景（如 EPS, TransMilenio）的假设，而英语提示词则倾向于将背景国际化（如转向加拿大或美国的对应物）或将特定的文化参考稀释为通用的全球框架。

贡献与主张
本文对其贡献提出了以下适度的声明：

方法论应用： 演示了使用自然语言自动编码器来探测西班牙语变体中潜在国籍推断的方法，扩展了以往侧重于其他语言的研究。
非言语化推断的证据： 提供了方向性证据，表明 Qwen2.5-7B-Instruct 在通过输出表达出该身份之前，已从单个隐式词汇线索中在内部表征了哥伦比亚身份。
识别失效模式： 研究指出了一种 NLA 的特定失效模式，即它们会臆造看似合理但语境错误的国籍（例如，用西班牙代替哥伦比亚）。作者提出了一个特定的过滤机制（检查是否包含哥伦比亚特定的转喻）以减轻这一问题，从而优化未来的区域身份探测。
语言特定偏见： 提供定性证据表明，模型的内部语境化过程高度依赖语言：西班牙语会触发局部/移民偏见，而英语则触发国际化或以美国为中心的常态化处理。

意义
作者将这项工作定位为连接针对代表性不足的西班牙语变体的激活层可解释性与偏见评估的试点研究。他们并不声称证明了一个确定的、具有统计效力的效应，而是建立了一个检测潜在推断何时以及如何浮现的方法论路径。其意义在于观察到，即使在显式的人口统计查询被拒绝时，偏见依然存在于语境化的表征中，并且这些推断可以通过无监督语言化器被定位到特定的层和位置四分位数。作者总结道，下一步必要的步骤是使用更大的样本量并在多个残差流层级上重复此设计，以确定观察到的后期四分位数分离是特定深度的属性还是一个普遍现象。

实验：一场“猜猜他是谁”的游戏

发现：机器人的秘密低语

他们有多确定？

大局观

技术摘要：利用自然语言自动编码器探测 Qwen2.5-7B 中的潜在哥伦比亚身份推断

类似论文