💬 NLP

Is She Even Relevant? When BERT Ignores Explicit Gender Cues

本文揭示，一个从头训练的荷兰语 BERT 模型会形成强烈且持久的男性默认性别偏见，这种偏见会覆盖显性的上下文线索，表明其习得的表征缺乏足够的动态性，无法正确编码反刻板印象的性别信息，尽管该语言具有显性的形态性别标记。

原作者： Jonas Klein, Chiara Manna, Eva Vanmassenhove

发布于 2026-05-11

📖 1 分钟阅读☕ 轻松阅读

原作者： Jonas Klein, Chiara Manna, Eva Vanmassenhove

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是论文《她真的相关吗？当 BERT 忽略显性性别线索时》的通俗解释，辅以日常类比。

大局观：一个无法摆脱刻板印象的机器人

想象一下，你通过向机器人展示数百万本书籍来教它理解人类语言。你希望机器人足够聪明，能够明白当有人说“她是一名水管工”时，即使机器人训练书籍中看到的绝大多数水管工都是男性，它也应该知道这位水管工是女性。

这篇论文提出了一个简单的问题：机器人真的会听从“她”这个词，还是仅仅忽略它，固守旧习？

研究人员从头构建了一个著名人工智能模型（称为 BERT）的版本，但教它的不是英语，而是荷兰语。荷兰语很棘手，因为它混合了带有性别标记的词（如“他”和“她”）以及中性词——这些词过去专指男性，现在则用于所有人。

实验：“水管工”测试

为了测试机器人，研究人员设置了一个基于句子模板的游戏。他们给机器人这样的句子：

“他是护士。”（这符合刻板印象：男性很少当护士。）
“她是水管工。”（这打破了刻板印象：女性很少当水管工。）

然后他们问机器人：“根据句子中的‘水管工’或‘护士’这个词，你认为这个人是男性还是女性？”

他们通过观察机器人的“大脑”（其内部数学运算）来衡量这一点，看看该词落在性别尺度的哪一侧。

主要发现：他们的发现

1. 机器人很快学会了性别，但陷入了僵局

研究人员观察了机器人随时间的学习过程。他们发现，机器人非常快地（大约在训练的第 20 天）就掌握了区分“男性”和“女性”的方法。一旦学会，它就做得非常好了。

类比： 想象一个学生在第一天就学会了区分“猫”和“狗”。到了第 20 天，他们能瞬间认出猫或狗。但问题在于：机器人是根据它通常看到的内容来识别它们的，而不是根据此刻摆在它面前的实际内容。

2. “男性”默认值无处不在

研究人员发现，机器人对“男性”的理解就像一条宽大舒适的毯子，几乎覆盖了一切。而对“女性”的理解则像一束具体、狭窄的聚光灯。

男性： 机器人将“男性”的概念散布在其大脑的许多不同部分。它是“默认”设置。
女性： 机器人仅使用大脑中的少数特定部分来识别“女性”。

结果： 当机器人感到困惑时，它会默认回到“毯子”（男性）。即使你告诉它“她是水管工”，机器人的内部数学运算往往仍会说“水管工=男性”，因为这是它从书籍中学到的宽大舒适的默认值。

3. 机器人忽略了“她”

这是最令人惊讶的部分。机器人本应是“上下文相关”的，意味着它应根据句子改变想法。

如果句子说“她是水管工”，机器人应该认为这是“女性”。
实际发生的情况： 机器人大多忽略了“她”这个词。它看着“水管工”这个词，回忆起在其训练数据中水管工通常是男性，并坚持这个答案。

类比： 想象你在参加一个聚会。你看到一个人戴着厨师帽（刻板印象：男性厨师）。你的朋友指着说：“那是我妹妹，她是厨师！”（显性线索：女性）。

人类会说：“哦，我明白了，她是厨师。”
这个机器人会说：“不，帽子说是厨师，而厨师是男人。我无视你的朋友。”

4. 唯一有效的方法：“后缀”技巧

研究人员发现有一件事确实迫使机器人改变了想法：形态学（词的形状）。

在荷兰语中，你可以在职业头衔后添加一个特殊的后缀，使其明确为女性（例如添加"-ster"将“护士”变为“女护士”）。

如果句子是“她是verpleegster"（女护士），机器人正确地将其识别为女性。
如果句子是“她是verpleger"（中性/男护士），机器人忽略了“她”，并假设护士是男性。

类比： 机器人就像一个只听从某人穿着的制服，而不看他们手持的姓名牌的人。如果制服上写着“男护士”，机器人就会相信，即使姓名牌上写着“她”。但如果制服上有一个特殊的“女性”徽章（后缀），那么机器人终于开始关注了。

结论：为何这很重要

该论文得出结论，这种人工智能模型并不像我们希望的那么“聪明”或“灵活”。我们假设因为它审视了整个句子，所以它能够覆盖刻板印象。但这项研究表明，机器人的内部习惯比即时的上下文更强大。

“男性”默认值如此强大，以至于即使像“她”这样显性的词也不总能打破它。
机器人依赖表面线索（如词尾），而不是深层理解（如句子在谈论谁）。

简而言之： 机器人如此完美地习得了世界的统计数据（水管工通常是男性），以至于它不再倾听句子中讲述的具体故事（这位特定的水管工是女性）。这是一个懂得游戏规则，但当规则在它面前改变时却无法配合的机器人。

技术摘要：“她甚至相关吗？当 BERT 忽略显性性别线索时”

问题陈述
尽管大型语言模型（LLMs）中的性别偏见在英语中已得到广泛研究，但在具有语法或形态性别的语言中，相关研究仍相对不足。这一差距至关重要，因为语法结构可能会掩盖或扭曲对社会刻板印象的测量。本文聚焦于荷兰语，该语言处于完全性别化系统（如德语）和 largely 无性别系统（如英语）之间的中间位置。荷兰语表现出“中性化”（历史上为男性、形态上无标记的形式作为通用术语）与“女性化”（通过后缀派生显性女性形式）之间的张力。作者调查了从头训练的荷兰语 BERT 模型如何编码性别信息，以及显性上下文线索（例如代词 zij，意为“她”）能否在模型内部表示中覆盖已学习的统计关联（例如 plumber $\rightarrow$ 男性）。

方法论
本研究采用在 SoNaR-500 语料库（书籍子集，约 2600 万词）上从头训练的荷兰语 BERT 模型的检查点级别分析。该方法将静态子空间投影技术与受控句子模板相结合，以追踪训练过程中偏见的演变。

模型训练：从头训练一个 BERT 模型 100 个 epoch。保存中间检查点以追踪性别表示随时间的出现。
性别子空间构建：在每个检查点，基于 60 对无歧义性别词（例如 man 与 vrouw）的上下文嵌入训练一个线性支持向量机（SVM），以推导动态性别轴。作者避免使用歧义代词（如 zij，可意为“她”或“他们”），以确保子空间反映清晰的性别区分。
偏见评估：作者将受控句子模板中的职业术语嵌入投影到学习到的性别子空间上。模板结构为 [TARGET] is een [ATTRIBUTE]（例如，“她是一名水管工”）。
- 变量：研究系统地改变目标性别（男性/女性）、属性的形态标记（中性/无标记 vs. 女性后缀）以及刻板印象的一致性（基于劳动力统计数据的亲刻板印象 vs. 反刻板印象）。
- 指标：通过检查投影后的职业嵌入是否与句子上下文指定的性别（目标）一致，而非模型默认的统计关联，来测量准确率。

主要结果
分析得出了关于性别表示形成和行为的四个主要发现：

线性可分性的出现：性别信息在嵌入空间中大约在 epoch 20 时变得清晰线性可分。虽然准确率稳步上升，但在略高于 0.92 时趋于平稳，表明性别是训练过程早期学习到的表示中的一个稳定特征。
性别信息的分布：与存在单一“性别单元”的观点相反，性别信息分布在多个嵌入维度上。然而，这种分布是不对称的：
- 男性表示 弥散地编码在许多维度上，充当稳健的、无标记的默认值。
- 女性表示 集中在较小、更具体的维度子集中。
上下文覆盖的失败：显性上下文线索往往无法覆盖已学习先验。在反刻板印象语境中（例如，“她是一名水管工”），该职业的内部表示与刻板印象的男性性别保持一致的频率，显著高于与上下文女性线索保持一致的频率。刻板印象配对的预测准确率为 82.5%，而反刻板印象配对则降至 43.7%。
形态标记的主导地位：模型严重依赖表面形态线索，而非整合上下文信息。当职业具有显性女性后缀（例如 verpleegster）时，表示与女性子空间高度一致（在反刻板印象语境中准确率为 83%）。然而，当属性在形态上是中性的（例如 verpleger）时，即使主语明确为女性，模型仍默认采用男性解释。

主要贡献

检查点级别分析：这项工作提供了对基于 Transformer 架构中性别信息如何出现的受控、检查点级别调查的最早研究之一，将先前关于循环模型（LSTM）的工作扩展到现代 BERT 模型。
上下文子空间投影：作者将基于投影的子空间分析适应于上下文环境，将其与受控句子模板相结合，直接测量显性性别线索与学习到的性别内涵之间的相互作用。
形态性别的见解：通过使用荷兰语，该研究证明，即使有强烈、显性的女性线索（代词），当职业术语在形态上无标记时，也可能被刻板印象的默认值所覆盖。这突显了在语法性别与社会刻板印象复杂交互的语言中，偏见所面临的具体挑战。
机制基线：研究结果建立了一个基线，用于理解结构性性别偏见如何形成和稳定，表明这些模型中的“上下文化”在性别方向上不够动态，无法在反刻板印象场景中可靠地反映显性线索。

意义与主张
该论文声称，其结果挑战了上下文嵌入能够稳健地整合局部线索以调整词表示的假设。相反，作者认为，对于荷兰语 BERT 模型，上下文线索经常被内部先验和形态标记所掩盖。“男性默认”行为之所以持续存在，是因为无标记的、历史上为男性的形式在训练数据中充当通用术语，从而为男性编码的表示创造了结构性优势。

作者得出结论，虽然模型学会了区分性别，但其方式强化了现有的不对称性：男性是弥散的默认值，而女性是一个有标记的、集中的信号，需要显性的形态后缀才能被可靠地编码。因此，依赖这些表示的应用（如翻译或指代消解）可能会复制性别刻板印象，即使输入明确与之矛盾。该论文谦逊地指出，这些结论仅限于探针所捕获的表示层面，并未直接测量下游任务的性能，但它们为多语言自然语言处理中偏见形成机制提供了关键见解。