💬 NLP

AIWizards at MULTIPRIDE: A Hierarchical Approach to Slur Reclamation Detection

本文针对多语言仇恨言论检测中 slur 词汇的“去污名化”（reclamation）难题，提出了一种基于用户身份推断的两阶段分层建模方法，通过弱监督学习构建 LGBTQ+ 社区成员身份表征并将其与仇恨言论检测模型融合，在意大利语和西班牙语数据上实现了与强基线相当的性能，同时为引入社会语言学语境提供了可扩展的框架。

原作者： Luca Tedeschini, Matteo Fasulo

发布于 2026-02-16

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Luca Tedeschini, Matteo Fasulo

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇文章介绍了一种名为"AIWizards"的新技术，旨在解决社交媒体上一种非常棘手的语言难题：如何区分“脏话”和“ reclaimed（ reclaimed，即被群体重新夺回并赋予正面意义的）词汇”。

为了让你轻松理解，我们可以把这项技术想象成**“侦探破案”的过程，而我们的主角是两位“超级侦探”**。

1. 核心难题：同一个词，两种截然不同的意思

想象一下，在某个社区里，人们用"X"这个词来互相开玩笑、表示亲密（就像好朋友之间互称“傻瓜”其实是表达喜爱）。但在社区外的人看来，"X"是一个极具攻击性的脏话。

传统 AI 的困境：以前的 AI 就像是一个只读文字的书呆子。它看到"X"这个词，就立刻报警说：“这是脏话！这是仇恨言论！”因为它不懂语境，也不懂是谁在说话。
现实情况：如果说话的人是社区内部成员，他可能是在表达团结；如果是外人，那可能就是在骂人。

2. 我们的解决方案：组建“双人侦探小队”

这篇论文提出了一种**“分层级”（Hierarchical）的方法，不再让 AI 只盯着文字看，而是引入了“用户画像”**（User Profile）作为线索。

他们设计了一个由两位侦探组成的团队，专门负责判断一句话到底是“骂人”还是“自嘲/团结”：

🕵️‍♂️ 侦探 A：文字专家（Text Encoder）

任务：专门分析这句话本身。
能力：它非常擅长识别语法、词汇和字面意思。它知道"X"这个词通常很刺耳。
局限：它有点“死脑筋”，只看字面，容易误判。

🕵️‍♀️ 侦探 B：背景调查员（User Encoder）

任务：专门分析说话的人是谁。
能力：它会去读这个人的个人简介（Bio）、之前的发言风格，甚至用大模型（LLM）去“猜”这个人是否属于那个特定的社区（比如 LGBTQ+ 群体）。
- 比喻：就像侦探 B 在查案前，先看了看嫌疑人的朋友圈。如果嫌疑人是个热心肠的社区成员，还在简介里写了“我是其中一员”，那么他口中的"X"很可能不是骂人。
关键点：这个侦探 B 是通过一种“弱监督”的方式训练的。也就是说，AI 并没有真的去偷看用户的隐私，而是通过算法推测用户的身份倾向，以此作为辅助线索。

🤝 合作机制：智能“调音台”（Gating Mechanism）

这两位侦探不会各自为战，他们面前有一个**“智能调音台”**。

当侦探 A（文字）说“这词很脏”时，调音台会问侦探 B（背景）：“这个人是谁？”
如果侦探 B 说：“这人是我们社区的老成员，他在开玩笑。”
调音台就会把侦探 A 的警报声调小，把侦探 B 的“安全信号”调大，最终判定：这不是仇恨言论，这是 reclaimed（被重新夺回的）用法。

3. 实验结果：虽然没有“秒杀”对手，但证明了新路子可行

研究人员用意大利语和西班牙语的数据测试了这个系统。

结果：这个“双人侦探小队”的表现和目前最强的“单一大侦探”（传统的 BERT 模型）差不多，没有显著地提高准确率。
为什么没赢？ 因为传统的“单一大侦探”已经非常聪明了，而且数据本身很难（比如有些骂人话伪装得很像玩笑）。
但是，这很重要吗？ 非常重要！
- 这就好比在赛车比赛中，虽然新设计的赛车没有比旧赛车快多少，但它证明了**“加装一个副驾驶（用户背景分析）”是可行的，而且不会让车翻车**。
- 这为未来打开了大门：以后我们可以给这个系统加装更多“传感器”，比如分析社交网络关系、图片内容等，让 AI 变得更懂人情世故。

4. 遇到的挑战：AI 也会“想太多”

在分析错误案例时，作者发现 AI 偶尔会犯傻：

例子：有人用非常恶毒的语言骂人，但因为用了某个特定的词，AI 的“背景侦探”觉得：“哦，这个词通常是我们人用的，所以这肯定是内部玩笑。”
教训：AI 有时候太依赖“背景线索”，反而忽略了眼前明显的“恶意”。未来的研究需要让 AI 学会在“看人”和“看事”之间找到更好的平衡，不能因为觉得“这人像是好人”就盲目相信他说的每一句脏话。

总结

这篇论文的核心思想是：要听懂网络上的“黑话”和“ reclaimed 词汇”，不能光看字面，还得看是谁在说。

作者提出了一种**“文字 + 背景”的双层架构，虽然目前还没能彻底打败现有的最强模型，但它成功证明了一种模块化、可扩展的新思路：把“理解文字”和“理解用户”分开训练，再结合起来。这就像给 AI 装上了一双“透视眼”，让它不仅能看见说什么，还能隐约看见谁在说**，从而更准确地判断这句话是“恶毒的刀”还是“友爱的拥抱”。

这是一份关于论文《AIWizards at MULTIPRIDE: A Hierarchical Approach to Slur Reclamation Detection》（AIWizards 团队在 MULTIPRIDE 任务中的表现：一种针对污名词 reclaimed 检测的层次化方法）的详细技术总结。

1. 研究问题 (Problem)

在仇恨言论检测系统中，污名词（Slurs）的 reclaimed（ reclaimed/收回/再占有）现象是一个核心挑战。

歧义性：同一个词汇（特别是 LGBTQ+ 相关的污名词）根据语境、说话者的社会身份和群体归属，既可以作为攻击性的侮辱语，也可以作为群体内部的肯定语或团结语。
现有局限：传统的基于纯文本的分类模型难以捕捉这种依赖“超语言（extra-linguistic）”语境的意图。仅靠词汇表面内容无法判断说话者是“内部成员”（reclaiming）还是“外部攻击者”（offensive）。
任务背景：EVALITA 2026 的 MultiPRIDE 共享任务（Subtask B）提供了推文及其对应的用户简介（User Bio），旨在利用作者层面的上下文信息来区分污名词是用于“收回”还是“非收回（侮辱）”。

2. 方法论 (Methodology)

作者提出了一种**层次化建模（Hierarchical Modeling）**的双编码器架构，核心假设是：LGBTQ+ 社区成员更倾向于以 reclaiming（收回/再占有）的方式使用特定的污名词。

该方法分为两个主要阶段：

A. 辅助任务：基于 LLM 的弱监督用户画像

代理标签（Proxy Labels）：由于缺乏真实的用户身份标签，作者使用指令微调的大语言模型（DeepSeek-V3.2）对“推文 + 用户简介”的拼接文本进行弱监督标注。
标签定义：生成一个二值标签，表示文本证据是否暗示用户属于 LGBTQ+ 群体或表现出群体团结（Affiliation），而非验证真实的个人身份属性。
目的：训练一个用户编码器（User Encoder），使其学习捕捉与 LGBTQ+ 身份认同相关的潜在社会语言学信号。

B. 双编码器架构 (Dual-Encoder Architecture)

模型由两个并行的 BERT 类编码器组成，输入均为“推文 + 用户简介”的拼接：

文本编码器 (Text Encoder)：直接在主任务（污名词收回检测）上进行微调，专注于学习仇恨言论和语言模式。
用户编码器 (User Encoder)：在上述辅助任务（LGBTQ+ 归属预测）上进行微调，专注于学习用户层面的社会语言学语境。
- 注：两个编码器均接受完整输入（推文 + 简介），以确保用户编码器能利用完整的上下文线索（如风格、句法）。

C. 门控融合机制 (Gated Fusion)

两个编码器的最终隐藏状态（ $h_{text}$ 和 $h_{user}$ ）通过一个可学习的门控机制进行融合：

计算门控向量 $g$ ： $g = \sigma(W_2 \cdot \tanh(W_1 \cdot [h_{text} :: h_{user}]))$
融合表示： $h_{fused} = g \odot h_{text} + (1 - g) \odot h_{user}$
作用：模型可以根据每个样本动态地平衡“文本内容”和“用户语境”的权重，从而生成更丰富的表示用于最终的分类。

D. 训练策略

两阶段训练：先分别预训练两个编码器，然后进行联合微调（Joint Fine-tuning）。
线性探测微调 (LPFT)：先冻结编码器训练融合层和分类层，再降低学习率对整个架构进行联合微调。
损失函数：最终使用交叉熵损失（Cross Entropy），尽管尝试了 Focal Loss 以应对类别不平衡。

3. 关键贡献 (Key Contributions)

层次化建模框架：提出了一种将“用户身份推断”与“文本分类”解耦再融合的模块化架构，显式地将社会语言学语境（用户简介）引入仇恨言论检测。
弱监督身份信号利用：创新性地利用 LLM 生成的弱监督代理标签来训练用户编码器，避免了直接收集敏感身份数据的伦理风险，同时让模型学会了捕捉与群体归属相关的潜在特征。
模块化与可扩展性：该框架不依赖特定的基线模型，且易于扩展。未来可以替换融合机制、优化辅助任务，或集成多模态数据（如图片）和社会网络信息。
实证分析：在意大利语和西班牙语数据集上进行了详细实验，证明了该架构在保持性能的同时，成功整合了用户级上下文。

4. 实验结果 (Results)

数据集：EVALITA 2026 MultiPRIDE 任务数据（意大利语和西班牙语），存在显著的类别不平衡（非收回用法约占 80%）。
性能表现：
- 开发集：双编码器模型在意大利语和西班牙语上的表现与强基线（BERT-based）在统计上无显著差异（p > 0.05）。
  - 意大利语：F1 约 0.88-0.90（基线 0.90）。
  - 西班牙语：F1 约 0.64-0.67（基线 0.67）。
- 测试集：双编码器模型保持了与基线相当的性能（意大利语 F1 0.85，西班牙语 F1 0.70）。
语言差异分析：意大利语基线表现优于西班牙语，主要归因于意大利语基线使用了针对仇恨言论预训练的 SetFit 模型，而西班牙语使用的是通用多语言模型。
错误分析：模型偶尔会将明显的侮辱性推文误判为“收回”用法。这可能是因为某些污名词在训练数据中缺乏足够的非收回语境样本，或者用户编码器的信号在某些情况下过度主导了门控机制。

5. 意义与结论 (Significance & Conclusion)

核心结论：虽然该层次化方法在聚合指标上未显著超越强基线，但它验证了将用户级社会语言学语境融入仇恨言论建模的可行性。它证明了在不牺牲分类精度的前提下，可以通过模块化架构引入更细粒度的身份和语境信息。
学术价值：
- 强调了在检测 reclaimed 语言时，**用户身份（User Identity）与话语语境（Discourse Context）**结合的重要性。
- 提供了一个灵活的框架，未来可以通过引入更多样的上下文信号（如多模态、社交网络结构）来进一步提升检测细粒度。
伦理考量：研究明确区分了“基于文本推断的语境信号”与“真实的个人身份验证”，仅将用户画像作为弱监督信号用于表征学习，而非作为最终的身份预测目标，以此规避隐私和刻板印象风险。

总结：这项工作并未追求单纯的 SOTA 分数提升，而是提出了一种方法论上的创新，即通过双编码器架构显式地建模“谁在说话”以及“在什么语境下说话”，为处理高度依赖语境的仇恨言论检测（特别是污名词收回现象）提供了新的技术路径。