🤖 AI

Efficient bias mitigation in T2I diffusion models using Concept Graphs

该论文介绍了一种名为 CO-ALIGN 的新型文本生成图像扩散模型偏见缓解框架，该框架利用内部本体论中的概念图对齐，在显著减少有害偏见和语义不连贯性的同时，保持了图像质量并增强了概念遗忘的鲁棒性。

原作者： Mansi, Avinash Kori, Francesco Leofante

发布于 2026-07-07

📖 1 分钟阅读☕ 轻松阅读

原作者： Mansi, Avinash Kori, Francesco Leofante

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你拥有一位非常有才华的艺术家，只要你描述，他就能画出任何东西。如果你说“护士”，他通常会画出一个女性；如果你说“医生”，他几乎总是画出一个男性。这并不是因为艺术家很坏，而是因为他们从大量的旧图片和故事中学习到了这些角色大多由特定性别担任。这就是我们所说的偏见（Bias）。

这篇论文介绍了一种名为 CO-ALIGN（概念本体对齐）的新方法，旨在解决这个问题，同时又不破坏艺术家画出好画的能力。

以下是它的工作原理，使用简单的类比：

问题所在：两位艺术家，一个错位

目前修复偏见的方法就像试图通过只调整一个齿轮来修理一台损坏的机器。

文本编码器（翻译官）： 这部分负责倾听你的话语，并将它们转化为一份“食谱”。如果你说“护士”，翻译官目前会认为：“哦，这意味着‘女性护士’。”
去噪器（画家）： 这部分负责根据食谱实际画出图像。它已经学会了预期当你说“护士”时，翻译官总是会提供“女性护士”的指令。

旧方法的错误：

如果你只修复翻译官，让它认为“护士”是性别中立的，画家就会感到困惑。它接收到了一份它无法理解的食谱，结果导致画面模糊、毫无意义。
如果你只修复画家，让它忽略性别，翻译官仍然会发送带有偏见的指令。画家试图遵循新规则，却会被旧指令拉回去，因此偏见依然存在。

解决方案：CO-ALIGN（团队集会）

CO-ALIGN 意识到，翻译官和画家是一个团队。你不能在不与对方沟通的情况下只修复其中一个。

映射关系（概念图）：
想象艺术家的脑海里有一个巨大的便利贴网络。一张贴着“护士”，另一张写着“男护士”，还有一张写着“女护士”。在有偏见的模型中，“护士”这张贴纸被紧紧地粘在“女护士”上，而与“男护士”的连接则很松散。
CO-ALIGN 绘制出了翻译官和画家各自的整个网络图。
对齐团队：
CO-ALIGN 并不是直接撕掉墙上的贴纸，而是温柔地移动“护士”这张贴纸，使其与“男护士”和“女护士”之间的距离相等。

它首先对翻译官进行操作。
然后，它立即更新画家的网络，以匹配新的排列方式。

结果：
现在，当你提到“护士”时，翻译官会发送一份平衡的食谱，而画家能完美地理解它。最终呈现的是一张清晰、高质量的护士照片，可以是男性也可以是女性，且图像看起来不会模糊或破碎。

神奇的副作用：“邻里”拉力

研究人员发现了一个酷炫的副作用。想象你有一群朋友站在一个圆圈里。如果你把其中一个朋友（“护士”概念）向中心拉，他们最亲近的朋友（相关的概念，如“男护士”）也会被顺带拉过去，即使你并没有直接触碰他们。

作者利用这一点来解决另一个问题：遗忘（Unlearning）。
有时，你希望艺术家忘记如何画某些有害的内容（比如裸体）。如果你只是告诉艺术家忘记“裸体”，一个聪明的骗子可能会要求画“Nymphette”或“Creampie”（在艺术家的脑海中是“裸体”的邻居词汇）来达到同样的效果。

CO-ALIGN 利用“邻里拉力”，在告诉艺术家忘记之前，先将这些“骗子词汇”（“Nymphette”等）直接拖到“裸体”旁边。现在，当艺术家忘记“裸体”时，他们也会自动忘记那些“骗子词汇”，这使得系统在应对绕过手段时更加安全。

他们证明了什么？

团队在流行的 AI 模型（Stable Diffusion）上进行了测试，并发现：

公平性： 与之前的最佳方法相比，它减少了 30% 的偏见。
质量： 图片保持了锐利和逼真（提升了图像质量评分）。
连贯性： 它解决了“模糊混乱”的问题。它减少了 88% 的无意义图像。
安全性： 它使模型更难被诱导绘制有害内容，甚至无需更改现有的安全工具。

简而言之，CO-ALIGN 通过确保理解文字的“大脑”和绘画的“大脑”步调一致、和谐协作，从而解决了偏见问题。

技术摘要：CO-ALIGN —— 利用概念图实现 T2I 扩散模型的高效偏差缓解

1. 问题陈述

文本生成图像（T2I）扩散模型系统性地复制并放大了从其训练语料库（如 LAION-5B）中继承的人口统计学偏差（性别、种族、年龄）。这些偏差不仅是表层的伪影，更是模型学习到的概念关联中的结构性属性，即有偏概念与刻板印象属性共享不成比例的神经基质。

现有的偏差缓解技术通常仅在生成管线的单一层面进行干预：

仅针对文本编码器（Text Encoder Only）： 这些方法微调嵌入向量或引导推理时的信号以消除偏差方向。然而，这并未改变去噪器（Denoiser）内部的概念组织。因此，去噪器接收到的条件信号处于分布外（OOD），导致其无法连贯地解释，从而产生语义不连贯的输出。
仅针对去噪器（Denoiser Only）： 这些方法编辑交叉注意力权重或潜空间以重定向提示词。然而，文本编码器仍会将欠指定的提示词（例如“一名护士”）路由向带有偏差属性的嵌入，从而部分抵消了去噪器端的修正效果。

识别出的核心问题是，将文本编码器和去噪器视为独立的修正目标是次优的。仅修正其中之一而不顾及另一方，会破坏它们的几何对齐，导致出现一种权衡：即提高公平性会导致语义连贯性的剧烈下降。

2. 方法论：CO-ALIGN

作者提出了 CO-ALIGN（概念本体对齐），这是一个通过将文本编码器和去噪器的内部概念本体向目标拓扑进行对齐来缓解偏差的框架。其核心假设是，偏差存在于概念之间的关系中，而非单个表示中，且有效的去偏差需要组件之间实现联合的几何和谐。

A. 概念图提取

CO-ALIGN 为这两个组件构建加权概念图（ $G$ ），其中节点代表概念，边代表共享的神经基质强度。

文本编码器图 ( $G_{TE}$ )： 由概念词汇表 $C$ 的 $L_2$ 归一化均值池化最后隐藏层状态嵌入的成对余弦相似度定义。
去噪器图 ( $G_U$ )： 使用“概念神经元指纹”定义。作者识别了交叉注意力投影矩阵（ $W^K, W^Q, W^V$ ）中对于特定概念至关重要的稀疏参数子集（概念神经元）。图的边通过跨层和跨头的这些神经元的掩码梯度剖面（指纹）的平均余弦相似度来计算。

B. 对齐目标

该框架将当前的概念图（ $A$ ）向编码了期望拓扑（例如，“护士”与“男护士”及“女护士”的距离相等）的目标邻接矩阵（ $A_{GT}$ ）进行对齐。

可微排序损失 ( $L_{rank}$ )： 在受监督的概念子集（目标概念）上逐行运行。它使用源自可微 Sigmoid 成对比较的软秩，将当前的相似度排序与源自 $A_{GT}$ 的硬秩目标进行对齐。
静态锚点损失 ( $L_{anchor}$ )： 通过惩罚与其预对齐表示的偏差，防止“锚点”概念（例如特定的属性变体）发生漂移。
保持损失 ( $L_{pres}$ )： 一种针对参考对的标准噪声预测损失，确保模型不会在编辑范围之外的概念上遭受灾难性遗忘。

总目标为 $L = \delta \cdot L_{rank} + \gamma \cdot L_{pres} + L_{anchor}$ 。对齐按顺序执行：首先在文本编码器上，然后是在去噪器上（根据更新后的几何结构进行重新校准）。

C. 涌现属性：邻域传播

一个关键发现是，对齐一个受监督的概念会将其语义邻域拉向目标拓扑，而无需直接监督。这种“标签传播”效应类似于基于图的半监督学习，它允许该方法处理对抗性绕过概念（即在语义上与目标相邻但能规避擦除的概念），方法是将这些概念带入目标擦除的局部半径内。

3. 核心贡献

诊断单组件失效： 本文证明了单组件去偏差技术（仅编码器或仅去噪器）不可避免地会在公平性与生成连贯性之间进行权衡，要么留下残余偏差，要么产生不连贯的输出。
CO-ALIGN 框架： 一种新颖的方法，通过提取并联合对齐来自文本编码器和去噪器的概念图，从而保持它们之间的几何和谐。
卓越性能： CO-ALIGN 通过在保持高图像质量和语义连贯性的同时实现显著的偏差降低，超越了现有最先进的方法。
鲁棒的擦除应用： 本文利用邻域传播效应，显著提高了事后概念擦除技术的对抗鲁棒性，使其在不修改擦除程序的情况下，依然能有效应对绕过提示词。

4. 实验结果

实验在 Stable Diffusion v1.5 上针对四种职业（护士、医生、消防员、接待员）和三个人口统计维度（性别、种族、年龄）进行。

公平性： CO-ALIGN 实现了最低的公平性差异（FD）得分，在性别公平性方面实现了 30% 的提升，在种族公平性方面比次优基准提升了 75.4%。
图像质量： 与基准模型相比，该方法将图像保真度（CLIP-I）提高了 2.8%，并将 Fréchet Inception Distance（FID）降低了 11.4，表现优于所有基准模型。
连贯性： 至关重要的是，CO-ALIGN 比基准模型减少了 88% 的语义不连贯输出。相比之下，单组件方法在公平性提高时，不连贯性会剧烈增加。
擦除鲁棒性： 当作为擦除（针对“裸露”）的预对齐步骤时，CO-ALIGN 显著降低了对抗性绕过提示词的成功率。例如，在基准模型中，“Creampie”提示词在 88–100% 的情况下会生成裸露内容，而在经过 CO-ALIGN 预对齐后，这一比例降至 0–32%。

5. 重要性与主张

本文声称，CO-ALIGN 代表了一种转变，即不再将偏差视为单个参数的属性，而是将其视为模型内部概念拓扑的一种不对称性。通过强制执行联合对齐，该方法实现了单组件方法无法达到的公平性与生成质量之间的帕累托最优平衡。

除了直接的偏差缓解外，作者还强调了邻域传播效应是一个重要的涌现属性。这使得该框架能够增强现有安全机制（如概念擦除）的鲁棒性，使其免受对抗性攻击，这表明对模型本体进行结构化对齐是负责任 AI 部署的强大工具。

作者对局限性保持了谦逊的态度，指出去噪器图提取的计算量较大，且目前仅在 Stable Diffusion v1.5 上进行了验证，需要适配像 DiT 或 SDXL 这样的基于 Transformer 的架构。他们也承认，虽然 CO-ALIGN 减少了偏差，但无法完全消除网络抓取训练数据中固有的结构性偏差。