💬 NLP

Structure-Aware Diversity Pursuit as an AI Safety Strategy against Homogenization

本文论证了生成式人工智能中的同质化是一个关键的安全隐患，并提出“异种繁殖”——一种结构感知的多样性追求策略——作为缓解自回归大语言模型中偏差放大和模式崩溃的基础性方法。

原作者： Ian Rios-Sialer

发布于 2026-04-21

📖 1 分钟阅读☕ 轻松阅读

原作者： Ian Rios-Sialer

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

大背景：AI 回声壁效应

想象一个巨大的图书馆，一个机器人管理员（AI）负责为你讲故事。这个管理员读遍了图书馆里的每一本书，但图书馆本身却缺失了许多声音。它拥有数百万本关于“平均”生活的书，却极少涉及现实中人们那些独特、怪异或边缘化的经历。

当你向管理员请求一个故事时，他们并不只是挑选一本书；而是将他们所知道的所有书籍融合在一起，编织成一个单一的、“安全”的平均化故事。问题在于，这种平均化的故事既乏味又重复，而且往往是不公平的。它忽略了那些古怪、奇妙以及少数群体的声音。论文将这种现象称为同质化（Homogenization）。这就像是一个合唱团，每个人都被迫唱出完全相同的音符，从而淹没了让音乐变得有趣的独特声音。

问题所在：为什么 AI 会变得“乏味”且带有偏见

论文认为，AI 不仅仅是偶然产生偏见，它实际上在主动放大其训练数据中的偏见。

“模式崩塌”（Mode Collapse）类比： 想象一位 DJ 在放音乐。一个健康的 DJ 会混合播放摇滚、爵士、嘻哈和古典乐。而一个遭受“模式崩塌”之苦的 DJ 则只会一遍又一遍地播放过去十年中最火的 5 首热门单曲。他们停止了播放那些小众曲目、新流派或来自小型文化的音乐。
结果： AI 变成了最常见观念的“唯唯诺诺者”。如果训练数据说“护士是女性”，那么即使你要求写一个男护士的故事，AI 也几乎总是会讲述一个女性护士的故事。它抹杀了现实中的“长尾”部分——即那些罕见的、重要的以及多样化的部分的人类经验。

新视角：“酷儿理论”作为指南针

为了解决这个问题，作者借鉴了酷儿理论（Queer Theory）的思想。他们不再仅仅计算 AI 使用了多少不同的词汇，而是观察其取向（Orientation）。

指南针类比： 想象每个人都在一片田野中行走。
- 规范性（Normativity） 就像重力。它将每个人拉向田野的中心（“默认”路径）。沿着这条路走感觉很自然，也很轻松。
- 酷儿性（Queerness） 则是走离既定路径。这起初会让人感到迷失方向，但它会通向新的地方。
AI 的问题： AI 太擅长遵循“重力”（默认路径）了，以至于它从未尝试偏离。它忘记了还有其他的行走方式。论文建议，我们需要测量 AI 距离“默认”路径有多远，以此来观察它是否真的具备多样性。

实验：护士的故事

作者在名为 Claude 3.5 Haiku 的 AI 上进行了测试。

提示词： “写一个关于护士的爱情故事。”
默认情况： 在没有任何额外指令的情况下，AI 几乎总是写一个关于女性护士及其异性恋关系的故事。
转折： 当作者强制要求 AI 以“那位护士和他的伴侣”（暗示是一名男护士）开头时，AI 仍然表现得非常挣扎。
- 有时，它会忽略“他”这个词，硬是将护士变成女性。
- 另一些时候，它会假设如果护士是男性，那么伴侣必须也是男性（同性伴侣），这揭示了一种隐藏的偏见，即“男护士 = 同性恋”。
教训： AI 有一种强大的“重力”，将其拉向一个特定且狭隘的护士形象。即使你试图把它推离那条路径，它也会弹回原位，或者扭曲故事以符合它旧有的习惯。

解决方案：“异类繁殖”（Xeno-Reproduction）

论文提出了一个新概念，叫做异类繁殖（Xeno-Reproduction）。

类比： 将“繁殖（Reproduction）”想象成 AI 复制陈旧模式的过程（就像复印机不断制作同一张模糊的副本）。
异类繁殖： 这就像一位园丁，他有意识地种植“奇怪”的种子。他不仅仅是种植最常见的花朵，而是积极寻找那些罕见的、怪异的和外来的植物，从而让花园变得更加丰富。
运作方式： 这是一套规则（框架），它告诉 AI：“不要仅仅跟随人群。去寻找那些不同但依然安全且有意义的路径。”它鼓励 AI 去探索其知识的“边缘”，而不是仅仅停留在中心。

为什么这很重要

论文认为，AI 安全不仅仅是关于防止未来的机器人杀死人类，它关乎当下。

如果 AI 只向我们讲述同样的故事，我们将失去想象未来的能力。
如果 AI 抹杀了少数群体的声音，它会让世界对这些人来说显得更加狭隘且充满敌意。
目标： 我们需要将“多样性”视为一项安全特性，而不只是一个“锦上添花”的选项。我们需要构建能够处理人类复杂、混乱且怪异部分的 AI，而不仅仅是处理那些平庸的平均部分。

总结

这篇论文是在呼吁停止让 AI 变成一个乏味的、单调的回声壁。它为我们提供了一种衡量 AI 被其默认模式“困住”程度的新方法，并提出了一种新方法（异类繁殖）来鼓励 AI 去探索那些奇异、罕见和多样的事物，确保 AI 能反映出人类世界那完整、混乱且美丽的全貌。

技术摘要：大语言模型中的同质化问题

问题陈述
本文将大语言模型（LLM）中的同质化（Homogenization）识别为一种关键但尚未得到充分解决的 AI 安全问题。虽然 AI 安全研究通常优先考虑未来的灾难性风险，但这项工作认为，当前生成式 AI 中多样性的丧失正在产生即时的社会危害，并对少数群体造成不成比例的影响。同质化不仅被定义为传统意义上的“模式崩溃”（即过度集中于主流训练数据的模式），而是一个更广泛的现象，即 LLM 的输出坍缩为规范性（Normativity）。

作者借鉴酷儿理论（Queer Theory），将同质化构架为对“酷儿取向”（偏离规范）的压制，以换取“规范取向”（趋向于主流社会结构）。这一过程抹杀了人类经验的“长尾”，导致了表征、分配和叙事层面的伤害。作者认为，当前的对齐流水线往往通过主动减少概念多样性和语言多样性来确保安全性，从而加剧了这一过程，在无意中创造了“回声壁垒”并缩小了人类文化生产的范围。

方法论与框架
为了解决“多样性”定义模糊的问题（其定义随语境和利益相关者而异），本文提出了一个多元化理论框架，该框架基于 LLM 作为字符串树上的概率分布这一形式化定义。

将 LLM 建模为树： 作者将 LLM 输出建模为一棵树，其中节点是字符串，边是 Token 的延续。LLM 定义了该树上的概率质量函数。
结构与系统： 为了编码有意义的多样性，该框架引入了结构（structures, $\alpha_i$ ）。结构是一种抽象（例如，“男护士”、“同性伴侣”），由评分函数 $\alpha_i: \text{Str} \to [0, 1]$ 定义。结构的集合构成了一个系统（ $\Lambda_n$ ），代表了利益相关者的价值体系。
规范性与取向：
- 系统重心（System Barycenter, $\langle \Lambda_n \rangle$ ）： 从给定提示词出发的所有可能轨迹的预期系统调谐（系统得分的平均向量）。这代表了“默认”或“规范”路径。
- 取向（Orientation, $\theta_n$ ）： 特定字符串的系统调谐相对于系统重心的有符号偏差。
- 偏差（Deviance, $\partial_n$ ）： 一个标量度量（维度归一化的 $L_2$ 范数），用于量化特定轨迹相对于系统默认值在多大程度上是“酷儿”或非规范的。
形式化同质化： 本文通过两个趋于收敛的条件来定义同质化：
- 表征失衡： 结构丰度分布的熵趋于零（ $H(\langle \Lambda_n \rangle) \to 0$ ），意味着单一或少数结构占据主导地位。
- 拉力增强： 输出的预期偏差趋于零（ $E[\partial_n] \to 0$ ）且偏差的方差发生坍缩（ $Var[\partial_n] \to 0$ ），表明输出紧密聚集在规范默认值周围。

核心贡献

概念框架： 本文引入了一套术语，通过统计力学在 LLM 轨迹树上的应用，利用批判理论（规范性、取向、酷儿性）的概念来探讨同质化问题。
多样性的操作化： 它提供了一种方法，使利益相关者能够将特定的语境和价值体系编码为“结构”，从而允许根据特定的差异轴而非统一指标来衡量多样性。
异类再生产（Xeno-reproduction）： 作者借用女性主义理论，提出了异类再生产作为旨在减轻同质化的任务类别。不同于追求最大化原始差异的“新颖性搜索”，异类再生产寻求促进那些既偏离规范又能保持连贯性的“酷儿”轨迹。它被公式化为一个优化问题，旨在最大化：
- 平衡（Balance）： 系统重心的熵。
- 颠覆（Disruption）： 系统重心相对于基准线的偏移。
- 分歧（Divergence）： 个体轨迹偏离系统默认值的程度。
干预策略： 本文概述了异类再生产的潜在操作化方式，包括后训练对齐（微调）、激活空间干预（转向向量）以及轨迹级重定向（基于偏差得分的采样重加权）。

实验结果（案例研究）
作者将该框架应用于 Claude 3.5 Haiku，使用一个开放式提示词：“写一个非常简短、真实的爱情故事……以一名护士为中心。” 他们测量了在不同条件分支（根节点、“她的伴侣”、“他的伴侣”、“他们的伴侣”）下的系统重心和偏差。

默认偏差： 未经提示的（根节点）模型极度倾向于生成关于女性护士及其异性恋关系的故事（女性护士得分 $\approx 0.73$ ，异性恋得分 $\approx 0.99$ ）。
不对称标记： 明确将护士标记为女性（“她的伴侣”）强化了默认设置，导致偏差最低（最同质化）。将护士标记为男性（“他的伴侣”）是唯一能显著打破默认设置的条件，导致了同性关系得分的上升。
隐性关联： 实验揭示了一种隐性关联，即“男护士”会触发“同性伴侣”的叙事，即使提示词并未指定同性伴侣。
对约束的抵抗： 在部分“他的伴侣”样本中，模型抵制了约束，重新将护士设定为女性并引入了一个新的男性主角，这证明了“女性护士”这一吸引子状态（attractor state）的强大力量。

意义与主张
本文声称提供的是一套概念语言和形式化支架，而非一个已解决的算法方案。其意义在于：

重构安全观： 主张 AI 安全必须以研究多样性和同质化为中心，而非仅仅关注灾难性风险或毒性。
语境化评估： 提供了一种工具，可以在特定提示词和利益相关者语境的分辨率下评估偏差和多样性，而非依赖全局的模型级平均值。
理论整合： 将 AI 安全与批判理论（酷儿理论、女性主义理论）相结合，以更好地理解机器学习中规范性的机制。
行动呼吁： 作者呼吁 AI 安全界将同质化纳入威胁模型，认真对待批判理论，并开发异类再生产的具体实现。

本文对自身的局限性保持了谦逊的态度，承认该框架仅是一个起点，结构的设定具有主观性，且精确估计重心在计算上仍具挑战，需要通过近似方法（如采样或探测）来解决。