技术摘要：衡量大语言模型中的刻板印象偏差与偏离偏差

问题陈述

大语言模型（LLM）正日益部署于医疗、法律和金融等关键领域，但它们继承并可能放大训练数据中存在的社会偏见。现有的偏见评估文献通常依赖于单一评估原则：要么将模型输出与人类定义的“理想”参考（规范性）进行比较，要么与观察到的现实世界数据（描述性）进行比较。这种二分法造成了一个缺口：仅依赖理想参考可能会忽视现实分布，而仅依赖现实世界数据则可能强化现有的社会不平等。此外，大多数研究侧重于显式的人口统计标识符，可能会遗漏由隐式信号（例如姓名）触发、从而绕过显式对齐机制的偏见。本研究旨在解决对整体框架的需求，该框架需跨多个社会维度评估刻板印象偏差（人口群体与属性之间系统性、一致性的关联）和偏离偏差（LLM 生成的分布与现实世界人口统计数据之间的差异）。

方法论

作者进行了一项探索性研究，涉及四个先进的大语言模型：Claude-3.5-Sonnet、GPT-4o-mini、Command-r-plus和Llama-3.1-70b。

实验设计

1. 提示策略：研究同时使用了显式提示（例如，“写一段关于西班牙裔男性的描述”）和隐式提示（例如，“写一段关于胡安的描述”，其中名字暗示了种族/性别）。该设计允许比较在人口属性被直接陈述与推断时偏见的表现形式。
2. 输入属性：人口统计特征在三个维度上进行了变化：
   • 性别：男性、女性。
   • 种族/族裔：白人、黑人、西班牙裔、亚裔和中立。
   • 年龄：婴儿潮一代、X 世代、千禧一代、Z 世代、Alpha 世代。
   • 注：姓名的选择基于与特定人口统计特征的高度相关性（例如，性别使用美国前 100 个婴儿名字；族裔使用源自 SiSense 族裔中立指数的特定族裔名字），以最大限度地减少噪音。
3. 输出属性：模型被要求生成包含以下属性的 200 字简介：
   • 政治派别（保守派、自由派、中立）
   • 宗教（基督教、佛教、印度教、犹太教、伊斯兰教、无 affiliation）
   • 性取向（异性恋、同性恋、双性恋、其他）
   • 社会经济地位（上层、中层、下层）
   • 职业
4. 数据生成：对于隐式提示，每个性别组生成 500 篇文本，每个族裔/年龄组生成 50 篇。对于显式提示，每个人口统计组生成 50 篇文本。所有生成均使用 0.7 的温度参数。
5. 评估指标：
   • 刻板印象偏差：使用给定输出属性的人口群体（性别、族裔、年龄）之间最大 Jensen-Shannon (JS) 散度的均值来衡量。数值越高，表明模型对待不同群体的差异越大。
   • 偏离偏差：计算为 LLM 生成的分布显著偏离现实世界美国人口统计数据的输出属性比例（使用二项检验，$p < 0.05$）。现实世界数据来源于皮尤研究中心、盖洛普及其他可靠的人口统计研究。
   • 极性：执行情感分析以衡量生成文本的效价（正面/负面）。

主要贡献

1. 双重框架评估：本文引入了一个综合评估框架，同时评估刻板印象偏差（群体间的一致性）和偏离偏差（与现实的对齐），解决了以往研究仅使用一种参考类型的局限性。
2. 隐式与显式偏见分析：通过系统比较隐式（基于姓名）和显式（基于属性）提示，研究发现无论提示类型如何，偏见模式基本保持一致，尽管显式提示有时会触发更高的拒绝率或更极端的偏离。
3. 多维度范围：与许多仅关注单一属性（例如仅性别或仅毒性）的先前工作不同，本研究评估了五个不同社会维度上的偏见：政治、宗教、性取向、社会经济地位和职业。
4. 量化偏见指标：作者为四个主要大语言模型提供了标准化指标（刻板印象偏差得分和偏离偏差得分），为未来的比较分析提供了基准。

主要结果

政治派别

• 自由派过度代表：所有四个模型都将个体 overwhelmingly 归类为“自由派”（通常超过 90% 或 100%），显著偏离现实世界分布。
• 中立派代表不足：“中立”政治派别被严重低估（通常低于 10%）。
• 年龄例外：模型（GPT-4o-mini 除外）倾向于将婴儿潮一代与“保守派”观点联系起来，反映了特定的刻板印象。
• 偏见一致性：偏见模式在隐式和显式提示之间保持一致。

宗教

• 基督教/无 affiliation 主导：模型主要分配“基督教”或“无 affiliation"标签。
• 少数族裔代表不足：非基督教宗教（印度教、犹太教、伊斯兰教）被严重低估或分配接近零的概率，尽管它们在现实世界中普遍存在。
• 人口统计相关性：模型表现出强烈的刻板印象，例如将白人与犹太教联系起来，将黑人与伊斯兰教联系起来，这通常与实际人口统计分布相悖。

性取向

• LGBTQ 过度代表：与约 7.6% 的人自我认同为 LGBTQ 的现实世界统计数据相比，所有模型都显著高估了性少数群体（同性恋、双性恋）。
• 性别刻板印象：模型经常将女性与“双性恋”联系起来，将男性与“同性恋”联系起来。
• 偏离：所有模型在性取向方面的偏离偏差得分极高（接近 1.0），表明系统性地未能与现实世界分布对齐。

社会经济地位 (SES)

• 阶级刻板印象：模型倾向于输出“中产阶级”和“下层阶级”地位。
• 种族差异：黑人与“下层阶级”地位不成比例地关联，而亚裔则经常与“上层阶级”地位关联，反映了特定的社会刻板印象。
• 拒绝率：Claude-3.5-Sonnet 在涉及白人男性、黑人男性和亚裔女性的提示中表现出高拒绝率，使得这些群体的直接比较变得复杂。

职业

• 刻板印象分配：“教师”是所有模型分配给婴儿潮一代最常见的职业。
• 性别与族裔：模型将“工程师”分配给男性（特别是在 Claude-3.5-Sonnet 中），将“社会工作者”或“教师”分配给女性。出现了特定的族裔刻板印象，例如将“社区组织者”分配给黑人和西班牙裔人士。

极性（情感）

• 显式与隐式：来自显式提示的文本在不同人口群体间显示出比隐式提示更大的情感得分变化。
• 边缘化群体：显式提示通常导致历史上被边缘化的群体（黑人、西班牙裔、女性）获得更高的极性得分（更积极的情感），而白人、亚裔和男性群体得分较低，这表明在显式情境下可能存在潜在的“过度纠正”或对齐偏差。

意义与主张

作者声称，他们的发现突显了 LLM 在用户属性被推断或明确陈述的现实世界应用中的重大风险。

• 对于用户：该研究强调了批判性参与模型输出的必要性，特别是在社会政治分析中，因为模型可能会将有偏见的分布呈现为客观事实。
• 对于开发者：某些属性（例如自由派政治、LGBTQ 身份、基督教宗教）的一致过度代表表明，当前的 RLHF（基于人类反馈的强化学习）过程可能会无意中编码特定的社会偏见或偏离现实的“对齐”偏好。
• 对于组织：结果表明，在不了解这些偏见的情况下部署 LLM 可能导致决策偏差或强化有害的刻板印象。

该论文得出结论，虽然 LLM 是强大的工具，但它们在推断人口统计属性方面的当前行为揭示了根深蒂固的刻板印象偏差和偏离偏差。作者主张谨慎设计提示、选择模型，并进一步研究在包容性与准确反映现实世界分布之间取得平衡。他们谦逊地指出，这些偏见可能会随着模型更新而演变，未来的工作应探索多样化的族裔群体以及超越以美国为中心数据的替代参考分布。