💻 computer science

Unmasking LAION-5B: Age, Gender, Race, and Emotion Biases in Large-Scale Image Datasets

这项研究揭示了广泛使用的 LAION-5B 数据集存在显著且一致的人口统计学偏差，包括年轻白人男性的过度代表以及少数群体和老年女性的代表性不足，同时还存在性别与情感表达之间的刻板印象关联，这可能会对下游 AI 系统产生负面影响。

原作者： Iris Dominguez-Catena, Daniel Paternain, Mikel Galar

发布于 2026-06-23

📖 1 分钟阅读☕ 轻松阅读

原作者： Iris Dominguez-Catena, Daniel Paternain, Mikel Galar

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，互联网就像一座巨大的、混乱的图书馆，里面包含了数十亿本书（图像）及其标题（说明文字）。LAION-5B 数据集就像一个巨大的自动化机器人，它进入了这座图书馆，抓取了一大堆这样的书，并把它们交给了 AI 艺术家，用来教它们如何绘画。

这篇论文是对那一堆书做的“读书报告”。作者们想要探究的是：这些图片里到底是谁，以及他们在做什么？ 他们发现，这个机器人抓取的并不是一个公平、随机的人类样本。相反，它抓取了一个非常特定、存在偏差的群体。

以下是他们的发现，通过简单的分类进行了解析：

1. “谁”的问题：一个偏斜的群体

作者使用两种不同的“智能相机”（名为 FairFace 和 DeepFace 的 AI 模型）观察了数据集中约 8 万张面孔，以推测人们的年龄、性别和种族。

年龄差距： 该数据集对年轻人有着近乎痴迷的偏好。这就像一场派对，几乎所有人都在 20 到 39 岁之间。儿童、青少年或老年人（尤其是 60 岁以上的人）非常稀少。
性别失衡： 人群主要由男性组成。在某些统计中，男性占面孔总数的 70% 以上。女性的代表性显著不足。
种族构成： 该数据集由白人主导（约 50–60%）。其他种族群体，如黑人、印度人和拉丁裔，在现实世界中比例很高，但在数据集中却非常罕见。

类比： 想象你要求一个机器人为教科书拍一张“人”的照片。机器人并没有拍下一张多元化的城市街道照片，而是只拍了一群特定的、在咖啡馆里闲逛的年轻白人男性的照片。如果你根据这些内容教 AI 如何画“人”，它就会认为这就是世界的全部。

2. “做什么”的问题：刻板的情绪

作者还观察了这些人表现出的情绪（快乐、愤怒、悲伤等）。他们发现，该数据集强化了关于不同群体“应该”如何表现的陈旧刻板印象。

男性 = 愤怒： 当数据集中出现男性时，他们表现出愤怒或厌恶情绪的可能性不成比例地高。
女性 = 快乐： 当数据集中出现女性时，她们表现出快乐情绪的可能性不成比例地高。
“愤怒的男人，快乐的女人”法则： 这是一个经典的刻板印象，而数据表明，这种印象已经深深植根于训练材料之中。

类比： 这就像一部电影剧本，其中男人出现的唯一时刻是在大声叫喊，而女人出现的唯一时刻是在微笑。如果 AI 从这个剧本中学习，它就会认为世界就是这样运作的。

3. “双重麻烦”问题：交织偏见

作者不仅观察了单一的年龄或性别，还观察了它们是如何混合在一起的（例如“中年女性”或“年轻黑人男性”）。

缺失的中年女性： 这个群体在数据集中几乎是隐形的。
过度代表的年轻女性： 年轻女性（30 岁以下）非常普遍，但随着女性年龄的增长，她们在数据集中就消失了。
过度代表的白人婴儿： 虽然少数族裔的婴儿很罕见，但白人婴儿在数据集中却出奇地多。

类比： 如果你正在制作一个关于人类的拼图，你会拥有大量的“年轻白人男性”和“年轻白人女性”碎片，但你会丢失几乎所有的“老年女性”和“老年少数族裔男性”碎片。你拼出的画面将是不完整且扭曲的。

4. 为什么这很重要？

论文解释说，AI 模型（如生成图像的模型）通过记忆这个数据集中的模式来进行学习。

镜像效应： 如果数据集是一面扭曲的镜子，那么 AI 的输出结果也将是一个扭曲的倒影。
后果： 如果你要求 AI “画一个 CEO”，它可能会画一个年轻的白人男性，因为那是它看到最多的；如果你要求它“画一个快乐的人”，它可能会画一个女性；而要求它画“一个愤怒的人”，它可能会画一个男性。

论文“没有”说明的内容

坚持研究者实际发现的内容至关重要：

他们没有测试 AI 模型本身（如 Stable Diffusion）是否会产生糟糕的图像；他们仅仅分析了来源材料（数据集）。
他们没有声称这个数据集是唯一的问题，但他们确实表示这是一个“基础性”问题，意味着许多其他工具都是建立在其之上的。
他们在本文中没有提供解决方案，除了建议未来的数据集需要更好的策展，以及我们需要更好的工具来衡量多样性。

核心结论

作为现代 AI 核心驱动力的 LAION-5B 数据集，就像一个带有偏见的相机镜头。它过度聚焦于年轻的白人男性并将其与愤怒联系起来，同时将女性和老年人推向背景，或将其与快乐联系起来。由于 AI 是通过这个镜头进行学习的，论文警告称，这些机器所发展的“世界观”从根本上说是失衡的，反映的是互联网的偏见，而非真实的人类多样性。

技术摘要：揭示 LAION-5B 的偏差

问题陈述

像 LAION-5B 这样的大规模图文数据集是现代生成式 AI 系统基础训练数据的来源。然而，其网络抓取、未经人工筛选的特性引发了关于人口统计学和刻板印象偏差的重大担忧。虽然先前的研究主要关注有害内容或由 LAION-5B 训练出的下游模型所产生的刻板输出，但该数据集本身内在的人口统计构成以及具体的表征性、刻板印象和交织性偏差仍未得到充分探索。本研究旨在解决量化 LAION-5B 中这些固有偏差的挑战，特别考察了其两个主要组成部分：LAION-2B-en（英语）和 LAION-2B-multi（多语言）。

研究方法

鉴于该数据集的规模（数十亿个配对），进行详尽的人工标注是不可行的。作者在约 100 万个图像 URL 的代表性样本上（经过质量过滤后检测到 79,902 张人脸）采用了自动化推理流水线。

数据处理：

采样： 从 LAION-2B-en 中抽取了 501,147 个 URL，从 LAION-2B-multi 中抽取了 503,130 个 URL。
人脸检测： 使用 RetinaFace 系统进行人脸检测。分辨率低于 48×48 像素的人脸图像被剔除，以确保分析质量。
人口统计与情绪推理： 使用了三个最先进的模型：
- FairFace 和 DeepFace： 用于估计年龄、性别和种族。输出类别进行了对齐（例如，合并亚洲亚类）以确保跨模型的可比性。
- Emo-AffectNet： 用于分类面部表情（情绪）。
偏差指标：
- 表征偏差： 通过人口统计比例进行分析。
- 交织性与刻板印象偏差： 使用 Ducher's Z 指标 进行量化。该指标比较了观察到的群体 $g$ 与类别 $y$ 的共现情况，以及两者相互独立时的预期共现情况。数值范围从 -1（最大程度代表性不足）到 1（最大程度代表性过度）。
统计验证： 使用自助重采样技术（1,000 次重复）构建 95% 置信区间，以验证关键 Ducher's Z 分数的统计显著性。

核心贡献

全面的人口统计分析： 对 LAION-2B-en 和 LAION-2B-multi 的大量样本（1,000,000 个 URL）进行了年龄、性别、种族和情绪分布的详细分解。
交织性与刻板印象偏差量化： 应用 Ducher's Z 指标揭示了人口统计属性之间（如性别-年龄、性别-种族）以及人口统计与情绪之间的共现模式。
跨模型验证： 使用两个独立的统计模型（FairFace 和 DeepFace）来证明观察到的偏差是数据集本身的系统性问题，而非单一检测工具产生的伪影。

关键结果

1. 表征偏差（人口统计分布）
两个数据集组成部分均表现出显著的不平衡，这得到了 FairFace 和 DeepFace 的证实：

年龄： 年轻成年人（20–39 岁）呈现强烈的过度代表现象。
种族： 白人是主导群体（50–60%），远超平衡基准。少数族裔（黑人、印度裔、拉丁裔/西班牙裔）始终处于代表性不足的状态。
性别： 男性过度代表（根据模型不同，比例为 57–70%），而女性代表性不足。
对比： LAION-2B-en 和 LAION-2B-multi 显示出高度相似的特征。LAION-2B-multi 显示出略高的种族多样性和高龄人群代表性，但性别差异更为显著。

2. 交织性偏差
通过 Ducher's Z，研究发现了特定人口统计组合中的强有力且一致的偏差：

性别–年龄： 年轻女性（FairFace 中为 30 岁以下，DeepFace 中为 40 岁以下）和年长男性呈现过度代表。相反，中年及高龄女性的代表性显著不足。
年龄–种族： 白人婴儿过度代表，而少数族裔的婴儿和老年人则代表性不足。
性别–种族： 中东女性的代表性不足在不同模型中保持一致。

3. 刻板印象偏差（情绪–人口统计关联）
分析揭示了人口统计与表达情绪之间存在一致的（尽管有时较弱的）关联：

性别： 男性与“愤怒”和“厌恶”有不成比例的关联，而女性在“幸福”中的代表性更高。
年龄： 年轻群体在“愤怒”和“厌恶”中的代表性不足，而高龄群体在“恐惧”、“悲伤”和“惊讶”中的代表性不足。
种族： 特定群体在某些情绪中的代表性较低（例如，印度人在“恐惧”和“惊讶”中的代表性较低；拉丁裔/西班牙人在“愤怒”和“悲伤”中的代表性较低）。

统计稳健性：
自助分析确认了这些发现的稳定性。例如，“愤怒的男人”这一刻板印象（Z=0.42）的 95% 置信区间为 [0.4, 0.43]，而“幸福的女人”的关联（Z=0.19）的置信区间为 [0.18, 0.2]，表明这些是数据集的重要特征。

重要性与主张

论文声称，这些偏差已深植于作为生成式 AI 广泛使用的训练数据之中。这些模式在两个不同人口统计模型及两个数据集组成部分中的一致性表明，这属于系统性问题，而非随机噪声。

作者认为，由于 LAION-5B 被用于训练生成模型（如 Stable Diffusion），这些人口统计失衡和刻板印象关联可能会塑造并放大众多下游 AI 系统的行为和输出。具体而言，数据表明，基于 LAION-5B 训练的模型可能会继承并放大社会偏见，例如强化性别角色（如：愤怒的男性，幸福的女性）和种族刻板印象。

研究结论指出，尽管多语言组件（LAION-2B-multi）在种族和年龄多样性方面提供了微小的改善，但并未解决数据集中存在的根本性表征和刻板印象偏差。作者强调，理解这些内在的人口统计失衡对于解决生成式 AI 的公平性至关重要，并指出数据集的构成从根本上扭曲了这些模型所学习到的“世界观”。

承认局限性：
论文指出，其研究结果依赖于辅助模型，而这些模型可能会引入自身的偏差；此外，人口统计类别受限于模型的分类法；且数据集的不平衡并不直接等同于模型偏差，除非进行进一步的下游调查。