The Algorithmic Gaze of Image Quality Assessment: An Audit and Trace Ethnography of the LAION-Aesthetics Predictor

本文通过审计和数字民族志研究发现，广泛用于训练视觉生成模型的 LAION 美学预测器（LAP）存在显著的性别、性取向及文化偏见，其“算法凝视”强化了西方艺术史中的帝国与男性凝视，因此呼吁开发者摒弃单一的美学标准，转向更具包容性的多元评估体系。

要点

这篇论文就像是一次对AI 艺术“评委”的“体检”和“身世调查”。

想象一下，现在的 AI 绘画工具（比如 Stable Diffusion）非常火，它们能画出各种各样的图。但是，AI 自己不会画画，它需要有人教它“什么样的画是好看的”。于是，研究人员开发了一个叫 LAION-Aesthetics Predictor (简称 LAP) 的“算法评委”。

这个评委的工作是：给互联网上找来的几亿张图片打分。分数高的，被认为是“好画”，会被用来训练 AI；分数低的，就被扔进垃圾桶。

但这篇论文的作者发现，这个“评委”其实是个非常有偏见、甚至有点“势利眼”的人。

为了让你更容易理解，我们可以用三个生动的比喻来拆解这篇论文的核心发现：

1. 这个“评委”的口味：只喜欢“写实”和“西方风”

比喻：一个只去过巴黎和东京的挑剔美食家

作者把几百万张来自世界著名博物馆（比如大都会博物馆）和现代艺术网站（WikiArt）的画作，拿给这个 LAP 评委打分。

• 结果： 评委疯狂给风景画、城市街景、人物肖像打高分。而且，这些画必须是写实风格的（看起来像照片一样真）。
• 被嫌弃的： 那些抽象的、现代的、或者来自非洲、中东、美洲原住民的艺术，几乎全被打低分，直接被“过滤”掉了。
• 潜台词： 这个评委的审美标准，完全就是西方主流艺术史加上日本浮世绘的口味。它把“像照片一样真实”当成了“美”的唯一标准。这就好比一个美食家，只吃牛排和寿司，觉得任何其他的菜（比如非洲炖菜或中东香料）都是“难吃”的垃圾食品。

2. 这个“评委”的性别观：把女性当“花瓶”，把男性当“路人”

比喻：一个只盯着美女看的“直男”摄影师

作者还检查了 LAP 在筛选图片时，对图片里人物的描述有什么偏好。

• 结果： 如果图片说明里提到女性，这张图更容易得高分，被选入“好画”库。如果提到男性或者LGBTQ+ 群体，反而更容易被刷掉。
• 潜台词： 这就像是一个传统的“男性凝视”（Male Gaze）。在西方艺术史上，女性经常被画成被观看的对象（为了取悦男性观众），而男性往往是行动者。这个 AI 评委完美复刻了这种偏见：它喜欢把女性当作“美丽的风景”来展示，而忽略了男性作为主体的存在，更别提那些非二元性别或酷儿群体了。
• 危险信号： 作者警告说，如果 AI 只学习这种“喜欢女性身体”的审美，可能会加剧现实中对女性的伤害（比如生成更多色情图像或深伪视频）。

3. 这个“评委”的身世：一个“独断专行”的创始人

比喻：一个凭个人喜好定规矩的“小老板”

为了搞清楚为什么这个评委这么“偏科”，作者像侦探一样去调查了 LAP 是怎么造出来的（这叫“追溯民族志”）。

• 发现： 这个评委不是由一个庞大的、多元化的委员会制定的，而是由 LAION 的创始人克里斯托夫·舒曼（Christoph Schuhmann）一个人拍脑袋决定的。
• 数据来源： 他用来训练评委的数据，主要来自：
  1. 一个 2012 年的英语摄影比赛网站（参与者主要是西方摄影师）。
  2. 一群西方 AI 爱好者在 Discord 上生成的图片。
• 结论： 这个评委的“大脑”，其实就是舒曼个人加上一群西方科技极客的审美。他们把“西方白人的审美”当成了全人类的“通用审美”。这就好比一个开餐厅的老板，只根据自己的口味做菜，然后告诉全世界：“这就是全世界最好吃的菜，其他口味都是错的。”

---

这篇论文想告诉我们什么？

1. 没有绝对的“美”： 美是非常主观的，受文化、性别、历史影响很大。试图用一个数字（比如 1 到 10 分）来衡量所有艺术，本身就是荒谬的。
2. 偏见会放大： 如果 AI 训练数据里的“好画”都是西方写实风格，那么 AI 生成的画也会全是这种风格，其他文化的艺术就会在 AI 时代“失声”。
3. 我们需要“多元”的评委： 作者呼吁，未来的 AI 开发者不应该追求一个“万能”的审美标准，而应该承认审美的多样性。比如，我们可以告诉 AI：“我想看写实风格的画”或者“我想看非洲风格的画”，而不是让 AI 强行认为只有一种风格是“高质量”的。

总结来说：
这篇论文就像是在给 AI 界的“审美霸权”敲警钟。它告诉我们，现在的 AI 绘画工具，其实是在用一个西方白人男性的眼光来审视世界。如果不改变这种“算法凝视”，未来的 AI 艺术可能会变得非常单调，甚至充满歧视。我们需要打破这种单一的审美标准，让 AI 学会欣赏更多元、更真实的人类文化。

技术摘要

这是一份关于论文《图像质量评估的算法凝视：LAION-Aesthetics 预测器的审计与追踪民族志》（The Algorithmic Gaze of Image Quality Assessment: An Audit and Trace Ethnography of the LAION-Aesthetics Predictor）的详细技术总结。

1. 研究背景与问题 (Problem)

• 背景：视觉生成式 AI 模型（如 Stable Diffusion）的训练和生成图像的质量评估，严重依赖“审美质量评估”（Aesthetic Quality Assessment, AQA）模型。其中，LAION-Aesthetics Predictor (LAP) 是最具影响力的模型之一，被广泛用于筛选训练数据（如 LAION-Aesthetics 数据集）和评估生成图像的质量。
• 核心问题：审美本质上是主观的，且与个人品味和文化价值观紧密相连。然而，当前的 AQA 模型往往采用“一刀切”的度量标准。
  • 这种标准化的“审美”究竟代表了谁的品味？
  • 这种算法化的审美过滤如何影响训练数据的构成，进而导致生成式 AI 产生特定的文化偏见和代表性危害（Representational Harms）？
  • 这些偏见是如何在模型开发过程中产生的？

2. 方法论 (Methodology)

本研究采用了**审计（Audit）与追踪民族志（Trace Ethnography）**相结合的方法，从量化评估和质性溯源两个维度深入分析 LAP。

A. 算法审计 (Algorithmic Audit)

研究团队使用三个不同的数据集对 LAP 模型进行了量化审计，主要关注得分高于 6.5 分（通常被视为“高质量”阈值）的图像特征：

1. LAION-Aesthetics 数据集（约 12 亿张图像）：分析 LAP 筛选后的数据分布，检查其过滤机制对特定群体（如性别、种族、宗教）的影响。
2. 大都会艺术博物馆 (MET) 数据集（24.9 万张图像）：利用其丰富的元数据（部门、文化、媒介），评估 LAP 对不同文化背景（西方 vs. 非西方）和艺术媒介（绘画 vs. 雕塑/文物）的评分差异。
3. WikiArt 数据集（8.1 万张图像）：评估 LAP 对不同艺术流派（如现实主义、抽象主义）、题材（风景、肖像）和具体艺术家的评分偏好。
   • 技术细节：使用点互信息（PMI）分析图像标题中的关键词与高分图像的相关性；统计不同类别图像在高分段（≥6.5）的分布比例。

B. 追踪民族志 (Trace Ethnography)

为了探究偏见的起源，研究团队对 LAP 的开发过程进行了“追踪民族志”研究：

• 数据来源：收集并分析了 LAION 官方博客、GitHub 代码库、学术文献（AVA 数据集论文）、YouTube 解释视频以及 Discord 社区记录等“数字痕迹”。
• 分析重点：
  • 模型架构的选择依据。
  • 训练数据集（AVA, SAC, LAION-Logos）的构成、来源及标注过程。
  • 标注者（Annotators）的人口统计学特征及其对数据的潜在影响。
  • 开发者的个人决策如何塑造了最终的模型。

3. 主要发现 (Key Results)

A. 审计结果：算法凝视的偏见

1. 性别与身份偏见（男性凝视的强化）：
   • 在 LAION-Aesthetics 数据集中，标题提及女性的图像更有可能被保留（高分），而提及男性或**LGBTQ+**群体的图像更可能被过滤掉。
   • 这强化了西方艺术史中的“男性凝视”（Male Gaze），即女性被描绘为被观看的对象，而男性或性少数群体则被边缘化。
2. 文化与地域偏见（帝国凝视）：
   • 在 MET 数据集中，没有任何来自非洲、大洋洲、美洲原住民、伊斯兰、埃及或西亚艺术部门的图像获得 6.5 分以上。
   • 高分图像几乎全部来自西方或日本艺术家，且主要是绘画、摄影和版画。
   • 这反映了“帝国凝视”（Imperial Gaze），即非西方艺术被视为“原始”或低质量，而西方和受西方影响的东方艺术被视为标准。
3. 风格与媒介偏见（现实主义凝视）：
   • LAP 极度偏好写实主义（Realism）、风景画、城市景观和人物肖像。
   • 抽象艺术（如抽象表现主义、立体主义）、现代艺术以及非二维的媒介（如雕塑、文物）得分极低。
   • 这表明模型实际上是在评估“照片级真实感”（Photorealism），而非广义的艺术审美。

B. 民族志结果：偏见的起源

1. 个人品味的制度化：LAP 由 LAION 创始人 Christoph Schuhmann 独立开发。他明确表示模型架构和训练数据的权重选择主要基于个人的主观审美（"from my subjective taste"）。
2. 训练数据的局限性：
   • 来源单一：训练数据主要来自英语国家的摄影师（AVA 数据集，2006-2012 年）和西方的 AI 爱好者（SAC 数据集，2022 年）。
   • 标注者偏差：标注者主要是受过高等教育的西方男性（WEIRD 群体），且部分数据集中，绝大多数评分由极少数人（甚至一人）完成。
   • 数据性质：AVA 数据是基于摄影比赛的主题相对评分，而 SAC 和 LAION-Logos 是绝对评分。LAP 在训练时简单地将这些不同性质的评分平均化，忽略了语境差异。
3. 开发过程的随意性：开发过程缺乏严谨的文档记录，部分数据集（如 LAION-Logos）甚至难以公开获取，且开发者承认代码和流程存在“拼凑”性质。

4. 关键贡献 (Key Contributions)

1. 揭示了 AQA 模型的系统性偏见：首次实证证明了广泛使用的 LAION-Aesthetics Predictor 并非中立的“质量”标准，而是内嵌了帝国凝视、现实主义凝视和男性凝视。
2. 方法论创新：成功结合了算法审计（量化偏见）与追踪民族志（质性溯源），展示了如何通过分析开发者的数字痕迹来解释算法偏见的社会技术根源。
3. 批判“普遍审美”的迷思：指出将审美简化为单一数值（1-10 分）在伦理和技术上都是错误的，这种做法掩盖了文化差异，并可能加剧生成式 AI 对边缘群体的伤害（如非西方艺术难以生成、女性形象被过度性化等）。
4. 提出替代方案：呼吁从**规定性（Prescriptive）的审美评估转向描述性（Descriptive）**的评估。即不再试图定义什么是“美”，而是明确模型偏好何种风格（如“照片级真实感”或“特定文化风格”），以实现更包容的 AI 对齐。

5. 研究意义 (Significance)

• 对 AI 开发的警示：当前的生成式 AI 训练数据筛选机制正在固化西方中心主义和男性主导的审美标准，这可能导致 AI 模型在文化多样性上的进一步退化，并加剧对女性（如深度伪造、非自愿色情图像）和少数族裔的潜在危害。
• 对 FAccT 研究的启示：证明了单纯的技术审计不足以解释偏见的成因，必须结合对开发者和开发过程的民族志研究，才能全面理解算法系统的社会影响。
• 政策与伦理建议：建议 AI 开发者放弃追求“通用审美”指标，转而采用更透明、更多元化的评估体系，明确模型的文化偏好，并尊重不同文化背景下的审美多样性。

总结：该论文有力地论证了图像质量评估模型并非客观的技术工具，而是特定文化权力结构的体现。LAION-Aesthetics Predictor 作为一个典型案例，展示了算法如何放大并制度化开发者的个人偏见，进而影响全球数字文化的生产与消费。