Happy Young Women, Grumpy Old Men? Emotion-Driven Demographic Biases in Synthetic Face Generation
本文对来自西方和中国机构的八种最先进的文本生成图像模型进行了系统性审计，结果表明，无论其文化起源如何，这些模型在合成人脸生成方面均表现出持续的人口统计学和情感调节偏差。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你拥有一个神奇的、超智能的艺术家，只要你描述任何人物，它就能通过听你的话将其画出来。你说：“画一个快乐的人”，砰！一幅画出现了。你说：“画一个愤怒的人”，另一幅画又跳了出来。
这篇论文就像是对这八位神奇艺术家（四位来自西方，如美国和欧洲；另外四位来自中国）进行的一次质量控制检查。研究人员想要了解：这些艺术家是公平的吗？还是说它们带有隐藏的偏见？
以下是研究结果，通过简单的故事进行了拆解：
1. “默认设置”存在偏差
即使当你没有告诉艺术家要画“谁”（只说“一个人”）时，这些艺术家也不会画出世界各地各种各样的人。相反，它们有一个具有严重偏见的默认设置。
- “青年俱乐部”： 如果你要求画一个泛指的人，艺术家几乎总是画出年轻人（在20到39岁之间）。它们很少画儿童或老年人。就好像艺术家认为“成年人”仅仅意味着“青年”。
- “白人围墙”： 尽管白人在全球人口中属于少数，但这些艺术家却压倒性地倾向于画白脸。它们几乎不画黑人、亚洲人或其他种族群体。
- “性别失衡”： 一些艺术家非常喜欢画男性（比例高达90%），而另一些则非常喜欢画女性（比例高达80%）。很少有人能做到平衡。
大惊喜： 研究人员原本预期中国的艺术家会因为是在中国接受训练而画出更多的亚洲面孔。但事实并非如此。 中国艺术家的作品也大多是白人面孔，就像西方艺术家一样。这似乎意味着所有的艺术家都在学习同一个“全球互联网”图书馆，而这个图书馆是由西方图像主导的，这使得它们听起来都如出一辙。
2. 情绪改变了画面（“变色龙”效应）
这项研究最有趣的部分是，当你给请求加上一个情绪时，会发生什么。研究人员要求艺术家画出“快乐”、“悲伤”、“愤怒”、“恐惧”等情绪的人。
他们发现，情绪不仅改变了人的面容，还改变了这个人是谁。
- “快乐”偏见： 当被要求画一个“快乐”的人时，艺术家画出的面孔看起来最符合它们的“默认设置”：年轻、白人，且通常是女性。快乐似乎与一种特定的、理想化的形象紧密相连。
- “愤怒/悲伤”的转变： 当被要求画一个“愤怒”、“厌恶”或“悲伤”的人时，艺术家切换了模式。它们突然开始更多地绘制年长者、男性和白人面孔。
- 类比： 这就像电影的选角导演。如果剧本说“快乐的主角”，他们就会选一个年轻、漂亮的明星。但如果剧本说“愤怒的反派”或“暴躁的老头”，他们就会突然选一个年长的白人男性。情绪触发了关于“谁有权感受这种情绪”的刻板印象。
3. “愤怒的老男人 vs. 快乐的年轻女性”的标题
论文的标题问道：“快乐的年轻女性，愤怒的老男人？”
答案是：是的。
- 幸福感几乎专门分配给了年轻女性（以及年轻人群体）。
- 负面情绪（愤怒、厌恶、恐惧）则不成比例地分配给了年长的男性和白人男性。
这创造了一个视觉世界：在这里，年轻女性是“喜悦的面孔”，而老年男性则是“愤怒的面孔”。
4. “黑箱”问题
研究人员指出，这些艺术家是“黑箱”。我们不知道它们究竟是用哪些图片进行训练的，因为相关公司并不分享其训练数据。然而，通过观察它们的输出，我们可以看到这些艺术家吸收了互联网的偏见。
尽管中国的模型是在中国训练的，但它们仍然模仿了西方偏见，即主要绘制白人面孔。这表明，这些模型所学习的“互联网文化”是如此具有统治力，以至于它覆盖了当地的文化背景。
总结
论文得出结论，这些AI艺术家并非中立的。它们就像镜子，反映的不是真实的世界，而是反映了一个扭曲的、刻板印象化的版本。
- 它们忽略了老年人。
- 它们忽略了非白人。
- 它们将快乐与青春和美丽联系在一起。
- 它们将愤怒和负面情绪与年长的男性联系在一起。
研究人员警告说，如果我们使用这些工具来创作内容（如广告、电影或新闻），我们将会在无意中强化这些刻板印象，使世界看起来像是一个只有年轻白人才是快乐的、只有年长白人男性才是愤怒的地方。他们建议我们需要更频繁地检查这些工具，并要求提高构建过程的透明度。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。