Text-to-image models globally default to male, enforce gender stereotypes, and penalize female and nonbinary representations
这项研究呈现了对文本生成图像模型最大规模的全球性分析，揭示了这些模型系统性地默认以男性形象呈现，强化僵化的性别刻板印象，并边缘化非二元性别身份，从而放大了结构性的性别偏见，并对代表性不足的群体造成心理伤害。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在服务器机房静谧的嗡鸣声中，一种新型艺术家正在创作。它不持画笔或相机，而是倾听文字并描绘图像。这种被称为“文本生成图像”的技术，在短短几年内便爆发式增长，创造了数十亿张图片。这些系统通过学习来自互联网的海量照片和文本进行训练，从而学会将“医生”或“母亲”等词汇与它们曾见过的视觉细节联系起来。由于这些工具现在被数百万人用于创作广告、故事和设计，它们所生成的图像已成为塑造我们世界观的一股强大力量。如果一台机器始终将医生画成男性，将护士画成女性，这不仅仅是一个错误，更是在强化一种关于这些角色属于特定性别的观念。研究人员现在提出的问题不仅是这些机器是否会犯错，而是它们正在通过每一张图像，为我们悄然构建一个怎样的世界。
一支研究团队决定通过要求四种领先的文本生成图像模型生成近一百万张图片，来调查这一隐藏的图景。他们并非简单地请求随机图像，而是构建了一个大规模的全球实验。他们要求模型绘制来自二十二个不同国家的人，从事一百多种职业并进行各种日常活动。至关重要的是，他们经常不指定性别，仅要求画出“一名从事翻译工作的印度人”或“一名在园艺工作的德国人”。通过分析结果，团队发现了一个一致的模式：当提示词未指定性别时，模型几乎总是选择绘制男性。在这些中性请求生成的图像中，平均有68.6%描绘了男性，而对于涉及权威或权力的职业，这一比例甚至更高。这种向“男性化”的默认倾向并非在全球范围内均匀分布；它在性别不平等程度较高且收入较低的国家表现得最为显著，这表明该技术吸收并放大了其使用地社会的偏见。
该研究还仔细观察了生成图像的质量。当研究人员要求生成特定性别时，他们发现，相比于女性，男性的图像在质量评价上始终更高，更具真实感，且更容易被计算机理解。当女性出现在传统由男性担任的职业中时，这种差距最为明显。在这种情况下，女性的图像往往被判定为不如同等角色下的男性那样具有合理性或真实感。此外，模型还陷入了关于男女外貌应有的刻板印象。男性图像经常呈现为严肃、强壮且年长的形象，而女性图像则几乎总是被描绘为年轻、纤瘦、微笑且具有吸引力的样子。这种“双向刻板印象”意味着机器不仅将男性作为默认标准，还在积极构建两套截然不同且具有局限性的性别视觉剧本。
最令人震惊的发现涉及那些不属于男女二元类别的人群。当研究人员要求模型生成非二元性别者的图像时，系统表现出了明显的挣扎。生成的图像往往质量低下、未能捕捉到提示词的核心，或者默认显示为年轻男性。这表明，对于这些模型而言，非二元性别身份不仅代表性不足，而且在很大程度上是“无法识别”的。为了理解这些发现对人类的影响，研究人员邀请了数千名参与者观看与自己身份相关的图像——即这些参与者与图中人物具有相同的国籍和性别。反馈结果发人深省。许多参与者在看到自己的身份被简化为狭隘、刻板的模板时，感到了一种排斥感或不安全感。一位参与者指出，看到一种关于自身身份的“模板”感觉很奇怪，仿佛机器对来自其国家的人有着非常具体且有限的认知。然而，当图像打破这些刻板印象——例如展示一位处于高权力地位的女性，或以一种真实感十足的方式呈现非二元性别者时——参与者则表示感受到了认同与赋能。
研究人员强调，这些结果并非某个单一模型或单一公司的过错。他们测试了来自德国、英国和中国等不同开发者的四个不同系统，并在所有系统中都发现了相同的模式。这种一致性指向了一个更深层的问题，即根植于这些技术所使用的共享数据和方法。研究结论指出，这些机器并非中立的工具；它们正在编码一套性别逻辑，即将男性视为标准人类，惩罚那些脱离传统角色的女性，并抹除非二元性别的身份。随着这些系统日益融入我们的日常生活，它们生成的图像存在着成为“自我实现预言”的风险，在无形中缩小了我们关于“谁属于哪里”以及“谁有权被看见”的集体想象力。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。