WIDER-FAIR: An Annotated Version of the WIDER-FACE Dataset for Fairness Evaluation
本文介绍了 WIDER-FAIR，这是一个通过增加针对种族和性别的手动标注来扩展 WIDER-FACE 基准测试的新数据集，旨在实现公平性评估，并通过实验证明了人脸检测模型存在显著的性能差异，尤其是针对黑人个体。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你拥有一本巨大的、混乱的照片集，里面充满了人群、街景和活动的图片。这本相册被称为 WIDER-FACE，它一直是教计算机如何在照片中识别人类面孔的“金标准”。但问题在于：这个相册没有标签来告诉你是谁出现在照片中。你不知道照片里的人是男是女，也不知道他们的种族背景是什么。
由于缺少这些信息，检查计算机是否公平变得不可能。它是擅长识别各种类型的人脸，还是只在识别那些看起来像训练集多数派的人脸时表现出色？
于是，有了 WIDER-FAIR。
作者们拿走了那本巨大的、未标注的相册，并创建了一个新的、带有注释的版本，叫做 WIDER-FAIR。你可以把这想象成雇佣了一位非常细心的图书管理员，去查看每一张照片，并在每个面孔上贴上一张便签。这位图书管理员为他们能清晰看到的每张脸都记录了两件事：
- 感知性别： 这个人是男性还是女性？
- 感知种族： 这个人看起来是亚洲人、黑人、印度人还是白人？
注：论文强调，这些是基于图书管理员在照片中看到的“感知”标签，而非此人的真实身份，因为原始照片并没有提供这些信息。
“质量控制”检查
在信任这个新的标注相册之前，作者们想确保图书管理员没有把工作搞砸。他们使用了几种技巧来检查工作成果：
- “相似性”测试： 他们使用了一个计算机程序将长相相似的面孔进行分组。他们发现，被标记为“黑人”的面孔倾向于聚集在一起，而标记为“白人”的面孔也聚集在一起，正如预期的那样。这表明图书管理员的工作是一致的。
- “猜谜游戏”： 他们训练了一个简单的计算机，根据照片来猜测标签。计算机在大多数情况下都能答对，这让他们对标签的准确性有了信心，足以投入使用。
大实验：当我们隐藏某些群体时会发生什么？
这篇论文中最有趣的部分是，当他们尝试用这个新相册来教一个面部检测计算机（具体是一个名为 YOLOv5 的模型）时发生了什么。他们进行了一系列实验，就像在数据中玩“躲猫猫”游戏一样：
- 基准测试： 首先，他们使用整个相册（包含所有种族和性别）来训练计算机。他们发现，计算机的表现总体良好，但在识别黑人面孔时表现得最吃力。这就像一个刻苦学习的学生，却总是在特定章节的问题上丢分。
- “留一法”测试： 接下来，他们尝试在不使用某些群体的情况下训练计算机：
- 当他们从训练数据中移除亚洲人、印度人或白人的面孔时，计算机对其他群体的性能变化不大。
- 然而，当他们从训练数据中移除黑人面孔时，计算机检测黑人面孔的能力显著下降。更糟糕的是，它在检测黑人面孔与检测其他面孔之间的表现差距变得更大了。
比喻： 想象一位厨师正在学习做炖肉。如果他们练习制作牛肉、鸡肉和猪肉，他们就能处理好这三种食材。如果他们拿掉了练习中的猪肉，他们可能对牛肉和鸡肉的处理依然没问题。但如果他们完全拿掉了“牛肉”，然后要求他们做一道牛肉炖肉，他们就会失败得很惨。论文发现，“黑人面孔”这一组是计算机学习如何实现全面且公平准确的关键成分。
总结
论文得出结论：要构建一个公平的面部检测系统，你不能只是把一大堆照片扔给计算机并寄希望于好运。你需要包含多样化群体的显性数据。
作者们警告说，由于所有的标注都是由人工完成的，因此可能会存在无意识的偏见或错误。然而，他们认为这个数据集是一个至关重要的工具。它让研究人员能够停止猜测，转而开始精确测量他们的面部检测模型在何处以及为何会对某些人产生不公平对待，特别强调了将黑人面孔排除在训练数据之外会导致公平性出现最大的跌幅。
简而言之：WIDER-FAIR 是一个带有标签的照片集，旨在帮助我们发现技术的盲点，确保面部检测器是为所有人服务的，而不仅仅是为一部分人服务。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。