💻 computer science

Picturing Perceptions: An Open-Source Toolkit to Uncover Bias in Humans and Machines

本文介绍了 PictoPercept，这是一个开源工具包，它通过针对现实世界劳动力数据的视觉强制选择比较，来衡量并揭示人类判断与人工智能系统在不同人口统计群体间收入方面的显著且往往存在分歧的偏见。

原作者： Saurabh Khanna, Zhijun Chen, Chei Billedo, Jiayi Yan, Irene van Driel, Alex Barco Martelo, Hugo Moreda Cartagena, Haizea Gonzalez Atorrasagasti, Markel Adanez Perez, Daniela An, Qianyi Wang, Xinkangru

发布于 2026-06-15

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Saurabh Khanna, Zhijun Chen, Chei Billedo, Jiayi Yan, Irene van Driel, Alex Barco Martelo, Hugo Moreda Cartagena, Haizea Gonzalez Atorrasagasti, Markel Adanez Perez, Daniela An, Qianyi Wang, Xinkangrui Gao, Lauren Taylor, Olga Eisele, Sindy Sumter

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，如果你仅仅通过观察一张脸来猜测谁赚得更多。你会猜对吗？还是说你的大脑会依赖于陈旧的刻板印象，就像一个不断把你带向错误道路的故障 GPS 一样？

这篇论文介绍了一个名为 PictoPercept（意为“图像感知”，简称“Picturing Perceptions”）的新工具，旨在测试正是这一点。它就像是一个专门为人类和计算机设计的“偏见检测器”。

以下是研究人员所做的工作以及他们的发现，用简单的语言解释如下：

问题所在：旧工具已经失效了

多年来，科学家们试图通过调查问卷（直接询问人们）或反应时测试（测量人们点击按钮的速度）来衡量偏见。

调查问卷 就像是在问某人：“你是种族主义者吗？”大多数人都会说“不是”，因为他们想表现得体。这就像问一个小偷是否偷东西；他们会撒谎。
反应时测试 就像是一款你需要快速分类单词的视频游戏。但是，计算机并不具备与人类相同的“反应时间”，因此这些测试无法用于检查人工智能是否存在偏见。
缺失的地图： 这些旧工具都没有检查人们的猜测是否符合现实。它们只是在测量人们是更倾向于 A 组还是 B 组，而没有询问：“A 组在现实世界中实际上是更富有还是更贫穷？”

解决方案：视觉“强制选择”游戏

研究人员构建了 PictoPercept，这是一个开源工具包（意味着任何人都可以免费使用）。

游戏规则： 你在屏幕上看到两张脸。提示语问：“谁更有可能拥有更高的收入？”你必须选择其中一个。你不能说“我不知道”。
技巧： 这些面孔经过精心匹配，看起来同样具有吸引力和可信度。唯一的区别在于他们的种族和性别。
地图： 研究人员将你的选择与来自美国劳工统计局的真实数据进行了对比。如果数据显示亚裔男性收入最高，但你却一直把拉丁裔男性选为高收入群体，那么该工具就会将其计算为一个“偏见得分”。

他们对 283 名真实的美国成年人 进行了测试，同时也将完全相同的图片输入到了强大的 AI 模型 GPT-5 中。

巨大的惊喜（研究结果）

1. “模范少数族裔”的盲点
最大的冲击来自于 亚裔美国人。

现实情况： 根据政府数据，亚裔美国人实际上是美国收入最高的群体。
认知偏差： 人们极大地低估了他们的收入。即使面对亚裔男性和女性的面孔，人们猜测他们的收入也比实际情况要低。
讽刺之处： 研究中的 亚裔参与者 甚至也低估了自己群体的收入！这似乎说明整个国家对这个群体的成功存在盲点，也许是因为他们在领导层或媒体中的曝光度不够。

2. “内群体”神话
我们通常认为人们总是偏袒自己的群体（例如，白人偏袒白人，黑人偏向黑人）。

现实情况： 这对所有人来说并不成立。
- 白人男性 确实表现出了偏袒，即高估了自己群体的收入。
- 然而，亚裔参与者 做出了相反的行为。他们显著地低估了自己的群体。他们不仅忽视了偏见，甚至认为自己群体的收入比实际情况要低。
- 其他群体（如黑人和拉丁裔参与者）对自己的群体表现得非常准确，没有表现出强烈的偏袒或偏见。

3. AI 的偏见甚至更严重
当他们测试 GPT-5（AI）时，结果令人震惊。

AI 不仅模仿了人类的偏见；它还放大了这种偏见。
AI 在判断女性方面表现得极其糟糕。它系统性地认为所有女性群体的收入都远低于实际水平。
它认为所有男性群体都赚得更多。
虽然人类也会犯错，但 AI 的错误是巨大、一致且极端的。这就像一个学生不仅答错了题，而且错得离谱，误差达到了十倍之多。

为什么这很重要

论文指出，偏见不仅仅是关于“讨厌”某个群体；它是关于拥有一个 扭曲的现实地图。

如果你认为一个群体的收入比实际低，你可能会在招聘或贷款时对他们不公平。
该工具表明，我们的脑海（以及我们的计算机）运行的往往是与现实世界不符的过时软件。

总结

PictoPercept 是一种全新的、开源的方式，用来检查我们的感知是否符合现实。它发现：

我们对亚裔美国人的高收入视而不见。
我们并不总是偏袒自己的群体；有时我们会低估自己。
像 GPT-5 这样的 AI 模型目前的偏见比人类还要严重，尤其是在针对女性方面。

作者建议，在我们让 AI 做出重大决策（如决定谁能获得贷款或工作）之前，我们需要这样的工具来检查 AI 是否正在通过一面“哈哈镜”来看待世界。

技术摘要：视觉感知图谱 (PictoPercept)

问题陈述
人类判断与人工智能（AI）系统中的偏见在招聘、贷款和刑事司法等具有重大影响的领域构成了严峻挑战。现有的偏见测量方法存在根本性的局限性：

人类偏见测量： 传统的基于调查的工具是基于文本的、显性的，且容易受到社会期望效应的影响。这些工具通常需要针对不同维度（如性别、族裔）使用独立的测量工具，导致交叉性评估效率低下。此外，它们缺乏在人口统计学现实中的锚定，无法区分对现有不平等的准确感知与扭曲的感知。
AI 偏见测量： 当前的 AI 公平性研究依赖于算法审计和数据集分析，这与人类偏见研究方法（如调查或内隐联结测试）并不兼容。内隐联结测试（IAT）虽然通过反应时间有效地测量人类的内隐偏见，但无法应用于 AI 系统，因为 AI 缺乏人类般的反应时间，或通过不同的计算机制进行运作。
差距： 目前缺乏一个统一的、开源的框架，能够同时测量人类和机器的偏见，并以人口层面的基准而非抽象的相对偏好为基础。

方法论：PictoPercept
作者介绍了 PictoPercept，这是一个旨在通过基于人口层面基准的视觉强制选择比较来测量偏见的开源工具包。

刺激物： 研究使用了 68 次强制选择试验（64 次实验性试验 + 4 次注意力检查），使用的是来自芝加哥面部数据库（CFD）的标准化人脸照片对。图像在非核心协变量（吸引力、信任度、年龄、支配地位）上经过仔细平衡，以隔离人口统计学效应。
任务： 参与者（包括人类和 AI）观察成对的面孔，并回答以下问题：“哪个人更有可能拥有更高的个人收入？”参与者被指示依赖直觉印象，以捕捉系统 1（自动）处理过程。
基准设定： 与产生相对指数（例如，对 A 组相对于 B 组的偏好）的传统测量方法不同，PictoPercept 将选择结果与美国劳工统计局（BLS）关于八个人口类别（男性/女性 × 亚裔/黑人/拉丁裔/白人）的中位数周薪的实际数据进行比较。
偏见计算：
- 基于现实的偏见得分： 计算为观测到的选择概率（ $P_{observed}$ $P_{o b ser v e d}$ ）与源自实际收入数据的预期选择概率（ $P_{expected}$ $P_{e x p ec t e d}$ ）之间的差异。
  - $P_{expected}(i|i, j) = \frac{Earnings_i}{Earnings_i + Earnings_j}$
  - $Bias_{reality}(i) = P_{observed}(i) - P_{expected}(i)$
- 正分表示相对于现实高估了某群体的收入；负分表示低估了该群体。
参与者：
- 人类： 通过 Prolific Academic 招募的 283 名美国成年人的全国代表性样本。
- AI： 使用完全相同的 64 对实验图像对对 GPT-5 视觉语言模型（OpenAI）进行了测试。模型针对每个试验运行 100 次以确保稳定性，并使用多数响应进行分析。

关键结果
研究验证了 PictoPercept 是一种具有心理测量学效度的工具（折半信度 $r_{sb} = 0.779$ ），并揭示了三个主要发现：

收入的系统性误解：
- 参与者极大地低估了亚裔美国人的收入，尽管根据美国劳工统计数据，该群体拥有最高的实际收入（亚裔男性： $1,759；亚裔女性：$ 1,363）。
- 相反，参与者高估了拉丁裔男性和白人男性的收入。
- 黑人女性也被显著低估。
内群体偏好（Ingroup Favoritism）的异质性：
- 内群体偏好并非普遍存在。白人男性参与者表现出明显的内群体偏见（高估了自身的收入）。
- 相比之下，亚裔参与者表现出显著的负向内群体偏见，即显著低估了亚裔男性和亚裔女性的收入。这表明即使在社区内部，也缺乏对自身经济成功的认知。
- 白人女性、黑人参与者和拉丁裔参与者对其所属群体的感知较为准确或表现出极小的内群体偏见。
AI 偏见放大：
- GPT-5 表现出比人类参与者更强的偏见。
- 该 AI 显示出极端的系统性低估所有女性群体和高估所有男性群体的倾向。
- AI 的偏见程度，特别是在性别方面，超过了人类的平均水平，其中拉丁裔男性获得的过高估计最为极端（偏见得分 > 1.0）。

意义与贡献
本文声称了若干理论和实践上的贡献：

方法论进步： PictoPercept 提供了一个用于评估人类和 AI 偏见的统一框架。通过使用视觉刺激和强制选择任务，它捕捉了内隐的、自动的心理过程（系统 1），同时减少了基于文本的调查中固有的社会期望效应。
交叉性： 该工具允许同时评估多个交叉维度（性别和族裔），而无需进行单独的测试模块，解决了诸如 IAT 等析因设计（factorial designs）的局限性。
基于现实的锚定： 通过将测量值锚定在客观的人口统计数据（BLS 数据）上，该框架能够区分是对不平等的准确感知还是偏见性的扭曲。这使得计算偏见的方向（高估/低估）以及相对于真实情况的幅度成为可能。
开放科学： 作为一种开源工具包，PictoPercept 促进了可重复性和知识的累积发展，克服了专有、闭源测量工具的局限性。
对 AI 的启示： 研究结果表明，最先进的 AI 模型不仅会镜像而且会放大人类的刻板印象，尤其是在性别方面。这挑战了“AI 在高风险决策中是人类判断的中立替代方案”这一假设。

作者总结道，PictoPercept 使更高效、更集成且具有实证依据的偏见测量方法成为可能，揭示了偏离人口统计现实的系统性误解，并强调了在部署到具有重大影响的领域之前，对 AI 系统进行严格审计的必要性。

问题所在：旧工具已经失效了

解决方案：视觉“强制选择”游戏

巨大的惊喜（研究结果）

为什么这很重要

总结

技术摘要：视觉感知图谱 (PictoPercept)

类似论文