Empowering Affected Individuals to Shape AI Fairness Assessments: Processes, Criteria, and Tools
本文通过一项针对信用评分场景的用户研究，探讨了受AI影响的个体如何通过交互式工具将自身的公平性观念转化为具体的量化标准，为构建更具包容性和价值敏感性的AI公平性评估流程与工具提供了实证依据。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这是一篇关于“如何让普通人参与 AI 公平性评估”的研究论文。为了让你轻松理解，我们可以把这个复杂的 AI 过程想象成一场**“厨师与食客的博弈”**。
1. 背景：现在的 AI 像是一个“固执的厨师”
想象一下，你走进一家餐厅，点了一份菜。现在的 AI 系统就像是一个只听从“大厨（AI 专家）”指令的厨师。
大厨在做菜时，有一套自己的“公平标准”：比如，他认为只要每桌客人分到的菜量差不多，就是公平的。他只盯着“菜量”这一个指标（这就是论文里说的“预设指标”）。
但问题是，大厨并不了解食客（受影响的普通人）的心声。有的食客可能觉得，如果厨师在做菜时偷偷用了过期的食材，或者在切菜时对某些客人表现出不耐烦，哪怕最后菜量一样，这道菜也是“不公平”的。
目前的现状是： AI 的公平性规则是由专家和监管者定的，普通人只能被动接受结果，却无法参与规则的制定。
2. 这项研究做了什么？：给食客发了一套“定制调料包”
研究人员觉得，既然食客才是真正吃菜的人，那应该让他们来定义什么是“好菜（公平的 AI）”。
于是，他们找了 18 位普通人（不是专家），让他们模拟在“银行贷款审批”这个场景下，去给 AI 制定规则。研究人员设计了一个**“交互式原型工具”，就像是给食客发了一套“定制调料包”**。
通过这个工具，普通人可以做三件事：
- 挑选食材（特征选择）： “我不希望你用我的性别来决定贷款额度，请把这个‘食材’拿走！”
- 混合调料（组合指标）： “我不只要每个人拿到的钱一样多（结果公平），我还要你确保在做决定时，不能因为我是外籍人士就对我区别对待（过程公平）。”
- 发明新口味（创造新标准）： “我想要一种全新的标准：如果一个人的信用记录很好，但因为某些特殊原因被拒绝了，那这就是不公平！”
3. 研究发现了什么？：普通人的“公平观”非常丰富
研究发现，普通人眼中的“公平”远比专家想的要复杂得多。他们不仅仅关注**“结果”，更关注“过程”**。
- 专家看“结果”： 就像看最后盘子里剩了多少菜。
- 普通人看“过程”： 他们会想，“你切菜的手法对不对？”、“你是不是在用一些不该用的配料？”
具体来说，普通人提出了三种“公平标准”：
- “别带偏见”： 明确要求 AI 别看性别、别看年龄。
- “别乱用料”： 即使你用了这些信息，也请降低它们的重要性，别让它们左右大局。
- “组合拳”： 他们不喜欢单一的标准，喜欢把好几个标准组合在一起，形成一套严密的“防作弊规则”。
4. 总结：让 AI 更有“人情味”
这篇论文的核心意义在于：它证明了普通人虽然不懂复杂的数学公式，但完全有能力、也有权利去定义什么是公平。
如果未来的 AI 开发能像这篇论文建议的那样，给普通人提供好用的工具，让他们能参与到“制定规则”的过程中，那么 AI 就不再是一个冷冰冰、固执己见的“大厨”，而是一个能够理解人类多样价值观、更具“人情味”的智能助手。
一句话总结： 这项研究在教我们如何把“定义公平”的权力，从少数专家手中，交还给那些真正会被 AI 决策影响的普通人手中。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。