Algorithmic Monocultures in Hiring
本文分析了一个由单一算法供应商筛选的包含400万份求职申请的新数据集，发现此类算法单一文化导致了同质化的拒录结果，对黑人和华裔申请人造成不成比例且不利的影响，往往迫使申请人采取广泛投递策略以争取人工审核。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是用通俗语言和日常类比对论文《招聘中的算法单一文化》的解释。
核心理念：“一刀切”的守门人
想象一下你在找工作。过去，你可能会向 20 家不同的公司投递简历。每家公司都有自己的招聘经理，都有自己阅读简历的方式，以及对优秀员工独特的偏好。如果一位经理不喜欢你，另一位可能会非常欣赏你。你有许多不同的门可以敲。
然而今天，许多公司不再独自招聘。它们都雇佣同一个“守门人”。
这篇论文研究了一家特定的招聘公司，名为pymetrics。它们开发了一款软件，通过游戏来测试求职者。软件不阅读简历，而是观察你如何玩这些游戏并给你打分。如果分数高，你就进入下一轮由人类面试；如果分数低，你就会被立即拒绝。
问题在于：美国超过 60% 的最大企业使用的是完全相同的守门人。
作者将这种现象称为“算法单一文化”。这就像是一个花园，每位农民都使用完全相同的种子和完全相同的水壶。如果这种种子不适合某种土壤，那么每位农民的花园都会以同样的方式失败。在招聘中，如果算法存在偏见，它会在求职者申请的每一家公司中拒绝同一些人。
研究：他们的发现
研究人员获取了一个庞大的秘密数据库，其中包含来自 156 家不同公司的330 万人的400 万份求职申请。他们观察了这些人玩游戏后发生了什么。
以下是他们发现的三件主要事情：
1. 种族的“厄运”（不利影响）
研究人员检查了这些游戏是否公平地对待了不同的种族群体。他们查看了每个具体职位的结果，而不仅仅是平均值。
- 发现： 他们发现，对于黑人求职者，他们发送的申请中约有26%是投向了算法在统计上可能不公平地拒绝他们的职位。对于亚裔求职者，这一比例约为15%。
- 类比： 想象一个略微倾斜的篮球框。如果你个子高，你可能仍然能投进。但如果你处于特定身高，这种倾斜会让你根本无法得分。研究人员发现，对于某些种族群体，算法中的这种“倾斜”使得获得“通过”分数变得困难得多，尽管游戏本身并没有询问种族。
2. “系统性拒绝”（被处处封杀）
这是最令人惊讶的部分。作者问道：如果一个人申请许多不同的职位，会发生什么？
在正常世界中，如果你申请 10 份工作，你可能会被 8 家拒绝，被 2 家接受。你还有机会。但由于如此多的公司使用相同的算法，结果却是完全一致的。
- 发现： 如果求职者申请 10 个不同的职位，4% 的人会被所有 10 家全部拒绝。
- 类比： 想象你是一名音乐家，试图获得演出机会。你为 10 个不同的乐队试演。
- 正常世界： A 乐队讨厌你的风格，但 B 乐队喜欢它。你得到了一份工作。
- 单一文化世界： 所有 10 个乐队都使用同一个“音乐评委”机器人。机器人判定你不合适。你瞬间被所有 10 个乐队拒绝。你遭到了“系统性拒绝”。你不仅仅是运气不好；系统在同一时间关闭了你所有的门。
研究人员发现，这种“全有或全无”的拒绝情况发生的频率，远高于每家公司都独立做出决定的情况。
3. “超级求职者”模拟
研究人员想知道：求职者能否通过申请更多工作来修复这个问题？
他们利用计算机运行“如果……会怎样”场景的能力。他们模拟了如果求职者申请数据库中每一个可用职位会发生什么。
- 发现： 即使在这种极端模拟中，没有人被每一个模型全部拒绝。每个人至少在一个职位上获得了推荐。
- 现实检验： 然而，在现实世界中，人们无法申请每一份工作。他们必须有选择性。模拟显示，为了有 99.9% 的机会获得至少一个推荐，一个人需要申请25 个不同的职位。
- 类比： 为了在这个系统中找到一个“是”，你必须敲 25 扇门。在正常系统中，你可能只需要敲 10 扇门。算法单一文化迫使求职者付出更多的努力，仅仅为了获得一次机会。
为什么这很重要
该论文认为，当许多公司依赖相同的少数供应商进行招聘时，它们就制造了一个瓶颈。
- 它掩盖了偏见： 如果你看所有公司的平均值，数据看起来可能还可以。但当你查看具体职位时，偏见就很明显了。
- 它制造了“死胡同”： 这不仅仅是你可能得不到一份工作的问题；而是你可能被锁在整个劳动力市场之外，因为同一个算法在你所看到的任何地方都拒绝了你。
- 它难以修复： 因为数据隐藏在这些私营公司内部，研究人员或监管机构很难看到这种情况的发生，直到为时已晚。
作者的建议
该论文提出了一些解决此问题的方法：
- 检查每个职位，而不仅仅是平均值： 监管机构应查看算法如何对待每个具体职位的人，而不仅仅是整个公司的总雇佣人数。
- 关注“单一文化”： 机构应监控有多少公司使用相同的供应商。如果太多公司依赖同一个工具，就会给整个经济带来风险。
- 让研究人员进入： 了解这些系统是否公平的唯一方法是让独立的科学家查看数据。作者建议，法律应强制这些公司与研究人员共享数据，类似于社交媒体平台现在被要求与科学家共享数据的方式。
总结
这篇论文揭示，通过都使用同一个“招聘机器人”，公司无意中创造了一个系统，导致同一些人在他们申请的每个地方都被拒绝。这就像城市里的每家俱乐部都有一个单一的、带有偏见的保镖；如果你被他拒之门外，无论你尝试多少家俱乐部，你都进不去。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。