Negotiating Risk Boundaries in AI for Policing Through Mixed-Stakeholder Deliberation
本文介绍了英国一次多方利益相关者研讨会的研究结果，在这次研讨会中，社区代表、警务人员和学者共同评估了人工智能警务工具，结果表明，通过将种族公平置于核心地位，由于各方转向关注效能与普遍益处而非直接拒绝，从而使大多数应用场景获得了广泛的认可。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你是一位名为“社会”的庞大且略显破旧之船的船长。你的船上安装了一套全新的、闪亮的导航系统：人工智能（AI）。这不仅仅是一个指南针；它是一个超级聪明的机器人，可以预测风暴、发现隐藏的暗礁，甚至能建议前往目的地的最快航线。在警务领域，人们正要求这个机器人协助抓捕坏人、决定谁可能再次违法，以及研究应该向哪里派遣警力。但问题在于，这艘船的历史记录显示，它曾离某些岛屿太近，从而伤害了那里的人民，而这个机器人可能正是从那些旧地图中习得了这些坏习惯。
这篇论文深入探讨了技术与人类公平性相遇的一个非常特定的科学领域。它探索了我们如何在利用这些强大的 AI 工具的同时，避免无意中加剧旧有的不公。核心概念是“偏见”——它就像一副眼镜，让你以扭曲的方式看待世界。如果机器人的眼镜被过去的错误所染色，它可能会仅仅因为一个人的身份或居住地，就认为一个无辜的人具有危险性。大问题不仅在于“机器人能否胜任这项工作？”，还在于“它能否为所有人公平地完成这项工作？”这一点至关重要，因为如果我们让机器人驾驶这艘船而不检查它的视力，我们可能会撞向那些我们试图保护的人。
那么，研究人员实际上做了什么呢？他们并没有仅仅坐在实验室里进行计算机模拟。相反，他们组织了一场由 30 人参加的大规模一日“船员会议”。这个小组由警察、社区领袖（了解街道情况和邻里疾苦的人）以及科学家组成。他们坐在一起，审视了警察使用 AI 的 13 种不同方式。他们没有仅仅询问“这项技术很酷吗？”，而是问道：“它有效吗？它有帮助吗？而且它对所有人都有帮助吗？”
结果非常微妙。该小组并没有否定整个 AI 的想法。事实上，他们大多持开放态度！他们仅对三种特定的用途说了“不，绝对不行”。最大的“不”针对的是那些试图预测某人是否会再次犯罪的工具（称为“累犯风险”）。参与者认为，仅仅猜测一个人的未来行为这一概念本身就是有缺陷的，而不仅仅是代码的问题。他们辩称，如果系统是建立在过去的逮捕记录之上，它只会不断地惩罚同样的人，就像一个永不停歇的滚轮。
然而，对于其他工具，比如使用 AI 来识别犯罪热点地区或帮助警员撰写报告，该小组则更愿意尝试。但他们提出了严格的规则。他们不希望机器人成为船长，而是希望它成为一名得力的副驾驶。他们坚持要求人类警员必须始终是做最终决定的那个人。他们还要求 AI 必须是透明的——不能是“黑箱操作”。如果要使用这项工具，它必须证明它确实有效，并且不会仅仅创造一种虚假的效率感。
研究人员发现的最引人入胜的事情之一是该小组的讨论方式。尽管会议的主要焦点是种族偏见，但对话自然而然地演变成了更宏大的议题。对于每一种工具，参与者都会问同样的三个问题：“它真的有效吗？它会带来真正的益处吗？以及这些益处是否能惠及所有人，而不仅仅是少数幸运儿？”
这就像城市设计中的“路缘坡度效应”（curb-cut effect）。你知道吗，为轮椅使用者建造的坡道同时也帮助了推婴儿车的人、推着货物的递送员或带着行李箱的旅行者。研究人员发现，通过针对最弱势的群体来设计 AI，他们最终提出了更好的问题，使工具对所有人来说都更安全、更有用。他们意识到，如果你为那些最容易受到工具伤害的人解决问题，你通常也就为其他人解决了问题。
最后，这篇论文表明，构建公平 AI 的最佳方式并不是制定一份“禁止清单”，也不是只让技术专家来做决定。而是要尽早让整个社区参与进来。参与者表明，当你混合不同的声音——警察、社区成员和科学家——你会得到一个更清晰的风险图景。他们并没有拒绝进步；他们只是要求进步是诚实的、有益的且公平的。他们证明了，如果你想要一个能帮助船只安全航行的机器人，你必须倾听那些最了解水域的人。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。