AI Governance - Social Contestability Framework-vFinal
本文认为，合法的人工智能治理需要将重心从内部合规性人工制品转向“社会可争辩性”——即受影响个体理解、质疑并纠正人工智能驱动决策的能力——并提出了五项制度条件和一个生命周期测试，旨在将该框架落实到主要的治理工具和现实世界的应用案例中。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象这样一个世界：一个计算机程序决定了你是否能获得一份工作、一笔贷款或一次医疗救治。近年来，政府和公司建立了一套庞大的规则体系，以确保这些程序表现良好。他们制定清单、撰写报告并进行审计，以证明其软件是安全且公平的。这些规则固然重要，但它们往往关注的是公司内部的操作。它们检查文书工作是否完整，却很少询问处于接收端的个人在出现问题时是否能够发声。这种差距正是沙特法拉西银行（Banque Saudi Fransi）研究员希拉兹·阿斯兰姆（Shiraz Aslam）研究的核心所在，他认为，如果受决策影响的人无法提出质疑，那么仅仅拥有一本规则手册是不够的。
该论文探讨的核心概念被称为“社会可争辩性”（social contestability）。简单来说，这意味着如果一台计算机做出了改变你生活的决定，你必须拥有真正的途径去获知这一情况、理解其发生的原因，并能向一个拥有实际权力的真人求助，以便在出错时予以纠正。如果所谓的“人在回路中”只是一个无法说“不”的橡皮图章，那么仅仅说公司拥有人类参与是不够的。该研究指出，真正的公平需要受损者与能够撤销决定的机构之间存在一条直接的沟通渠道。否则，一家公司即便完全符合所有法律规定，仍可能让受影响的人求助无门。
为了研究如何构建这种安全网，研究人员查看了当今世界使用的四套主要规则：欧盟的《人工智能法案》、美国国家标准与技术研究院（NIST）的风险管理指南、经济合作与发展组织（OECD）的原则，以及美国政府的一份《人工智能权利法案》蓝图。该研究将这些文件进行了对比，以观察它们究竟允许普通人做什么。分析发现了一个反复出现的问题：这些框架非常擅长告诉公司如何管理自身的风险，但在如何让个人反抗不良结果方面却往往保持沉默。一家公司可能拥有一份完美的审计追踪记录，显示他们检查了工作，但被拒绝贷款的人仍然没有清晰的路径去找到一个有权改变主意的真人。
随后，研究人员检查了五个自动化系统造成伤害的现实案例，以观察系统究竟在何处失效。其中一个案例涉及一种招聘工具，由于学习了带有偏见的历史数据，导致其拒绝了女性申请者。另一个案例涉及一种医疗算法，因为它将医疗费用作为医疗需求的替代指标，从而对黑人患者产生了歧视。此外，英国的一个评分系统通过统计公式覆盖了教师的判断；澳大利亚的一项政府债务计划则迫使公民证明自己没有犯错，尽管错误并非由他们造成。在每一个案例中，机构都有规则和文档，但受影响的人却无法有效地质疑决定。研究发现，在每一次失败中，系统都缺乏一套特定的条件，而这些条件本可以允许个人对结果提出异议。
针对这些失败，论文提出了使系统真正具备可争辩性的五个特定条件。首先，对于造成更大伤害的决策，规则必须更加严格；一个聊天机器人的错误需要的保护程度，远低于一项拒绝医疗救治的决定。其次，负责审查这些决定的真人必须拥有足够的权力、时间和信息来对计算机说“不”。第三，公司必须用通俗易懂的语言解释决定，并明确告知个人如果产生异议该如何处理。第四，必须明确谁应对错误负责，这样个人才不会在不同部门之间被踢皮球。最后，必须进行检查，以确保修复错误的负担不会不公平地落在弱势群体身上。
该研究引入了一项实用的测试，供组织在项目的每个阶段（从最初构思到最终产品）使用。该测试会提出具体问题，例如：“我们是否有让人们申诉的计划？”以及“我们的审查人员是否有权否决系统？”当研究人员将此测试应用于澳大利亚债务丑闻时，结果显示，尽管政府遵循了许多内部规则，但在几乎每一个步骤上都未能通过可争辩性测试。他们没有测试人们是否能理解通知内容，没有赋予人类在债务通知发出前阻止系统的权力，也没有在系统开始失灵时分配明确的责任。测试表明，问题不在于缺乏规则，而在于缺乏连接个人与能够解决问题的权威机构之间的有效纽带。
论文总结道，人工智能治理的目标不应仅仅是在纸面上证明系统是安全的，而应该是保留人类说“不”的能力。它主张我们必须将关注点从公司的内部文件转向机构与公民之间的关系。如果一个系统不能被受影响的人挑战、纠正或停止，那么无论公司填了多少份清单，它都不是真正受到治理的。这项研究并不声称解决了人工智能的所有问题，但它提供了一种清晰、实用的方法，用以检查屏幕另一端的人是否拥有发言权。它暗示，衡量一个系统是否公平的标准，不在于它是否遵守了规则，而在于它是否允许受其影响的人对其进行问责。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。