Towards AI Transparency and Accountability: A Global Framework for Exchanging Information on AI Systems
该论文提出了一种基于用于交换系统信息的开放标准的全球人工智能透明度与问责框架，利用标准化的“人工智能卡”和自动化评估，在平衡多样化局部法规的同时，实现可扩展且具成本效益的行业协作。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，将人工智能（AI）的世界比作一个庞大且混乱的全球汽车市场。目前，每个国家都在试图建立自己独特的一套交通规则、安全检查和驾驶执照考试。有些国家说：“禁止汽车进入！”而另一些国家则说：“随你开多快！”与此同时，汽车制造商（AI 公司）感到困惑、不知所措，并担心过多的监管会阻碍他们发明新的、酷炫的汽车。
这篇论文的作者提出了一个解决方案：全球“汽车安全护照”系统。
与其强迫每个国家都达成完全一致的法律，他们建议建立一种共享的、通用的语言和一个中央数据库，用于对 AI 系统进行测试、描述和比较。以下是他们提议的工作原理，分为几个简单的部分：
1. 通用“身份证”与“护照”
目前，如果你买了一辆车，你知道它是谁制造的，以及它具有哪些安全特性。但在 AI 领域，这往往是一个谜。
- 核心理念： 作者希望建立一个全球系统，让每个 AI 系统都拥有一个唯一的 ID 编号（就像车牌号）和一个数字“护照”。
- 运作方式： 这份护照包含一份标准化的“成绩单”（称为 AI 卡/AI Card）。它不仅仅是说“这个 AI 很聪明”，而是会说：“这个 AI 用于招聘人员。它的准确率为 92%，但它在某一群体上的出错率比另一群体高出 44%。”
- 益处： 就像你可以比较两辆车的燃油效率一样，政府和公众可以对两个 AI 系统进行横向对比，看看哪一个更公平、更安全。
2. “交警”与“技师”
论文建议由两个群体进行协作：
- 交警（AI 监管机构）： 这些是政府监管者。他们决定在各自国家适用的规则（例如：“在我们国家，我们最关心招聘的公平性”）。
- 技师（行业与研究人员）： 这些是构建 AI 的公司和科学家。
- 协作方式： 与其让交警编写一本让技师们深恶痛绝的千页规则手册，不如让技师协助设计测试。他们就一套标准测试（如碰撞测试或刹车测试）达成一致。随后，交警只需宣布：“你必须通过这些特定的测试才能获得你的护照。”这使得规则保持轻量且灵活，不会让公司陷入繁琐的文书工作中。
3. “测试菜单”（标准化衡量标准）
并非所有的 AI 都需要同样的测试。一辆自动驾驶汽车需要“碰撞测试”，但一个招聘 AI 需要“公平性测试”。
- 目录： 作者提出了一个“测试菜单”。各国政府可以挑选对他们而言重要的项目。
- 示例： 一个国家可能要求进行“人口统计差异”测试（检查 AI 是否公平对待不同群体）；另一个国家可能要求进行“输入影响”测试（检查 AI 是否在秘密利用个人的邮政编码来进行歧歧视）。
- 结果： AI 公司只需要运行特定国家要求的测试，但他们使用的是相同的方法来运行这些测试。这使得测试结果在全球范围内具有可比性。
4. “秘方”测试（防止作弊）
一个巨大的担忧是公司可能会“钻空子”。如果他们知道测试会问哪些问题，他们可能只会死记硬背答案（就像学生背诵模拟试卷，而不是真正学习知识），而不是真正掌握内容。
- 解决方案： 作者建议使用**“从未见过的测试数据”**。
- 类比： 想象一场驾照考试，考官没有告诉你会走哪条路线。他们带你去一条你从未见过的街道，在一种你从未驾驶过的天气条件下，要求你开车。
- “物理隔离”： 为了确保公司无法作弊，测试会在一个安全、隔离的环境中进行（就像一个密封的房间）。AI 系统无法与外界“交流”以获取测试题目。这确保了测试结果展示的是 AI 真实的行为，而不仅仅是它对小抄的记忆程度。
5. 为什么这对每个人都有利
- 对于公众： 你可以得到一份清晰、易读的 AI “营养标签”。你可以看到一个用于招聘的 AI 是否公平，或者一辆自动驾驶汽车是否安全。你可以像选择具有良好安全评级的汽车一样，选择购买或使用那些“更安全”的产品。
- 对于公司： 他们不必为每个国家都重新造轮子。他们构建一份可以更新并在全球使用的“护照”。这鼓励他们在“做得更好”和“更公平”方面进行竞争，而不是仅仅试图规避监管。
- 对于政府： 他们可以保留自己独特的法律（例如欧盟严格的规则或美国较宽松的规则），而不会破坏整个系统。他们只需将特定的要求接入到这个全球框架中即可。
总结
该论文认为，与其争论谁来制定规则，我们应该建立一个全球性的、开放的 AI“成绩单”库。通过使用标准化的测试、防止作弊的“惊喜”考试以及一个共享数据库，我们可以让公众和政府看清 AI 系统是如何运作的。这创造了一个让优秀、公平且安全的 AI 脱颖而出的市场，而无需为每一个国家编写一套庞大且令人窒息的法律。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。