Standards for trustworthy AI in the European Union: technical rationale, structural challenges, and an implementation path
本白皮书概述了一个面向生命周期的分层式欧盟人工智能法案（AI Act）标准化框架，并指出尽管存在随机行为和数据依赖性等独特的各种技术挑战，但将横向流程义务与行业特定概况相结合的协调标准，对于将法律要求转化为可审计的工程实践并实现可扩展的合规性评估至关重要。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
大局观：将规则转化为食谱
想象一下，欧盟（EU）通过了一项严格的法律，叫做**《人工智能法案》（AI Act）**。这项法律规定：“人工智能必须是安全、公平且值得信赖的。” 但法律就像宽泛的指令，比如“安全驾驶”。它们并没有告诉你如何安全驾驶（例如，“与前车保持两个车身的距离”）。
这篇论文认为，技术标准就是缺失的“驾驶手册”。它们将模糊的法律规则（“要安全”）转化为具体的、可检查的食谱（“每行驶 5,000 英里检查一次刹车”）。
如果一家 AI 公司遵循了这些具体的食谱（标准），欧盟就会给予他们**“符合性推定”（Presumption of Conformity）。你可以把它想象成一个“金质认可印章”**。公司不需要向法官证明“相信我，我的车很安全”，而是可以直接说：“我遵循了官方食谱，而食谱规定我的车是安全的。” 这样，举证责任就从公司转移到了标准本身。
问题所在：AI 是一个“变幻莫测”的原料
论文解释了为什么为 AI 编写这些食谱极其困难，比为烤面包机或汽车编写食谱要难得多。
AI 具有随机性（它像是一次抛硬币）：
- 类比： 想象你在烤蛋糕。如果你使用完全相同的配料和食谱，你会得到同样的蛋糕。但 AI 更像是一个魔术表演。即使你使用了完全相同的食材和指令，每次烤出来的“蛋糕”（输出结果）可能都会略有不同。
- 挑战： 当蛋糕每次自然变化时，你如何编写一条规则来要求“蛋糕必须完美”？论文建议我们停止追求“完美的复制品”，转而开始测量“稳定性”。我们需要就蛋糕在多大程度上被允许发生变化，达成共识，从而判断其是否变得不安全。
数据是一个“神秘盒子”：
- 类比： AI 就像一个正在为考试学习的学生。如果学生学习的是由他人编写的、含有缺失页面或错误事实的教科书（第三方数据），那么这个学生会不及格。
- 挑战： AI 公司通常并不拥有其 AI 学习过程中使用的所有数据。论文指出，我们不能要求他们控制数据海洋中的每一粒沙子。相反，我们需要一种基于风险的方法：如果 AI 在从事危险活动（如诊断疾病），我们需要确切知道数据的来源。如果它在做低风险的事情（如推荐电影），我们可以放宽要求。
“移动目标”问题：
- 类比： 一辆汽车制造完成后即售出。而 AI 就像一个电子游戏角色，每周都会通过新的技能和新的弱点进行更新。
- 挑战： 你不能只在 AI 发布时测试一次。随着它不断学习和变化，它需要接受持续的测试。论文建议我们需要一个持续记录系统（类似于飞行记录仪），以实时观察 AI 的行为，而不仅仅是看它出生当天的报告。
解决方案：“层叠蛋糕”法
论文认为，我们不能编写一本适用于所有 AI 的单一规则书。一个咖啡馆的聊天机器人与一个控制核电站的 AI 所需的需求是不同的。
- 底层（水平标准）： 这是骨架。它适用于所有 AI。它规定了诸如“你必须有风险管理计划”、“你必须保留日志”以及“你必须记录你的数据”等内容。这是所有人通用的共同语言。
- 顶层（行业剖面/细分领域规范）： 这是血肉。它为特定的工作增加了具体的规则。
- 示例： “骨架”规定“测试错误”。而“医疗剖面”规定“对于心脏手术 AI，错误率必须低于 0.1%”。“娱乐剖面”则规定“对于电影推荐器，5% 以内的错误是可以接受的”。
为什么这很重要： 如果我们试图为所有人制定一套规则，这套规则要么因为太模糊而毫无用处，要么会对简单的应用过于严苛。通过堆叠这些层级，我们既拥有了共同的基础，又针对特定危险制定了具体规则。
它究竟是如何运作的：“保证案例”（Assurance Case）
论文提出了一种新的方式，让公司证明其安全性。他们不仅要说“我们是安全的”，还必须构建一个保证案例。
- 类比： 这就像是一个侦探的案卷文件。
- 主张（Claim）： “这个 AI 是安全的。”
- 证据（Evidence）： 一叠文件。“这是我们尝试欺骗 AI 的测试，这是显示它没有崩溃的日志。这是我们使用的数据，以及如果它开始表现异常时我们的应对计划。”
- 检查员（Inspector）： 第三方审计师查看案卷文件。他们不需要猜测，只需要检查证据是否符合“食谱”（标准）。
总结
论文得出结论，尽管 AI 是混乱、不可预测且难以捉摸的，但我们必须拥有这些技术标准。如果没有这些标准，法律就只是一个口号。
- 没有标准： 每家公司都发明自己的方式来证明安全性。这会导致混乱、成本高昂且无法进行比较。
- 有了标准： 每个人都使用同一把卷尺。公司建立“质量体系”来遵循规则。审计师检查“案卷文件”。监管机构可以根据清晰的日志来执行法律。
这并不会保证 AI 是完美的（因为 AI 很复杂），但它创造了一个让 AI 的行为是可治理且可问责的系统。这才是该语境下“值得信赖”的真正定义。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。