High-Risk AI Systems and the Problem of Identity in the European AI Act
本文主张，欧洲《人工智能法案》对高风险人工智能系统依赖模糊的身份判定这一问题，可通过应用“功能+"框架予以解决，该框架通过意图功能与可信度概况对系统进行个体化界定，从而为监管与治理语境中的共时性身份确立一项可审计的操作性标准。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是用简单语言和日常类比对该论文的解读。
核心难题：机器人何时成为“新”机器人？
想象一下，你购买了一台非常智能、用于高风险场景的机器人，以帮助运营医院或边境检查站。欧盟有一项新法律（《人工智能法案》）规定，这些机器人在投入使用前必须经过检查和认证。
但棘手之处在于：机器人是会变化的。 它们会接收软件更新，从新数据中学习，有时其设置也会被微调。
法律提出了一个难题：这仍然是同一台机器人，还是变成了一台新机器人？
- 如果它仍是同一台机器人，你就不需要支付昂贵的新检查费用。
- 如果它变成了一台新机器人，你就必须停工，重新规划，并获得一张全新的证书。
该论文指出，现行法律在如何回答这个问题上有些模糊。作者安德烈亚·费拉里奥（Andrea Ferrario）提出了一种新的思考方式，即使用一种关于“身份”的“配方”。
解决方案：“功能+"配方
为了解决这个问题，作者使用了一个名为功能+（Function+）的哲学概念。这就像定义一辆汽车。
- 技术功能（引擎）： 这台机器被设计来做什么？（例如：“将人从 A 地运送到 B 地”）。
- 情境（“加号”）： 它在现实世界中应如何表现？（例如：“它不得发生碰撞，必须对所有乘客公平，并且必须透明地解释其为何向左转弯”）。
- 信任评分（等级）： 它目前是否真的表现良好？（例如：“它的安全度为 95%，公平度为 90%"）。
论文认为，只有当人工智能系统的引擎、规则和信任评分保持一致时，它才算是“同一台”系统。
论文中的两个真实故事
作者通过两个故事说明了为何这很重要：
故事一：医院分诊机器人（时间旅行）
一家医院使用人工智能来决定哪些患者需要优先接受紧急护理。
- 变化： 一种新病毒爆发。医院更新了人工智能，使其能更好地处理老年患者，并增加了一项功能，用于解释其做出决策的原因。
- 冲突： 医生说：“这是同一台机器人，只是更新了。”人工智能公司也说：“这是同一台机器人。”但护士们说：“不！它的思维方式变了。它是一台不同的机器人！”
- 论文观点： 如果人工智能的“信任评分”（其解释自身能力及公平对待患者的表现）下降，或其核心规则发生改变，它在法律上就是一台新机器人。它需要新的证书。如果法律没有明确的方法来衡量这一点，一旦机器人犯错，没人知道谁该承担责任。
故事二：机场面部扫描仪（双胞胎悖论）
两家机场都想从同一家公司购买面部扫描机器人。
- 设定： A 机场获得了“机器人 X"（超快、昂贵）。B 机场获得了“机器人 Y"（稍慢、便宜）。它们外观相同，执行相同的工作。
- 冲突： 公司声称：“机器人 X 更好，因为它更快。这是不同的产品，所以你们必须支付更多费用。”机场官员则说：“不，它们执行完全相同的工作。你们只是为我们不需要的速度收取额外费用。”
- 论文观点： 现行法律没有明确的测试标准来判定：“这两台机器人是相同的吗？”作者建议，我们应该检查：它们是否具有相同的信任评分？如果它们同样安全且公平，无论速度差异多么微小，在法律上它们都应被视为同一台机器人。
作者的两个主要主张
主张 1：法律已经拥有一台“时间机器”（历时性身份）
论文指出，欧盟《人工智能法案》确实有一种处理随时间变化的方法，但它隐藏在规则之中。
- 规则： 如果你对机器人的修改如此之大，以至于违反了规则或改变了其工作性质，这就属于“实质性修改”。
- 修正： 作者建议我们使用**功能+**配方使这一点更清晰。我们需要确切记录机器人启动时的“信任评分”，如果该评分后来下降过多，我们就知道它变成了一台新机器人。
主张 2：法律缺失了一面“镜子”（共时性身份）
论文指出，法律对于如何比较同一时间的两台机器人保持沉默。
- 缺口： 如果 A 机场和 B 机场拥有两台不同的机器人，法律没有提供清单来判定：“这两台在法律上是否相同？”
- 修正： 作者提出了一个简单的审计流程图（就像保安的检查清单）：
- 它们是否有相同的工作描述？（预期用途）
- 它们是否有相同的规则手册？（可信度概况）
- 它们目前的成绩单是否相同？（可信度等级）
- 如果三项均为是：它们是同一台机器人。
- 如果任何一项为否：它们是不同的机器人。
建议：如何解决
作者提出了两个实际步骤，以便在现实世界中落实这一方案：
- 明确具体工作： 不要只说“这台人工智能协助医生”。而要说“这台人工智能协助医生按紧急程度对患者进行分类，但不允许其诊断癌症”。这能防止人工智能伪装成它并非的事物。
- 标准化成绩单： 不要让每家公司都自行发明衡量“安全性”或“公平性”的方法，我们需要一个标准模板。想象一下，如果每辆车都必须展示一个以完全相同方式计算的“安全星级评分”（例如 5 星）。如果人工智能的评分从 5 星降至 3 星，我们就知道是时候进行新的检查了。
总结
该论文认为，为了公平地监管人工智能，我们需要停止猜测机器人是“同一台”还是“新”的。我们需要一种清晰的、数学化的方法来衡量其目的、规则和性能。如果这些因素发生变化，法律就应将其视为一台新机器人。这使得在出现问题时更容易确定责任人，并阻止公司为本质上相同的机器人收取额外费用。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。