ARC: Autonomous Robotics Compliance A Three-Layer Governance Architecture for Deployed Autonomous Systems
本文提出了自主机器人合规性（ARC）框架，这是一种针对已部署自主系统的三层治理架构，旨在通过模型验证、认知认证基准和运行授权标准来确保安全性与信任度。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个机器人不再仅仅是遵循简单预设指令的工具，而是能够以一种近乎人类的自主程度在我们的家庭、医院和仓库中穿梭的世界。它们可以绕过家具，理解口头请求，甚至能就如何完成一项任务做出决策。这种从受控机器向自主智能体的转变正在发生，正从实验室演示转向现实世界的应用。然而，在我们管理这一转型过程中，出现了一个关键性的缺口。几十年来，安全的标准一直是物理层面的：确保机器人不会撞到人或掉落重物。但随着机器人获得思考和推理的能力，一种新型的安全需求也随之产生了。仅仅知道机器人“能够”执行某项任务是不够的；我们还必须知道它在特定情况下是否被“允许”执行该任务。具备某种能力与获得执行该能力的许可，是两件截然不同的事情，然而目前的系统往往将两者混为一谈。
一项名为 ARC（自主机器人合规性）的新提案通过建议一个三步走的系统来规范这些机器的部署，从而解决了这一困惑。来自挪威和美国的 Wybe Labs 的研究人员认为，我们不能仅仅因为一个机器人展示了其能力就信任它。相反，我们需要一种分层的机制，对机器人的大脑、其整体系统以及它在特定地点执行的具体任务进行检查。第一层关注的是人工智能模型本身。近期的测试表明，即使是最先进的 AI 模型，当被要求作为物理机器人行动时，在遵守安全限制方面的失败率高达 30%。它们可能在文本层面理解了一条指令，却未能意识到执行该指令会导致物理伤害或违反规则。这一层充当了基础安全检查，以确保底层软件在离开实验室之前，能够理解物理世界及其自身的局限性。
第二层超越了软件本身，转向了整个机器。这一步涉及对机器人认知能力的独立审查，类似于对飞行员的测试——不仅测试其飞行技能，还要测试其如何处理紧急情况以及如何与空中交通管制进行交互。研究人员提出了一套基准测试，用以衡量机器人对周围环境的理解程度、规划行动的能力，以及最重要的一点：它何时知道拒绝。例如，在医院环境中，一个机器人可能具备为患者递送药物的能力，但它也必须足够聪明，能够识别出自己并无授权执行此操作，并转而询问护士。这一层确保了机器人不仅仅是一个高效的劳动者，更是一个负责任的个体，能够理解其进入环境所遵循的规则。
最后一层是最具体、或许也是最重要的：它授予特定的机器人在特定的地点执行特定工作的许可。研究人员强调，一个被认证可以在仓库工作的机器人，并不自动意味着它被允许在养老院工作，即使是同一台机器也是如此。这一层创建了一个将机器人、任务和地点紧密结合的“授权”。它还引入了“赢得”自主权的概念。机器人并非一开始就拥有完全的自由；它从临时身份开始，在监督下工作。只有在记录了数百小时的安全运行时间，且极少出错且未发生严重事故后，它才能赢得更高水平的独立性。如果机器人犯错或环境发生变化，其权限可以被立即暂停或撤销。该系统承认机器人旨在随着时间的推移进行学习和改变，因此其安全许可必须根据其实际表现进行持续更新，而非仅仅基于几个月前通过的一次测试。
论文将这种三层架构呈现为一种可测试的提案，而非现行的法律或已投入使用的标准，旨在探讨社会应如何应对这些强大的新机器。作者明确指出，虽然技术已经准备好投入使用，但我们的治理规则尚未就绪。通过将机器人“能做什么”与“被允许做什么”区分开来，并通过在每个层面要求提供安全证明，ARC 提供了一种将这些系统引入我们的生活而不失去控制的方法。它表明，机器人技术的未来并不取决于构建更智能的机器，而在于构建更智能的信任与验证系统，确保在场运行的每一台机器人都是凭实力赢得了其位置。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。