想象一下，你正看着一辆自动驾驶汽车在高速公路上疾驰。你知道它会转向、刹车和变换车道，但你也知道它是有极限的。如果它遇到了暴风雪或混乱的施工区域，它需要准确地知道何时说：“好了，人类，该你接手了！”

现在，把同一辆自动驾驶汽车想象成医院里的机器人医生。这就是**代理式人工智能（Agentic AI）**的世界——这些智能系统不仅仅像一个乐于助人的图书管理员那样提供建议，而是实际在“做事”，比如自行调整患者的药物剂量或监测其心率。

问题在于？目前我们还没有一种好的方法来描述这些机器人医生到底有多“负责”。我们通常只是问：“这个 AI 准确吗？”但正如本文作者所言，这就像是在问一名飞行员：“你会飞吗？”却没问：“你在飓风中会飞吗？如果你的引擎失效了怎么办？”

核心理念：机器人医生的“驾照”

作者们（来自澳大利亚的一个由医生和技术专家组成的团队）提出了一种衡量这些 AI 系统的新方法。他们借鉴了汽车行业（那里已经有了自动驾驶汽车的标准）的一个精妙想法，并将其应用到了医疗领域。

你可以把它想象成每个机器人医生的**“三部分成绩单”**。我们不只看一个分数，而是从三个不同的维度进行观察：

1. 任务本身（临床任务）： 机器人具体能做哪些医疗动作？它只能建议吃药，还是真的能按下按钮来给药？
2. 游乐场（运行条件）： 机器人在哪里被允许工作？它只能在安静的 ICU 里照顾成年患者吗？还是可以处理混乱急诊室里的儿童？
3. 安全网（回退机制）： 出问题时会发生什么？机器人是直接死机？是大声呼救？还是有一个备份计划，在唤醒人类之前保证患者的安全？

机器人责任的六个等级

论文提出了一个从 Level 0 到 Level 5 的等级制度，非常类似于自动驾驶汽车的分级。以下是通过一个现实世界的例子——脓毒症（一种需要快速使用液体和药物进行治疗的致命性感染反应）来展示的过程：

• Level 0（无自动化）： 机器人只是一个计算器。人类医生完成所有操作：检查患者、决定剂量并按下按钮。机器人只是在旁观察。
• Level 1（临床辅助）： 机器人是一个超级聪明的助手。它会说：“嘿，我觉得这个患者需要 500 毫升液体。”但人类医生必须阅读建议、思考并亲自按下按钮。机器人没有行动权。
• Level 2（部分自动化）： 机器人开始亲自动手。它可以自动调整一项特定内容，比如某种特定的药物滴注，但必须在严格的限制范围内。人类医生必须就在旁边，随时准备在机器人产生困惑时立即接管控制权。
• Level 3（有条件自动化）： 这变得很有趣了。机器人可以负责特定病房内特定患者的全程管理。它监测患者并调整治疗方案。人类医生不需要每秒钟都盯着屏幕，只需要处于“可触达”状态（例如在隔壁房间）。如果机器人遇到了无法解决的问题，它会降级到一个安全、简单的模式，并呼叫人类接管。
• Level 4（高度自动化）： 机器人是船长。它管理患者，甚至能处理自己的错误。如果发生故障，机器人会自我修复或切换到安全模式，而不需要人类立即介入。人类仍然在场，但更像是偶尔检查工作的监督者。
• Level 5（完全自动化）： 这是理论上的“超级机器人”。它可以管理任何患者、在任何医院、在任何条件下工作，且永远不需要人类。作者明确表示：我们还没到那个阶段。 这个等级只是对未来的一个“假设”，目前没有人正在部署这个等级的机器人。

为什么这很重要：“自主权蔓延”陷阱

论文认为我们需要警惕“自主权蔓延”（Autonomy Creep）。这是指机器人开始做比原定计划更多的任务，在没人察觉或检查是否安全的情况下，悄悄地接管任务。

想象一下，你买了一个本该只负责清理客厅的扫地机器人。随着时间的推移，它开始清理楼梯，然后是厨房，最后是屋顶。如果你没有一个明确的规则手册说：“停！你只被允许清理客厅。”那么这个机器人可能会从屋顶掉下去。

作者建议，医院必须为每个机器人明确定义两件事：

1. 它能做什么（其技术能力）。
2. 它被允许做什么（其授权等级）。

如果一个机器人的软件更新使其具备了 Level 4 的能力，但医院只授权它执行 Level 2，那么系统必须知道如何自我停止。如果它没有做到这一点，就会出现安全问题。

人类因素：我们准备好成为监督者了吗？

这是论文强调的一个棘手部分。当机器人接管更多任务时（从 Level 2 转向 Level 3），人类医生的工作性质发生了变化：从“做工作”变成了“看工作”。

作者指出一个悖论：当人类停止动手操作时，他们的技能会退化。如果一名医生整天都在看着机器人调整患者的心率，他们可能会忘记如何亲自动手操作。如果机器人突然失效，而医生必须介入，他们可能会因为技术生疏而无法挽救局面。

论文指出，我们目前还没有针对“AI 监督员”的培训系统。我们知道如何训练医生进行手术，但我们还不知道如何训练医生去“观察”机器人进行手术，并随时准备在必要时介入。

总结

作者并不是说我们应该停止制造这些机器人。他们是说，在开车之前，我们需要一张更好的地图。

目前，我们正在制造强大的引擎，却在没有明确了解路况或刹车情况的情况下盲目驾驶。这个新框架表明，我们不应只问“这个 AI 聪明吗？”，而应该问“它被允许在哪里驾驶，以及当它遇到颠簸时会发生什么？”

直到我们在这三个领域——机器人的行为、工作地点以及如何处理失败——都有明确的规则之前，我们都面临着让这些强大的工具在“治理真空”中运行的风险，这可能会危及患者安全。论文建议，通过使用这种分级系统，我们可以确保当机器人医生到来时，它们是安全的、受监督的，并且是准备好提供帮助，而不是准备好肆意妄为。