Towards Adaptive Categories: Dimensional Governance for Agentic AI
本文主张从静态的分类治理转向一种动态的“维度治理”框架，该框架追踪决策权、流程自主权和问责制（即 3A）在人机关系中流动的分布情况，从而为不断演进的代理型人工智能系统实现适应性且预见性的风险管理。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
核心问题：“不合身的盒子”
想象一下，你正在尝试整理一个图书馆。在过去，书籍是很简单的：你有“虚构类”的盒子和“非虚构类”的盒子。如果一本书是小说，它就进虚构类；如果是一本传记，它就进非虚构类。当书籍是静止不变的对象时，这种方法效果极佳。
但今天，AI 就像一本变形的书。
- 前一分钟，它还只是个无害的故事讲述者（低风险）。
- 下一分钟，同一个 AI 却可能在诊断病人或管理股票组合（高风险）。
- 更糟糕的是，当你还在阅读时，AI 正在不断地重写自己的章节。
作者认为，我们现有的 AI 规则就像那些旧时代的图书馆盒子。我们试图将这些变形且不断进化的 AI 系统强行塞进固定的类别中，比如“高风险”或“低风险”，或者“人类控制”与“人类失控”。论文指出，这种做法之所以失败，是因为 AI 变化的速度超过了我们移动盒子的速度。一个 AI 可能仅仅通过学习新知识，就会从“低风险”盒子的缝隙中溜走；或者对于一个在特定语境下其实相当安全的系统来说，“高风险”的盒子可能显得过于沉重。
解决方案：用“旋钮”代替“盒子”
与其问“这个 AI 属于哪个盒子？”，作者建议我们停止使用盒子，转而使用旋钮。
他们提出了一个名为**“维度治理”（Dimensional Governance）**的系统。想象一个控制面板，上面有三个大的旋钮（或称作拨盘），你可以通过旋转它们来衡量 AI。这些就是 “3A”：
- 权威度 (Authority) —— “谁来做决定？”旋钮：
- 衡量内容： 最终的决策权究竟在谁手里？AI 只是在提供建议，还是在直接执行？
- 类比： 想象一辆车。AI 是仅仅提供路线的 GPS（低权威度），还是在你在旁观察时自动驾驶的自动驾驶系统（高权威度）？
- 自主性 (Autonomy) —— “有多独立？”旋钮：
- 衡量内容： AI 需要人类像保姆一样盯着它多少？
- 类比： AI 是一只需要时刻看管的小狗，还是一只可以独自带领整个犬群奔跑而无需向人请示的成年犬？
- 问责制 (Accountability) —— “谁来承担责任？”旋钮：
- 衡量内容： 如果出了问题，谁该负责？责任归属是清晰明确，还是散落在各处？
- 类比： 如果汽车撞车了，能否清楚地判断是司机、汽车制造商还是软件公司该负责？还是说这变成了一团乱麻，没人知道该怪谁？
它是如何运作的：“AI 的信用评分”
论文使用了一个非常棒的现实案例：信用评分。
银行并不会以一种永久性的方式判定你是“好人”还是“坏人”。他们是在一个连续的尺度上衡量你（你的信用分数）。
- 如果经济形势良好，银行可能会降低“门槛”（即你必须跨越的那条线）以发放更多贷款。
- 如果经济形势恶劣，他们会提高门槛以确保安全。
- 测量方式（你的分数）保持一致，但规则（门槛）会根据情况而改变。
作者希望对 AI 也这样做。我们通过三个维度（权威度、自主性、问责制）来测量 AI。然后，我们设定“阈值”（即分界线）。
- 如果一个 AI 的“自主性”旋钮转过了某个点，我们会自动切换到更严格的规则。
- 如果“权威度”旋钮发生了偏移，我们会改变责任归属。
这使得规则能够随着 AI 的变化而进化，而不是试图将 AI 冻结在一个不再适用的盒子里。
为什么这很重要：“减速带” vs. “雷达”
目前的治理方式就像是一个减速带。你撞上它，然后停下。它是僵化的。如果 AI 发生了变化，减速带不会移动，你可能会撞上它，或者在毫无察觉的情况下直接碾过它。
所提议的“维度治理”则更像是一个雷达系统。
- 它在 AI 移动时持续观察。
- 它能在 AI 进入“危险区域”（关键阈值）之前就预见到这一点。
- 它允许监管机构和公司进行实时调整规则，以确保安全。
总结
论文并不是说我们要完全废除类别。我们仍然需要知道某物是“安全”还是“不安全”以做出决策。但与其用混凝土来建造这些类别（混凝土在地面移动时会开裂），我们应该将其建立在灵活测量的基础之上。
通过追踪 AI 在这三个维度上的移动，我们可以创建具有适应性的规则。这意味着规则可以像 AI 一样成长和变化，从而在不扼杀创新的前提下确保安全。这标志着我们正从一个“冻结的盒子”世界，迈向一个“活着的测量”的世界。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。