Capability-Based Planning for AI Crisis Preparedness
本文提出了一种用于人工智能危机准备能力的基于能力的规划框架，该框架以情景驱动的方法取代了传统的基于可能性风险评估，旨在评估并优先排序在深度不确定性下的政府能力。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
高级人工智能的未来是一个充满深刻不确定性的领域。与科学家可以较为准确地预测降雨的各类天气预报不同，专家们对于强大的新一代人工智能系统何时出现、甚至是否会出现，都无法达成共识。有些人预见它们将在几年内到来；另一些人则认为还要几十年之久。由于时间线如此不明朗，且这些系统可能会以目前无人能预见的方式运行，政府面临着一个难题：如何为一个你无法描述的危机做准备？传统的规划依赖于猜测最可能的危险，并针对该特定场景建立防御措施。但如果危险以完全不同的形式出现，或者在无人预料到的时间点到来，那些特定的防御措施可能将毫无用处。这就是为什么需要一种不同的方法——一种不再试图预测未来，而是询问政府无论未来发生什么都必须具备什么能力的方法。
一个研究小组提出了一种解决此问题的新方法，借鉴了军事和灾难响应机构数十年来使用的策略。他们不再问“最可能的人工智能灾难是什么？”，而是问“政府必须具备哪些能力来应对任何严重的AI危机？”他们称之为“基于能力的规划”。为了测试这一想法，研究人员构建了一个实用的工具：一个将各种可能的人工智能灾难场景与一系列具体的政府行动进行交叉引用的庞大网格。他们并没有试图猜测哪个场景会发生。相反，他们在四个广泛的严重威胁类别中（例如，AI系统接管其自身运作，或AI被用于制造生物武器）生成了一套多样化的具体情境。对于每种情境，他们提出了一个简单的问题：如果这种情况发生在今天，政府是否真的能够阻止它或管理它？
研究人员发现，当前政府的准备状态参差不齐且往往不足，尽管他们提醒称这些发现是初步的。他们识别出了65项不同的政府职能，范围从各部门之间的协调能力到关闭计算机服务器的权力，但他们的试点研究仅针对其中的13项能力进行了灾难场景库的评估。即使是在这个有限的样本量下，也呈现出一种模式，表明在大多数情况下，政府缺乏在无需大量前期准备的情况下立即采取行动的能力。例如，如果一个危险的AI系统突然逃逸到互联网中，政府可能在当时既缺乏法律授权，也缺乏技术手段来阻止它。研究表明，现有的机构尚未准备好处理此类危机。然而，研究人员也发现，某些能力在几乎所有可能的灾难中都是通用的。这些能力包括快速动员不同政府部门的能力，以及与国际伙伴进行协调的能力。因为这些行动无论具体的威胁是什么都很有帮助，研究人员认为，无论单一灾难发生的可能性有多大，这些都应该是投资的首要任务。
研究还显示，威胁的类型并不重要，重要的是场景的具体性质。无论危险来自于对AI系统的控制权丧失，还是来自于网络攻击，政府准备工作的差距看起来都非常相似。这表明，政府不应将规划重点放在“网络”或“生物”等特定标签上，而应关注危机的底层机制。研究人员发现，对于最严重的场景，例如那些可能威胁人类生存的场景，政府需要一套非常具体的工具：遏制威胁的能力、控制运行AI的计算机系统的能力，以及停止部署新模型的权力。如果没有这些特定的能力，对危机的应对将会彻底失败。相比之下，对于其他类型的威胁，政府或许能够依靠现有的应急网络，但对于最危险的可能性，目前的基础设施是不够的。
其中一个最引人注目的发现是，政府可以在无需就危机何时发生或发生的可能性有多大达成一致的情况下，开始为这些危机做准备。通过专注于“无悔行动”（即在几乎任何未来都有用的步骤），政府可以建立起一种即便在世界变化时依然有效的准备基础。研究人员发现，协调能力和果断行动的能力是最关键的需求。他们建议，任何政府的第一步应该是为每种类型的危机指定一个专门的牵头机构，并与构建和使用AI的公司建立信任网络。这些步骤不需要预测未来；它们只需要承认当前的系统并非为了应对突发的、严重的破坏而设计。
本文并未声称已经解决了人工智能安全问题，也没有提供一份完美的解决方案清单。研究人员明确表示，他们的工作是一项试点研究，是一个证明这种新思维方式价值的概念验证。他们仅针对有限的场景测试了一小部分可能的政府职能，并承认需要更多的工作来填补空白。然而，他们构建的工具提供了一种超越不确定性导致的瘫痪状态的方法。与其等待特定的威胁出现，政府现在可以绘制出应对广泛潜在未来所需的精确能力图谱。研究结论指出，危机中的最大瓶颈不是技术本身，而是国家的应对能力。通过现在识别这些差距，政府可以确保当危机来临时，他们不会措手不及，而是能够以所需的权威和资源采取行动，保护其公民。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。