Executable Intelligence in Policy-Constrained Knowledge Systems: A Closed-Loop Decision-Execution Framework

知行之间的鸿沟

想象一下，你正在玩一款高风险电子游戏，你的角色是一名超级聪明的侦探。这位侦探能瞬间发现躲在阴影中的恶棍，精准预测他们下一步会袭击哪里，并计算出阻止他们的完美招式。但问题在于：这位侦探被一本严格的规则手册束缚住了，手册规定：“你不能跳过那堵墙”，“在使用你的超级激光前必须征得市长的许可”，或者“如果你失误了，就必须回溯时间”。在现实世界中，人工智能（AI）的情况正是如此。我们已经构建了极其擅长“分析智能”的系统——能够弄清楚发生了什么以及应该发生什么。但当涉及到在现实世界中进行实际行动时，这些系统往往会陷入停滞。它们生成了绝妙的创意，却因为违反了安全规则、违反了公司政策或无法撤销错误而遭到拒绝。这种在拥有绝佳想法与能够安全执行想法之间的挫败性停顿，正是本文所探讨的问题。

本文引入了一个名为“洞察到行动差距”（Insight-to-Action Gap）的概念。你可以把它想象成：一位厨师虽然知道完美的食谱，但却被限制在只能在拥有严格卫生标准、有限食材且经理讨厌烤焦面包的厨房里烹饪。作者认为，问题不在于我们的AI厨师不够聪明不会做饭，而在于它们不够聪明，无法在规则内做饭。本文提出了一种构建此类系统的新方法，称为“可执行智能”（Executable Intelligence），即规则不是在烹饪完成后才进行检查（这会导致食物变质和一小时的浪费），而是从第一步开始就直接融入到食谱之中。

问题所在：“洞察到行动差距”

来自 NTT DATA Services 的作者 Abhradeep Chatterjee 注意到了当今我们使用 AI 时的一个奇怪悖论。在云计算、自主基础设施和网络安全等领域，我们的系统检测问题的速度越来越快。它们几乎能瞬间检测到故障或安全漏洞。然而，修复问题却往往需要很长时间。为什么？因为一旦 AI 发现了问题，它必须等待人类批准修复方案，检查其安全性，然后手动执行维修。

论文将这种延迟称为洞察到行动差距（IAG）。它是指系统“意识到”已知答案的那一刻与它实际“执行”修复的那一刻之间损失的时间。作者指出，最大的瓶颈不在于 AI 的预测能力，而在于 AI 安全行动的能力。如果 AI 建议的修复方案违反了安全政策，那么即使该建议在数学上是完美的，也是毫无用处的。它只会创造更多的工作、更多的延迟和更多的挫折。

解决方案：打开规则手册进行烹饪

为了解决这个问题，本文提出了一个名为可执行智能的新框架。与其将安全规则和政策视为一个在门口检查你身份证的“保安”（在你尝试进入之后才检查），这个框架是将“保安”直接置于决策过程之中。

想象你在玩一个带有转折的“老师说”（Simon Says）游戏。在旧的方法中，西蒙（AI）会喊出一个疯狂的动作，比如“从屋顶上后空翻！”，然后一名裁判必须跑过来，查阅规则手册并说：“不行，这违反了规则！”接着西蒙必须重新思考一个动作，然后裁判再次检查。这既慢又令人烦恼。

新框架则不同。在西蒙喊出动作之前，他就在思考的同时查看规则手册。他只会提出那些已经被允许、安全且可逆转的动作。如果规则手册说“禁止后空翻”，西蒙根本不会考虑后空翻。他只会建议“跳过栅栏”，因为他知道这是被允许的，并且他已经有了如何安全落地的计划。

它是如何运作的：闭环循环

论文描述了一个通过五个步骤不断重复、像圆圈一样运行的“闭环”系统：

1. 感知（Sense）： 系统观察问题（就像监控摄像头）。
2. 解释（Interpret）： 它弄清楚问题的性质和背景（是火灾？泄漏？还是黑客攻击？）。
3. 决策（Decide）： 这是神奇之处。系统不仅仅是选择“最佳”行动；它选择的是既能通过所有安全检查、符合时间限制，又准备好了“撤销”按钮的最佳行动。
4. 行动（Act）： 它执行该行动，但在执行过程中会小心翼翼地检查一切是否依然安全。
5. 学习（Learn）： 它观察发生的情况，并利用这些信息在下次做出安全决策时做得更好。

这里的核心创新是策略约束优化（Policy-Constrained Optimization）。用通俗的话说，这意味着计算机正在解决一个将“规则”作为方程一部分的数学问题。它不仅是在寻找最快的路径，还在寻找一条不经过“禁止进入”区域的最快路径。

实验结果显示

作者并没有在真实的电网或医院进行测试（那太危险了）。相反，他们构建了一个详细的模拟环境——一个模仿真实系统行为的计算机生成世界。他们创建了一个“事故”（如电脑崩溃）随机发生的场景，并将两组进行了对比：

• A 队（基准组）： 使用聪明的 AI 来发现问题，但依赖人类来检查规则并进行修复。
• B 队（新框架）： 使用这种在思考时同时检查规则的“可执行智能”系统。

结果非常明确。在模拟实验中，新框架将修复问题的总时间减少了高达 40%。更重要的是，它使系统变得更加稳定。使用“旧方法”时，时间波动巨大——有时很快，有时因为违反规则而耗时极长。而新方法则表现得既稳定又可靠。

论文还发现，当规则非常严格且系统必须处理复杂的依赖关系（例如一个损坏部件引发连锁反应导致其他部件损坏）时，收益最为显著。当“旧方法”试图修复事物时，它经常被规则否决（拒绝），从而被迫重新开始。而新方法完全避免了这些“重启”，因为它从一开始就不会提出被禁止的动作。

为什么这很重要

论文认为，我们不应仅仅将“智能”视为擅长猜测或预测。在现实世界中，真正的智能意味着能够安全且负责任地做事。如果一个系统很聪明，但如果不遵守规则就无法行动，那么它就没多大用处。

通过将安全和规则直接嵌入决策过程，我们可以从仅能“建议”修复方案的系统，转向能够充满信心地“执行”修复方案的系统。这并不意味着我们要立即将人类排除在循环之外。论文提出了一个渐进的路径：从提供建议开始，过渡到“受控自动化”（即系统仅在 100% 确定符合规则时才行动），最终达到“策略边界自主”（policy-bounded autonomy）的状态，即系统可以在安全边界内自主行动。

作者谨慎地指出，这是一个基于模拟的发现。虽然结果令人鼓舞且逻辑严密，但尚未在真实的实时环境中得到证实。然而，“可执行智能”的概念为我们审视为何许多 AI 项目停滞不前提供了一个全新的视角：问题不在于 AI 不够聪明，而在于它还没有被教会如何在思考的同时遵守规则。