Certified Purity for Cognitive Workflow Executors: From Static Analysis to Cryptographic Attestation
本文提出了一种经认证纯净的架构，通过受限 WebAssembly 编译、密码学纯净证书和远程证明，以结构性边界取代运行时惯例，从而强化认知工作流治理，在保持可忽略的运行时开销的同时，从数学上证明了敌对绕过行为的消除。
原始论文根据 CC0 1.0（http://creativecommons.org/publicdomain/zero/1.0/）发布到公有领域。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象你正在经营一家高风险厨房，其中一支厨师团队（AI 智能体）为贵宾准备复杂的菜肴（认知工作流）。规则极为严格：厨师可以规划菜单并写下他们需要的食材，但被严格禁止触碰炉灶、打开冰箱或呼叫送货司机。只有主厨（“治理流水线”）被允许执行这些操作。
长期以来，这家厨房依赖一条简单的规则：“信任厨师会遵守规则。”厨房经理会查看厨师的食谱书（静态分析），以确认他们是否写下了任何被禁止的指令。如果食谱看起来干净，厨师就被允许工作。
问题：“魔术戏法”的漏洞
该论文指出，这种“信任食谱”的系统存在致命缺陷。一个决心坚定、狡猾的厨师可以利用魔术戏法绕过规则，而无需将其写在食谱书中。在他们使用的特定厨房平台（称为 BEAM/Erlang）上，厨师可以：
- 冒充他人：在最后时刻通过名称调用函数，隐藏其正在调用危险工具的事实。
- 即时编写新规则：在烹饪过程中输入新命令，实质上在用餐中途重写自己的食谱。
- 雇佣保镖：加载一个秘密的、预先编写好的工具（“NIF"），它可以做任何事，包括打开冰箱。
- 派遣跑腿：在厨房外生成一个独立的人去获取食材。
- 替换食谱书：在烹饪过程中加载一本完全不同的、危险的食谱书。
由于这些戏法发生在厨师工作期间，事先查看食谱书（静态分析）无法捕捉到它们。这就像试图在演出前检查魔术师的口袋来阻止他；他可能藏着一张稍后才会抽出的隐藏卡牌。
解决方案：“认证纯净”厨房
本文提出了一种激进的厨房新设计，使这些魔术戏法在物理上不可能发生，而不仅仅是违反规则。
1. 新厨房（WebAssembly 沙箱）
不再让厨师在开放式厨房工作，他们现在在一个透明的密封玻璃箱内工作。
- 无魔术戏法：在这个箱子里，用于“隐藏”、“重写”或“雇佣保镖”的工具根本不存在。该箱子的设计使得唯一的出口是单一的上锁门。
- 白名单：该箱子仅拥有一个特定工具列表可供使用（如计算器、记事本和“申请表”）。它无法触碰炉灶或冰箱。如果某个工具不在列表中，该箱子 literally 就没有对应的把手。
2. 身份徽章（纯净证书）
在厨师进入厨房之前，他们必须获得一枚特殊的身份徽章。
- 证明：一个受信任的权威机构查看厨师的代码（“二进制文件”），并检查其仅使用允许的工具。
- 封印：他们使用加密封印（如蜡封）对徽章进行签名。该封印证明该特定版本的厨师代码是干净的。
- 防篡改：如果厨师试图哪怕轻微地更改其代码（以添加秘密工具），封印就会破裂。徽章即告失效。你不能将厨师 A 的干净徽章拿来交给经过修改的厨师 B。
3. 安全警卫（运行时门禁）
当厨师到达厨房门口时，安全警卫会检查徽章。
- 核查：警卫验证封印，确认代码与徽章匹配，并确认列出的工具仍在“允许”列表中。
- 结果：如果徽章有效，厨师进入；否则，他们立即被拒之门外。这发生在厨师开始烹饪之前的每一次。
4. 跨厨房护照（远程证明）
如果厨师 A 在厨房 A 工作，但需要雇佣来自厨房 B 的厨师 B 怎么办？
- 厨师 B 带来一本“护照”（证明记录），证明他们已由其所在厨房的安全警卫检查过，且其厨房遵循同样严格的规则。
- 厨房 A 可以阅读这本护照并信任厨师 B，而无需查看厨师 B 的源代码或签署合同。这是一种机器可读的信任证明。
为何重要（结果）
该论文从数学上证明了该系统有效：
- 无漏洞：由于“魔术戏法”（绕过类别）在新厨房的结构中根本不存在，狡猾的厨师 literally 无法执行它们。这不是说他们会被抓住，而是说这些戏法根本无法发生。
- 快速：检查徽章所需时间不到眨眼一瞬（约 40 微秒）。它为烹饪一顿饭所增加的额外时间，少于等待送货卡车所需时间的 0.4%。
- 无需信任：你无需信任厨师、厨房经理或其他厨房。你只需信任封印背后的数学原理以及玻璃箱的设计。
总结
该论文将治理从“请勿偷窃”的标语（依赖人们遵守规则）转变为“你物理上无法偷窃”的墙壁（依赖建筑结构）。它将承诺转化为数学保证，确保 AI 智能体可以规划和思考，但它们永远无法在规则之外秘密行动。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。