💻 computer science

Reconstructive Authority Model: Runtime Execution Validity Under Partial Observability

本文提出了“重构权威模型”（RAM），通过将执行有效性从单纯的“完整性验证”转向对“观测覆盖度”的评估，解决了自主系统在部分可观测环境下仅靠加密证明无法确保执行正确性的问题。

原作者： Marcelo Fernandez - TraslaIA

发布于 2026-04-28

📖 1 分钟阅读☕ 轻松阅读

原作者： Marcelo Fernandez - TraslaIA

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

1. 核心矛盾：那个“看不见的盲区”

想象一下：你雇佣了一个极其听话、且配备了最先进监控设备的“无人驾驶送货小车”。

现在的技术（论文里说的 Attestation/证明机制）非常厉害。它能保证：

小车没被黑客篡改过（代码完整性）。
小车看到的摄像头画面是真的，没有被掉包（状态证明）。

但是，问题来了：
小车只能看到它摄像头拍到的范围（这就是论文说的 Partial Observability/部分可观测性）。如果前方路口有一辆失控的卡车正冲过来，但由于摄像头角度问题或者传感器延迟，小车根本没看到这辆卡车，它会怎么做？

目前的系统会认为：“我的监控显示一切正常，代码没被改，路面看起来很干净，出发！”
结果：砰！撞车了。

论文的核心观点是： 仅仅证明“我看到的画面是真的”是不够的。如果“我没看到的画面”里藏着危险，那么“看到的画面是真的”也救不了命。

2. 论文提出的新方案：RAM（重构权威模型）

论文提出了一个叫 RAM (Reconstructive Authority Model) 的新逻辑。

如果说传统系统是**“只要没看到坏事，就默认是好事”；
那么 RAM 系统就是“除非我能百分之百确定现在是安全的，否则我绝不动手”**。

我们可以用“盲人过马路”来做类比：

传统模式（Attestation-based）：
盲人手里拿着一个电子地图，地图显示这条路没车。盲人检查了地图，发现地图是真的，没被篡改。于是他自信满满地迈出步子。结果，一辆没在地图上标注的电动车撞了他。
（结论：地图是真的，但地图不代表现实。）
RAM 模式（Reconstructive Authority）：
盲人不仅看地图，他还会建立一个**“信心包”**。
他会想：“我要过马路，我需要知道：1. 地图上的车流；2. 此时此刻路边的噪音；3. 此时此刻的风向。如果我听不到声音，或者风向不对让我无法判断，哪怕地图显示没车，我也绝对不走！”

RAM 的三个动作：

全速前进： 看到所有必要信息，确认安全 $\rightarrow$ 执行。
降级执行： 看到部分信息，但不确定是否完全安全 $\rightarrow$ 比如：不跑快了，改用慢走，或者只走人行道。
原地待命（Fail Closed）： 发现关键信息缺失（比如传感器坏了，或者环境太乱看不清） $\rightarrow$ 直接停下，拒绝执行。

3. 论文的三个重要结论（大白话版）

“真”不代表“对”： 即使你的数据是加密的、防篡改的、绝对真实的，只要这些数据不完整，你的决策就可能是致命的错误。
权威不是“一次性发放”的： 以前的系统觉得“既然刚才准许了，现在也应该准许”。RAM 说：“每一秒钟，我都要重新证明我有权执行。” 哪怕上一秒你还在飞奔，这一秒只要看不清路，你就得立刻刹车。
宁可“错杀”，不可“漏掉”： RAM 承认，这种做法可能会让 AI 变得有点“胆小”（有时候明明安全它也停下来了，这叫 Over-conservatism/过度保守）。但论文认为，对于自动驾驶、金融转账这种高风险任务，“因为看不清而停下” 永远比 “因为看不清而撞车” 要好得多。

总结一下

这篇论文是在为未来的 AI 代理建立一套**“审慎的哲学”**。

它告诉我们：不要试图去证明“世界是完美的”，而要学会承认“世界是不完整的”。 一个真正聪明的、负责任的 AI，不应该是一个“盲目自信的执行者”，而应该是一个“在看不清时懂得停下来的谨慎者”。

这是一篇关于自主智能体治理（Agent Governance）的高级学术论文，提出了重构权威模型（Reconstructive Authority Model, RAM）。以下是对该论文的详细技术总结：

1. 问题背景与核心挑战 (The Problem)

在自主智能体系统中，决策通常在“准入时”（Admission time）基于当前观测到的状态做出，但实际“执行时”（Execution time）环境可能已经发生变化。

目前主流的治理机制依赖于证明/认证（Attestation），如可信执行环境（TEE）、预言机（Oracle）签名状态证明等。这些机制的核心逻辑是：验证当前执行环境与之前批准的状态是否一致（即验证完整性 Integrity）。

论文指出，这种机制存在结构性的缺陷：

完整性 $\neq$ 语义正确性：认证只能证明“计算过程未被篡改”，但不能证明“观测到的状态是否足以支撑该决策”。
观测不完全性（Partial Observability）：由于物理或系统限制，智能体永远无法完全观测到所有影响执行有效性的真实状态 $S_r(t)$ 。智能体只能观测到“可证明状态” $S_p(t)$ 。
状态间隙（State Gap）：存在一个差集 $\delta(t) = S_r(t) \setminus S_p(t)$ 。当这个间隙中的变量（如突发的监管变化、隐藏的欺诈行为）变得对执行至关重要时，基于认证的系统会产生假阳性（False Positive）——即系统认为执行是合规的，但实际上在真实物理世界中是无效且危险的。

2. 研究方法：重构权威模型 (Methodology: RAM)

为了解决上述问题，论文提出了 RAM 模型，其核心哲学从“执行是否与批准的一致”转向了**“当前的真实状态是否足以重新构建执行权威”**。

A. 核心概念

覆盖范围包络（Coverage Envelope, $E(t)$ ）：RAM 不再仅仅看状态，而是构建一个三元组 $E(t) = (S_p(t), H(t), \delta(t))$ $E (t) = (S_{p} (t), H (t), δ (t))$ ，其中包含：
1. $S_p(t)$ ：已证明的可观测状态。
2. $H(t)$ ：系统接受的显式假设。
3. $\delta(t)$ ：明确承认的不可观测残差（即“我们不知道的部分”）。
权威构建函数（Authority Constructor, $F$ ）：这是一个确定性的构造过程。执行权限不再是持久化的，而是在每次执行前根据当前的覆盖范围包络重新计算。

B. 执行逻辑与权限收缩

RAM 的执行门控（Reconstruction Gate）具有三种输出结果：

全量执行 ( $\alpha$ )：覆盖范围足以支持完整权限。
权限收缩 ( $\alpha' \subset \alpha$ )：观测到的信息不足以支持全部操作，但足以支持部分受限操作（动态降级）。
停止/挂起 ( $\perp$ 或 $false$)：信息严重不足，无法构建权威，系统必须**“失效关闭”（Fail Closed）**。

3. 主要贡献 (Key Contributions)

形式化证明了认证机制的局限性：通过定理 5.1 证明，除非权威可以在运行时从真实状态 $S_r(t)$ 中重构，否则任何基于认证的系统都无法保证执行的有效性。
提出了 RAM 形式化模型：定义了非持久性权威（Non-persistence of Authority）和将不变性（Invariants）作为“构造性条件”而非“验证检查”的新范式。
混合架构设计：提出了一种 RAM + Attestation 的混合架构。其中，认证负责保证“计算过程的完整性”，而 RAM 负责保证“决策的语义正确性”。
实验验证：通过模拟环境证明了 RAM 在处理“隐藏漂移”（Hidden Drift）时的优越性。

4. 研究结果 (Results)

论文通过大规模仿真（100,000步）对比了三种模型：基于认证的模型、扩展预言机模型和 RAM 模型。

无效执行率 (IER)：
- 认证/预言机模型：即使在状态覆盖率极高的情况下，仍存在显著的无效执行率（因为它们无法处理“未定义状态”带来的语义风险）。
- RAM 模型：在所有覆盖率水平下，IER 始终为 0。它通过在信息不足时主动停止，彻底消除了无效执行。
安全停机率 (SHR)：RAM 能够 100% 识别并拦截所有无效执行请求。
安全-执行权衡 (OCR)：论文识别出了“过度保守率”（Over-Conservatism Rate）这一指标。虽然 RAM 可能会因为信息不足而导致不必要的停机，但这种代价是换取绝对安全性的必要权衡。

5. 论文意义与结论 (Significance & Conclusion)

该论文在自主智能体治理领域具有重要的理论和工程意义：

范式转移：它将治理的重点从“事后验证一致性”转向了“事前构建合法性”。
设计准则：为高风险自主系统（如自动驾驶、自主金融交易）提供了设计指南——即**“如果无法构建权威，就必须停止”**，而不是“如果没有检测到错误，就继续”。
系列总结：作为《智能体治理系列》的第五篇，它完成了从“决策边界”（P0）到“准入控制”（P1），再到“观测极限”（P2）和“架构不可约性”（P3/4），最后到“运行时执行有效性”（P5）的完整逻辑闭环。

总结一句话：认证保证了“测量是准确的”，而 RAM 保证了“测量到的信息足以支撑行动”。