Reconstructive Authority Model: Runtime Execution Validity Under Partial Observability

1. El Problema: La Insuficiencia de la Atestación

El núcleo del problema reside en la brecha epistemológica entre el estado real de ejecución ($S_r$) y el estado demostrable o atestado ($S_p$).

En los sistemas autónomos actuales, la gobernanza se basa en la atestación (como TEEs, pruebas de estado firmadas por oráculos o pruebas criptográficas). El autor argumenta que estos mecanismos solo garantizan la integridad (que el cálculo es correcto respecto a lo que se observa), pero no la cobertura (que lo que se observa es suficiente para justificar la acción).

Debido a la observabilidad parcial (probada en el Papel 2 de la serie), siempre existe un residuo inobservable $\delta = S_r \setminus S_p$. Si este residuo contiene información crítica para la validez de una acción (por ejemplo, una señal de fraude o un cambio regulatorio no detectado), un sistema basado en atestación producirá un falso positivo: la ejecución será criptográficamente válida pero semánticamente inválida.

2. Metodología: El Modelo de Autoridad Reconstructiva (RAM)

El RAM propone un cambio de paradigma: la autoridad no es una propiedad persistente otorgada en el momento de la admisión, sino una propiedad derivable y continua que debe reconstruirse en cada paso de ejecución.

Conceptos Clave:

• Envolvente de Cobertura (Coverage Envelope): Un triple $E(t) = (S_p(t), H(t), \delta(t))$ que incluye el estado probado, las suposiciones declaradas y el residuo inobservable reconocido.
• Función de Construcción de Autoridad ($F$): En lugar de verificar si el estado actual coincide con uno anterior, el sistema intenta construir la autoridad desde el estado actual.
• Lógica de Ejecución No Persistente: La autoridad de un tiempo $t_0$ no garantiza la autoridad en $t_1$. Cada paso requiere una nueva reconstrucción.

El Mecanismo de la "Puerta de Reconstrucción" (Reconstruction Gate):

Ante una acción solicitada, el modelo evalúa la cobertura y permite tres resultados:

1. Ejecución Total ($\alpha$): La cobertura es adecuada para la clase de acción completa.
2. Privilegios Reducidos ($\alpha' \subset \alpha$): La cobertura es parcial; se permite la acción pero con un alcance limitado.
3. Parada/Fallo Cerrado ($\perp$ o false): Si la información es insuficiente para construir autoridad, el sistema debe detenerse (falla hacia un estado seguro).

3. Contribuciones Principales

1. Formalización de la Limitación de la Atestación: Demuestra matemáticamente que la corrección de la atestación no implica la validez de la ejecución.
2. Teoremas de Necesidad:
   • Teorema 1: Establece que ningún sistema de atestación puede garantizar la validez sin reconstrucción en tiempo de ejecución.
   • Teorema 2: Establece que la única forma de garantizar la validez es que la autoridad sea una función del estado real $S_r$, lo que obliga a un comportamiento conservador (detenerse ante la incertidumbre).
3. Arquitectura Híbrida RAM + Atestación: Propone un modelo donde la atestación garantiza la integridad de los datos de entrada, mientras que el RAM garantiza la validez semántica de la decisión.

4. Resultados Experimentales

Mediante simulaciones de transferencia financiera autónoma con inyección de "deriva" (drift) de estado, se obtuvieron los siguientes resultados:

• Tasa de Ejecución Inválida (IER):
  • Los sistemas de Atestación y Oráculos mostraron tasas de error significativas (aprox. 40% en baja cobertura) porque ejecutan acciones basadas en estados incompletos o desactualizados.
  • El RAM mantuvo una IER de 0.000, eliminando todas las ejecuciones inválidas al detenerse ante la falta de información.
• Compromiso Seguridad-Ejecución (OCR): El modelo introduce una tasa de "sobre-conservadurismo" (detenerse cuando la ejecución sería válida pero la información es insuficiente). El autor identifica esto como una señal de deuda de observabilidad: un alto OCR indica que el sistema necesita mejores sensores o datos para operar con confianza.

5. Significado e Implicaciones

El papel concluye que para sistemas autónomos de alto riesgo (finanzas, vehículos autónomos, agentes de IA), el diseño debe abandonar el principio de "si no detecto un error, continúo" y adoptar el principio de RAM: "si no puedo construir autoridad, me detengo".

Implicaciones para el diseño de sistemas:

• La autoridad debe ser sin estado (stateless) en tiempo de ejecución.
• La validación es insuficiente sin la construcción de autoridad.
• La observabilidad debe modelarse explícitamente; la incertidumbre no es un problema de probabilidad, sino un problema de estructura de autoridad.