Resumen Técnico: Ejecución Especulativa Certificada para Agentes de IA No Confiables

1. Declaración del Problema

Los sistemas de IA modernos, incluyendo las políticas aprendidas y los Modelos de Lenguaje Extensos (LLM) congelados, pueden generar secuencias de decisiones (borradores) a un bajo costo computacional. Sin embargo, desplegar estos agentes "no confiables" en sistemas de decisión secuencial con restricciones estrictas (por ejemplo, gestión de energía, compromiso de unidades) presenta un dilema fundamental:

• Ejecución Directa: Actuar sobre los borradores de la IA directamente renuncia a las garantías de seguridad. Por ejemplo, un LLM congelado de 12B de parámetros propuso acciones que violaban las restricciones en el 98% de los episodios en tareas de gestión de baterías.
• Delegación Paso a Paso: Invocar un optimizador confiable y costoso (por ejemplo, LP/MILP) en cada paso garantiza la seguridad, pero renuncia a la velocidad y eficiencia que ofrece la IA, ya que el optimizador permanece en la ruta crítica.

Los enfoques existentes, como la decodificación especulativa en los LLM, verifican los tokens contra distribuciones de probabilidad, pero no abordan las restricciones de factibilidad estricta o la calidad de la decisión (arrepentimiento/regret) en entornos de control. Existe la necesidad de una capa que utilice los borradores de IA no confiables para ganar velocidad, manteniendo al mismo tiempo la seguridad estricta y garantías de rendimiento auditables.

2. Metodología: Aceptación de Prefijos con Compuerta de Certificado (CGPA)

El artículo propone la Aceptación de Prefijos con Compuerta de Certificado (CGPA), un contrato de ejecución especulativa certificada diseñado para desacoplar la seguridad, el arrepentimiento y la velocidad. El sistema consiste en un núcleo confiable delgado y una fuente de propuestas no confiable.

2.1 Arquitectura del Sistema

El controlador CGPA es una tupla $(D, \text{Verify}, \hat{V}, \pi_F)$:

1. Fuente de Propuesta No Confiable ($D$): Puede ser cualquier agente basado en reglas, aprendido o basado en LLM. Propone un prefijo de acción de longitud-$K$, $u_{0:K-1}$.
2. Verificador Confiable: Simula el prefijo propuesto contra la dinámica del sistema y las restricciones estrictas. Rechaza cualquier transición que viole la factibilidad.
3. Límite de Valor Confiable ($\hat{V}$): Una función de valor aprendida y ligera (por ejemplo, un MLP de cinco cuantiles) que estima el costo de llegada. Actúa como una "guarda de valor" para asegurar que el prefijo aceptado no solo sea seguro, sino también económicamente viable.
4. Oráculo Confiable ($\pi_F$): Un optimizador de respaldo (por ejemplo, MILP) que proporciona una acción de reparación segura si la propuesta es rechazada.

2.2 El Mecanismo de Aceptar/Diferir

En cada estado $s_t$, el sistema ejecuta la siguiente lógica:

• La fuente $D$ propone $K$ acciones.
• El Verificador comprueba la factibilidad. Si algún paso es inseguro, el prefijo se trunca hasta el último estado seguro.
• La Guarda de Valor selecciona el prefijo más largo verificado como seguro $k$ que satisfaga:
  $$g(s_t, u_{0:k-1}) + \hat{V}(s_{t+k}) \leq \hat{V}(s_t) + \tau |\hat{V}(s_t)|$$
  donde $g$ es el costo del prefijo realizado y $\tau$ es un parámetro de tolerancia.
• Compromiso: Si $k > 0$, el sistema compromete todo el prefijo de $k$ pasos. Si $k=0$, difiere al oráculo para un solo paso.

2.3 Garantías Teóricas

El artículo establece que CGPA proporciona dos invariantes estructurales independientemente de la fuente de propuesta $D$:

1. Seguridad Aplicada (Proposición 1): Cada transición ejecutada es factible. La seguridad depende únicamente del verificador y el oráculo confiables, no de la fuente de la propuesta.
2. Certificado de Arrepentimiento (Certificado 2): El sistema acota el exceso de costo (arrepentimiento) relativo al oráculo paso a paso. El límite de arrepentimiento es:
   $$J_{CGPA} - J_F \leq \sum_{i \in A} \tau_i |V(s_i)| + (2 + \tau_{\max})\epsilon |A| + \sum_{j \in R} \rho_j$$
   Crucialmente, el error de frontera $\epsilon$ se carga una vez por segmento aceptado, no por paso. Esto permite que el sistema amortice el costo del costoso oráculo a lo largo de múltiples pasos.

2.4 Calibración Conformal

Para manejar la incertidumbre en el límite de valor aprendido $\hat{V}$, los autores emplean calibración split-conformal. Entrenan un modelo de regresión de cuantiles para producir una banda central y niveles de cola. El error de frontera $\epsilon(s)$ se deriva de la dispersión de estos cuantiles ($\hat{V}_{0.9} - \hat{V}_{0.1}$) y se calibra con datos no utilizados. Esto asegura que el certificado de arrepentimiento se cumpla con alta probabilidad (por ejemplo, 95% de confianza) incluso bajo cambios de distribución.

3. Contribuciones Clave

1. Un Contrato de Ejecución Especulativa Certificado: CGPA es el primer marco que adapta los principios de ejecución especulativa al control con restricciones estrictas, separando la "inteligencia" (fuente no confiable) de las "garantías" (núcleo confiable).
2. Desacoplamiento Estructural: El artículo demuestra que la seguridad y el arrepentimiento pueden desacoplarse. La seguridad es propiedad del verificador, mientras que el arrepentimiento es gestionado por un límite de valor aprendible y calibrado.
3. Calibración Conformal para el Control: La integración de la predicción conformal en el límite de valor permite un error $\epsilon$ medido, en lugar de asumido, proporcionando una garantía de arrepentimiento con visión de futuro.
4. Robustez ante Fuentes Adversarias: El marco está diseñado para manejar fuentes de propuesta arbitrarias, incluyendo agentes adversarios y LLM heterogéneos, sin comprometer la seguridad.

4. Resultados Experimentales

Los autores evaluaron CGPA en tres dominios: Gestión de Energía de Baterías (EMS), CityLearn (HVAC) y Compromiso de Unidades (UC).

4.1 Seguridad y Cero Violaciones

• Fuentes Adversarias y LLM: Al probarse contra redactores adversarios y seis LLM heterogéneos congelados (incluyendo Gemma-4-12B, que violó restricciones en el 98% de las ejecuciones directas), CGPA logró cero violaciones aplicadas.
• Adversarios de Caja Blanca: Incluso contra adversarios adaptativos de caja blanca con conocimiento total del verificador y la dinámica, CGPA mantuvo cero violaciones, absorbiendo el ataque como una reducción de la amortización (menor reducción de llamadas) en lugar de brechas de seguridad.

4.2 Reducción del Arrepentimiento

• Límites Aprendidos: El uso de un límite aprendido con calibración conformal redujo el arrepentimiento medio en tres órdenes de magnitud en comparación con la aceptación sin protección (por ejemplo, de 0.445 a 0.0002 en EMS).
• Proximidad al Oráculo: El arrepentimiento medio de CGPA estuvo dentro del ruido de muestreo del oráculo paso a paso (el intervalo de confianza del 95% abarcaba el cero), igualando efectivamente el rendimiento del solver costoso mientras se omiten la mayoría de las llamadas.
• Cambio de Distribución: Bajo cambios de calendario (CityLearn), una fuente de propuesta aprendida superó al oráculo paso a paso en 15 de 18 días no utilizados, demostrando que el sistema puede aprovechar fuentes no confiables superiores para superar la línea base.

4.3 Velocidad y Amortización

• Aceleración en Tiempo de Reloj (Wall-Clock): En una instancia de Compromiso de Unidades a escala de despliegue (horizonte de 48 pasos, oráculo MILP), CGPA utilizando un LLM Qwen3-8B congelado logró una aceleración de 2.96× en tiempo de reloj por episodio con un 2.1% de arrepentimiento.
• Comparación: Esto superó a las heurísticas de dominio (1.79×) y a las líneas base de horizonte de movimiento seguro (1.07×).
• Escalabilidad: La aceleración escala con el costo del oráculo. A medida que el costo por llamada del oráculo aumentó, la aceleración de CGPA creció (hasta 2.67×), mientras que los controladores de evento disparado y de bloqueo de movimientos se mantuvieron cerca de 1.0×.

5. Significación y Reivindicaciones

El artículo afirma que CGPA proporciona una capa generalizable y certificada para desplegar IA no confiable en sistemas críticos para la seguridad. Su significación radica en:

• Habilitar la IA No Confiable: Permite el uso de modelos de IA potentes, heterogéneos y potencialmente defectuosos (incluidos los LLM) sin sacrificar las garantías de seguridad estricta.
• Rendimiento sin Compromisos: Logra aceleraciones omitiendo llamadas costosas al solver mientras mantiene niveles de arrepentimiento comparables al solver paso a paso óptimo.
• Robustez: Las garantías son estructurales y no dependen de la calidad de la fuente de propuesta; el sistema se degrada de forma elegante (llamando al oráculo con más frecuencia) en lugar de fallar catastróficamente.
• Despliegue Práctico: El marco ha sido validado en problemas de escala real (Compromiso de Unidades) y demuestra que "cuanto más capaz es la fuente no confiable, más rápido es el sistema certificado", siempre que el núcleo de seguridad permanezca intacto.

Los autores enfatizan que este es un enfoque certificado donde la seguridad nunca se consulta de la fuente no confiable, y el arrepentimiento está limitado por un certificado medible y con calibración conformal.