Riepilogo Tecnico: Esecuzione Speculativa Certificata per Agenti AI Non Affidabili

1. Definizione del Problema

I moderni sistemi di IA, inclusi le policy apprese e i Large Language Models (LLM) congelati, possono generare sequenze di decisioni (bozze) a un costo computazionale ridotto. Tuttavia, l'impiego di questi agenti "non affidabili" in sistemi decisionali sequenziali con vincoli rigidi (ad esempio, gestione dell'energia, unit commitment) presenta un dilemma fondamentale:

• Esecuzione Diretta: Agire direttamente sulle bozze dell'IA comporta la perdita delle garanzie di sicurezza. Ad esempio, un LLM congelato con 12 miliardi di parametri ha proposto azioni che violavano i vincoli nel 98% degli episodi in compiti di gestione della batteria.
• Delega Passo-Passo: Invocare un risolutore affidabile e costoso (ad esempio, un ottimizzatore LP/MILP) ad ogni passo garantisce la sicurezza, ma sacrifica la velocità e l'efficienza offerte dall'IA, poiché il risolutore rimane sul percorso critico.

Gli approcci esistenti, come il decoding speculativo negli LLM, verificano i token rispetto alle distribuzioni di probabilità, ma non affrontano i vincoli di fattibilità rigidi o la qualità della decisione (regret) in contesti di controllo. È necessario uno strato che utilizzi le bozze di IA non affidabili per la velocità, mantenendo al contempo una sicurezza rigorosa e garanzie di performance verificabili.

2. Metodologia: Certificate-Gated Prefix Acceptance (CGPA)

Il documento propone la Certificate-Gated Prefix Acceptance (CGPA), un contratto di esecuzione speculativa certificata progettato per disaccoppiare sicurezza, regret e velocità. Il sistema consiste in un nucleo affidabile sottile e una sorgente di proposta non affidabile.

2.1 Architettura del Sistema

Il controller CGPA è una tupla $(D, \text{Verify}, \hat{V}, \pi_F)$:

1. Sorgente di Proposta Non Affidabile ($D$): Può essere qualsiasi agente basato su regole, appreso o basato su LLM. Propone un prefisso di azioni di lunghezza $K$ $u_{0:K-1}$.
2. Verificatore Affidabile: Simula il prefisso proposto rispetto alla dinamica del sistema e ai vincoli rigidi. Rifiuta qualsiasi transizione che violi la fattibilità.
3. Confine di Valore Affidabile ($\hat{V}$): Una funzione di valore appresa e leggera (ad esempio, un MLP a cinque quantili) che stima il costo futuro (cost-to-go). Funge da "guardia del valore" per garantire che il prefisso accettato sia non solo sicuro, ma anche economicamente sostenibile.
4. Oracolo Affidabile ($\pi_F$): Un risolutore di fallback (ad esempio, MILP) che fornisce un'azione di riparazione sicura se la proposta viene rifiutata.

2.2 Il Meccanismo Accept/Defer (Accetta/Differisci)

In ogni stato $s_t$, il sistema esegue la seguente logica:

• La sorgente $D$ propone $K$ azioni.
• Il Verificatore controlla la fattibilità. Se un passaggio è insicuro, il prefisso viene troncato all'ultimo stato sicuro.
• La Guardia del Valore seleziona il più lungo prefisso verificato come sicuro $k$ che soddisfi:
  $$g(s_t, u_{0:k-1}) + \hat{V}(s_{t+k}) \leq \hat{V}(s_t) + \tau |\hat{V}(s_t)|$$
  dove $g$ è il costo realizzato dal prefisso e $\tau$ è un parametro di tolleranza.
• Impegno (Commitment): Se $k > 0$, il sistema impegna l'intero prefisso di $k$ passi. Se $k = 0$, delega all'oracolo per un singolo passo.

2.3 Garanzie Teoriche

Il documento stabilisce che CGPA fornisce due invarianti strutturali indipendentemente dalla sorgente di proposta $D$:

1. Sicurezza Applicata (Proposizione 1): Ogni transizione eseguita è fattibile. La sicurezza dipende solo dal verificatore e dall'oracolo affidabili, non dalla sorgente di proposta.
2. Certificato di Regret (Certificato 2): Il sistema limita il costo eccessivo (regret) rispetto all'oracolo passo-passo. Il limite del regret è:
   $$J_{CGPA} - J_F \leq \sum_{i \in A} \tau_i |V(s_i)| + (2 + \tau_{\max})\epsilon |A| + \sum_{j \in R} \rho_j$$
   Fondamentalmente, l'errore di confine $\epsilon$ viene addebitato una sola volta per segmento accettato, non per ogni passo. Ciò consente al sistema di ammortizzare il costo dell'oneroso oracolo su più passi.

2.4 Calibrazione Conforme

Per gestire l'incertezza nella frontiera del valore appresa $\hat{V}$, gli autori utilizzano la calibrazione split-conformal. Addestrano un modello di regressione quantilica per produrre una banda centrale e livelli di coda. Il limite di errore $\epsilon(s)$ è derivato dalla dispersione di questi quantili ($\hat{V}_{0.9} - \hat{V}_{0.1}$) ed è calibrato su dati tenuti fuori dal set di addestramento (held-out). Ciò assicura che il certificato di regret sia valido con alta probabilità (ad esempio, 95% di confidenza) anche in presenza di spostamenti di distribuzione.

3. Contributi Chiave

1. Un Contratto di Esecuzione Speculativa Certificato: CGPA è il primo framework che adatta i principi dell'esecuzione speculativa al controllo con vincoli rigidi, separando l' "intelligenza" (sorgente non affidabile) dalle "garanzie" (nucleo affidabile).
2. Disaccoppiamento Strutturale: Il documento dimostra che sicurezza e regret possono essere disaccoppiati. La sicurezza è gestita dal verificatore, mentre il regret è gestito da un confine di valore apprendibile e calibrato.
3. Calibrazione Conforme per il Controllo: L'integrazione della predizione conforme nella frontiera del valore permette un limite di errore $\epsilon$ misurato, anziché assunto, fornendo un certificato di regret proiettivo.
4. Robustezza a Sorgenti Avversarie: Il framework è progettato per gestire sorgenti di proposta arbitrarie, inclusi agenti avversari e LLM eterogenei, senza compromettere la sicurezza.

4. Risultati Sperimentali

Gli autori hanno valutato CGPA in tre domini: Gestione dell'Energia delle Batterie (EMS), CityLearn (HVAC) e Unit Commitment (UC).

4.1 Sicurezza e Zero Violazioni

• Sorgenti Avversarie e LLM: Testato contro drafter avversari e sei LLM eterogenei congelati (inclusi Gemma-4-12B, che ha violato i vincoli nel 98% dei rollout diretti), CGPA ha ottenuto zero violazioni applicate.
• Avversari White-Box: Anche contro avversari adattivi white-box con piena conoscenza del verificatore e della dinamica, CGPA ha mantenuto zero violazioni, assorbendo l'attacco come riduzione dell'ammortamento (minore riduzione delle chiamate) piuttosto che come violazioni della sicurezza.

4.2 Riduzione del Regret

• Confini Appresi: L'uso di un confine appreso con calibrazione conforme ha ridotto il regret medio di tre ordini di grandezza rispetto all'accettazione non protetta (ad esempio, da 0,445 a 0,0002 in EMS).
• Prossimità all'Oracolo: Il regret medio di CGPA era entro il rumore di campionamento dell'oracolo passo-passo (intervallo di confidenza al 95% che comprende lo zero), eguagliando efficacementamente le prestazioni del costoso risolutore pur saltando la maggior parte delle chiamate.
• Spostamento di Distribuzione: Sotto spostamenti di calendario (CityLearn), una sorgente di proposta appresa ha superato l'oracolo passo-passo in 15 giorni su 18, dimostrando che il sistema può sfruttare sorgenti non affidabili superiori per battere il baseline.

4.3 Velocità e Ammortamento

• Accelerazione del Tempo di Esecuzione (Wall-Clock): Su un'istanza di Unit Commitment su scala di deployment (orizzonte di 48 passi, oracolo MILP), CGPA utilizzando un LLM Qwen3-8B congelato ha ottenuto un'accelerazione del tempo di esecuzione per episodio di 2,96× con un regret del 2,1%.
• Confronto: Ha superato le euristiche di dominio (1,79×) e i baseline di orizzonte mobile sicuro (1,07×).
• Scalabilità: La velocità aumenta con il costo dell'oracolo. Man mano che il costo per chiamata dell'oracolo aumentava, la velocità di CGPA cresceva (fino a 2,67×), mentre i controller a trigger di evento e a blocco di movimento rimanevano vicini a 1,0×.

5. Significato e Rivendicazioni

Il documento sostiene che CGPA fornisce un livello generalizzabile e certificato per l'impiego di IA non affidabili in sistemi critici per la sicurezza. La sua importanza risiede nel:

• Abilitare l'IA Non Affidabile: Permette l'uso di modelli di IA potenti, eterogenei e potenzialmente difettosi (inclusi gli LLM) senza sacrificare le garanzie di sicurezza rigide.
• Performance Senza Compromessi: Ottiene accelerazioni saltando le chiamate costose al risolutore, mantenendo livelli di regret comparabili al risolutore passo-passo ottimale.
• Robustezza: Le garanzie sono strutturali e non dipendono dalla qualità della sorgente di proposta; il sistema degrada con grazia (chiamando l'oracolo più frequentemente) invece di fallire catastroficamente.
• Implementazione Pratica: Il framework è stato validato su problemi reali di scala (Unit Commitment) e dimostra che "più capace è la sorgente non affidabile, più veloce è il sistema certificato", a patto che il nucleo di sicurezza rimanga intatto.

Gli autori sottolineano che si tratta di un approccio certificato dove la sicurezza non viene mai interrogata dalla sorgente non affidabile, e il regret è limitato da un certificato misurabile e calibrato tramite metodo conforme.