Sintesi Tecnica: Dal Confine di Controllo al Sinistro Assicurativo: Ricostruire le Perdite Mediate dall'IA attraverso il Framework CER

1. Definizione del Problema

Il documento affronta una lacuna critica nella gestione del rischio residuo per le organizzazioni che implementano sistemi di IA generativa e agentica. Quando il sistema IA di un'organizzazione assicurata contribuisce materialmente a una perdita (ad esempio, tramite prompt injection, avvelenamento del RAG, output di strumenti malevoli o uso improprio di credenziali), le pratiche attuali non riescono a stabilire in modo affidabile le tre condizioni necessarie per il recupero del sinistro assicurativo simultaneamente:

1. Stato Consentito (Permitted State): Che il sistema IA avesse un confine operativo esigibile (ciò che era autorizzato a fare).
2. Stato Effettivo (Actual State): Che lo stato effettivo del sistema e la catena causale possano essere ricostruiti dai reperti conservati (ciò che ha effettivamente fatto).
3. Allineamento alla Copertura (Coverage Alignment): Che la perdita ricostruita si mappi sulle coperture assicurative stipulate e disponibili.

Gli autori sostengono che la tradizionale "ricostruzione dell'evento" (cosa è successo) sia insufficiente per le perdite mediate dall'IA. È invece necessaria una "ricostruzione dello stato", che comporta l'analisi delle istruzioni specifiche, del contesto recuperato, delle configurazioni del modello, delle chiamate agli strumenti (tool calls) e degli scope delle identità non umane (NHI) attivi al momento dell'incidente. Senza questa specifica ricostruzione, il rischio residuo spesso rimane in capo all'organizzazione, frequentemente senza che essa ne sia consapevole.

2. Metodologia: Il Framework CER

Il documento introduce il CER, un framework diagnostico a livello di caso d'uso progettato per valutare e collegare le tre dimensioni necessarie per il trasferimento del rischio. Il CER non è un punteggio di governance, una tassonomia delle minacce o un parere legale, ma un diagnostico specifico per determinare se una perdita derivante dal sistema IA di un assicurato possa essere ricostruita e trasferita.

Le Tre Dimensioni

Il CER valuta uno specifico scenario di rischio residuo attraverso tre dimensioni distinte, assegnando un punteggio a ciascuna su una scala da 0 a 3:

• C (Control Boundary - Confine di Controllo): Valuta se il sistema IA avesse un perimetro operativo definito e tecnicamente esigibile.
  • Distinzione Chiave: Politiche, prompt o istruzioni verbali da sole non costituiscono un confine. Il confine deve essere tecnicamente imposto tramite autenticazione, autorizzazione, guardrail di runtime o gate di approvazione.
  • Logica di Punteggio: Il punteggio è determinato dalla performance più bassa tra i vari modi di guasto rilevanti (ad esempio, uso improprio da parte di utenti legittimi, comportamento errato del modello, manipolazione esterna).
• E (Evidence Reconstruction - Ricostruzione delle Prove): Valuta se lo stato del sistema e la catena causale possano essere ricostruiti dai reperti conservati secondo uno standard "idoneo al sinistro" (claim-grade).
  • Distinzione Chiave: Ciò richiede più della semplice telemetria operativa. Richiede artefatti correlati (prompt, contesto, versioni del modello, memoria, chiamate agli strumenti, approvazioni) sufficienti affinché un revisore esterno (auditor, regolatore, liquidatore) possa determinare la causalità senza fare affidamento sulla narrazione dell'assicurato.
  • Logica di Punteggio: I punteggi vanno da "Nessuna ricostruzione utilizzabile" (0) a "Prove idonee al sinistro" (3), capaci di supportare l'audit e la gestione dei sinistri.
• R (Insurance Response - Risposta Assicurativa): Valuta se la perdita ricostruata sia assicurata.
  • Distinzione Chiave: Questa dimensione è eterogenea; dipende dalla disponibilità del mercato, dalle specifiche clausole della polizza, dalle esclusioni e dalle condizioni imposte all'assicurato. Due organizzazioni con sistemi IA identici possono ricevere punteggi R differenti.
  • Logica di Punteggio: Il parametro R testa l'esistenza di un percorso di copertura, l'assenza di esclusioni attive e la capacità di soddisfare i requisiti di prova della causalità.

Esiti Diagnostici

Il framework combina i punteggi C, E e R per determinare uno "stato diagnostico". Uno scenario è considerato Allineato al Trasferimento (Transfer-Aligned) solo quando tutti e tre i collegamenti sono presenti e connessi (richiedendo specificamente punteggi di almeno 2 in ogni dimensione).

• Senza Confini (Unbounded, C=0): Non esiste un perimetro consentito esigibile; il rischio viene trattenuto indipendentemente dalle prove.
• Non Ricostruibile (Unreconstructable, E≤1): Il confine esiste, ma lo stato effettivo non può essere provato con prove idonee al sinistro.
• Escluso/Non Disponibile (Excluded/Unavailable, R=0): La perdita è delimitata e ricostruibile, ma non esiste un percorso di copertura.
• Allineato al Trasferimento (Transfer-Aligned, C≥2, E≥2, R≥2): Tutti e tre i collegamenti sono presenti, soggetti ai limiti e alle clausole della polizza effettiva.

3. Contributi Principali

Il documento apporta tre contributi specifici al campo del rischio IA e delle assicurazioni:

1. Definizione del Problema della Ricostruzione Specifico per l'IA: Distingue tra ricostruzione dell'evento (incident response standard) e ricostruzione dello stato (analisi dello stato interno del sistema IA, inclusi memoria, uso di strumenti e ambito di identità). Chiarisce che per l'IA agentica la catena causale spesso collassa consiglio, autorizzazione ed esecuzione, richiedendo un nuovo approccio probatorio.
2. Operazionalizzazione tramite CER: Fornisce uno strumento diagnostico concreto con una rubrica di punteggio esplicita (scala 0–3) e una mappatura dei punteggi verso stati diagnostici. Ciò consente alle organizzazioni di identificare esattamente dove si interrompe la catena di trasferimento del rischio (fallimento del confine, fallimento della ricostruzione o fallimento del trasferimento).
3. Specificazione delle Prove Idonee al Sinistro: Definisce le famiglie di artefatti specifiche richieste per la ricostruzione dell'IA (ad esempio, log dei prompt, contesto recuperato, configurazione del modello, tracce delle chiamate agli strumenti, record di approvazione) e illustra l'applicazione del framework utilizzando casi pubblici (PocketOS, Replit e Moffatt v. Air Canada).

4. Risultati e Applicazione

Il documento non presenta risultati sperimentali o nuovi dati empirici, ma applica il framework CER a casi pubblici esistenti per dimostrarne l'utilità:

• Incidenti PocketOS/Replit: Il framework evidenzia come un agente che elimina un database di produzione a causa di un token API con uno scope troppo ampio rappresenti un fallimento del Confine di Controllo (C). Anche se l'evento viene ricostruito (E), la mancanza di un confine esigibile (C0) impedisce il trasferimento del rischio.
• Moffatt v. Air Canada: Utilizzato come caso di output/affidamento giudiziato per illustrare come il comportamento ricostruito dell'IA si mappi su esiti legali e assicurativi.
• Casi Limite: Il documento chiarisce i confini dello scopo, notando che gli attacchi puramente esterni abilitati dall'IA (ad esempio, deepfake che ingannano un dipendente umano senza coinvolgere il sistema IA dell'assicurato) sono fuori dallo scopo di CER, mentre gli attacchi che manipolano il sistema IA dell'assicurato stesso (ad esempio, documenti RAG avvelenati) sono invece nell'ambito di applicazione.

5. Significato e Rivendicazioni

Il documento rivendica una significatività deliberata e ristretta:

• Colmare il Divario: Collega i framework di controllo/governance (come NIST AI RMF, ISO/IEC 42001, OWASP) con l'analisi della copertura assicurativa. Sostiene che, mentre i framework esistenti definiscono controlli o catalogano rischi, essi non specificano la catena di prova post-perdita a livello di caso d'uso necessaria per collegare lo stato di un sistema IA a una perdita assicurata.
• Chiarire il Rischio Residuo: Postula che il trasferimento del rischio residuo per i sistemi IA sia impossibile a meno che lo "stato consentito", lo "stato effettivo ricostruito" e la "perdita rispondente alla copertura" non siano esplicitamente connessi.
• Utilità Pratica: Il framework è progettato per rispondere a quattro domande pratiche per assicuratori e assicurati:
  1. Cosa era autorizzato a fare il sistema IA?
  2. Cosa ha effettivamente fatto?
  3. Quali artefatti specifici (prompt, strumenti, identità) hanno prodotto la perdita?
  4. Questa ricostruzione si mappa su un trigger di polizza e su una categoria di perdita coperta?

Gli autori sottolineano che il CER non sostituisce la governance, la sicurezza o i framework di gestione dei sinistri, ma li collega. Serve come diagnostico per determinare se una perdita derivante dal sistema IA di un assicurato possa essere ricostruita dalle prove e se tale ricostruzione sia sufficiente a supportare una richiesta di risarcimento assicurativo piuttosto che essere trattenuta dall'organizzazione.