The AI Resilience Gap: Bringing Artificial Intelligence Inside the Operational Resilience Perimeter

Sintesi Tecnica: Il Gap di Resilienza dell'IA

Definizione del Problema
Il documento identifica un gap strutturale, sia regolamentare che operativo, nell'adozione dell'intelligenza artificiale (IA) nei servizi finanziari regolamentati. Sebbene sia emerso un consistente stack regolamentare sulla "IA affidabile" (trustworthy-AI) — che comprende l'EU AI Act, lo standard ISO/IEC 42001 e il framework NIST AI Risk Management — questo si concentra esclusivamente sulla qualità del sistema (sicurezza, equità, trasparenza e rischio del modello). Esso non affronta la resilienza operativa: la continuità dei servizi aziendali importanti sotto una perturbazione severa ma plausibile.

Il problema centrale è che un'azienda può implementare un sistema di IA che sia pienamente "affidabile" (accurato, equo e governato), ma che allo stesso tempo costituisca una grave passività in termini di resilienza. Ciò accade quando un servizio aziendale critico dipende da una dipendenza insostituibile da un singolo fornitore esterno di modelli, senza un percorso provato per continuare le operazioni qualora tale fornitore subisca un degrado, modifichi il proprio modello o diventi indisponibile. Le attuali strutture di governance spesso isolano l'etica dell'IA e il rischio del modello dai team di resilienza operativa, lasciando le dipendenze dall'IA non mappate rispetto alle tolleranze d'impatto e alle valutazioni di sostituibilità.

Metodologia
Il documento impiega un'analisi regolamentare comparativa e un approccio di progettazione di un framework concettuale:

1. Mappatura della Logica Regolamentare: L'autore mette a confronto due logiche regolamentari distinte: lo Stack della IA Affidabile (focalizzato sul modello/sistema come unità di analisi e sul fallimento come danno/bias) e lo Stack della Resilienza Operativa (focalizzato sul servizio aziendale come unità di analisi e sul fallimento come indisponibilità/interruzione intollerabile).
2. Analisi delle Modalità di Fallimento: Il documento analizza modalità di fallimento dell'IA distintive che sfuggono ai controlli di resilienza tradizionali, specificamente il degrado silenzioso (dove un modello rimane disponibile ma i suoi output subiscono un drift di accuratezza) e la non-determinatezza.
3. Costruzione del Framework: Sulla base del gap identificato, il documento propone l'AI Resilience Framework (ARF). Si tratta di un metodo indipendente dal regime, progettato per integrare le dipendenze dell'IA nei perimetri di resilienza operativa esistenti senza creare silos di rischio paralleli.

Contributi Principali
Il documento apporta quattro contributi primari:

1. Distinzione delle Logiche Regolamentari: Dimostra, attraverso un confronto strutturato, che soddisfare gli obblighi di IA affidabile non esonera dagli obblighi di resilienza operativa. I due stack operano su diverse unità di analisi (modello vs servizio) e diversi concetti di fallimento.
2. Caratterizzazione delle Modalità di Fallimento dell'IA: Identifica il "degrado silenzioso" e il "fallimento grigio" (dove un componente non è né pienamente funzionante né completamente guasto) come rischi critici specifici dell'IA che le tolleranze d'impatto basate sulla durata non riescono a rilevare. Inquadra inoltre la concentrazione dei fornitori di modelli di base come l'analogo dell'IA al rischio di concentrazione del cloud.
3. L'AI Resilience Framework (ARF): Il documento introduce una metodologia in cinque fasi per portare l'IA all'interno del perimetro di resilienza:
   • Fase 1: Mappatura delle Dipendenze: Mappare ogni componente di IA al relativo "servizio aziendale importante" che supporta.
   • Fase 2: Matrice Criticità-Sostituibilità (CSM): Classificare le dipendenze in base alla loro criticità per il servizio e alla loro sostituibilità (Sostituibile, Degradabile o Irriducibile). Ciò genera quattro livelli di trattamento della resilienza.
   • Fase 3: Tolleranze d'Impatto Estese: Espandere le tolleranze d'impatto oltre la disponibilità per includere la correttezza, definendo le soglie in cui le prestazioni "degradate" costituiscono un fallimento.
   • Fase 4: La Dottrina del Fallback: Richiedere che i piani di emergenza (manuali o alternativi) siano dotati di risorse, personale e testati, distinguendo tra fallback "reali" e "fittizi".
   • Fase 5: Gestione della Concentrazione a Livello di Fornitore: Valutare l'esposizione aggregata verso specifici fornitori attraverso molteplici servizi per identificare la fragilità sistemica.
4. Guida per i Professionisti: Il documento traduce il framework in una guida azionabile per CISO, architetti di sicurezza, funzioni di rischio del modello e board, mappando gli output dell'ARF agli obblighi esistenti sotto il regime di resilienza operativa del Regno Unito, DORA e il regime dei Terzi Critici.

Risultati e Applicazione
Il documento applica l'ARF a tre dipendenze illustrative presenti nei servizi finanziari del Regno Unito:

• Servizio Clienti con IA Generativa: Classificato come Livello 2 (Alta Criticità, Degradabile). Il risultato è la necessità di definire le tolleranze d'impatto per il servizio operante senza l'IA e di testare il ritorno agli agenti umani.
• Monitoraggio delle Transazioni tramite IA: Classificato come Livello 1 (Alta Criticità, Irriducibile) qualora il motore di regole legacy venisse dismesso. Questo pone l'azienda nella "zona di pericolo", richiedendo pianificazione di uscita, garanzie dal fornitore e la conservazione di un set di regole di fallback.
• Fornitore Comune di Modelli di Frontiera: Identificato come una Esposizione alla Concentrazione. Anche se l'utilizzo individuale è di bassa criticità, la dipendenza aggregata da un singolo fornitore attraverso molteplici servizi crea un rischio sistemico che la governance del modello a livello aziendale non può vedere, rendendo necessaria la gestione della concentrazione a livello di fornitore.

Significatività
Il documento sostiene che il "Gap di Resilienza dell'IA" è il luogo in cui risiede l'attuale rischio materiale dell'adozione dell'IA. La sua significatività risiede nello spostamento della prospettiva del settore: non più vedere l'IA solo come un problema di rischio del modello o di etica, ma riconoscerla come un problema fondamentale di resilienza operativa.

Gli autori sostengono che le autorità del Regno Unito stanno già colmando questo gap attraverso l'analisi sistemica del Financial Policy Committee, il regime dei Terzi Critici e la dichiarazione congiunta di maggio 2026 sulla resilienza cyber e la frontiera dell'IA. Di conseguenza, le aziende non possono attendere regole specifiche per l'IA; devono assolvere i propri obblighi di resilienza attraverso i framework esistenti. L'ARF fornisce il meccanismo per farlo, offrendo una via per passare dalla politica di governance dell'IA alla resilienza dimostrabile, trattando le dipendenze dell'IA come sfide architettoniche e di modello operativo piuttosto che come meri problemi di documenti di policy. Il lavoro estende le precedenti analisi dello stack regolamentare della resilienza cyber del Regno Unito alla dimensione dell'IA, promuovendo una "convergenza" degli sforzi di conformità per evitare duplicazioni e punti ciechi.