Adversarial Intelligence: A Systematic Review of AI-Driven Cyber Threat Detection, Adaptive Malware Evasion, and Arms Race Dynamics in Zero Trust Security Environments

Sintesi Tecnica: Intelligenza Avversaria in Ambienti Zero Trust

Definizione del Problema
Il documento affronta il critico disallineamento tra la rapida adozione dell'Intelligenza Artificiale (IA) per la difesa cibernetica e la parallela evoluzione degli attacchi avversari guidati dall'IA. Mentre i difensori implementano sempre più il machine learning (ML) e il deep learning (DL) per l'individuazione delle intrusioni, la classificazione dei malware e l'analisi del comportamento, gli avversari stanno riutilizzando questi stessi strumenti statistici e generativi per creare malware evasivi e traffico di rete avversario. Questa dinamica ha creato una continua "corsa agli armamenti" in cui l'accuratezza del rilevamento viene costantemente contrastata dal successo dell'evasione. Esiste una lacuna significativa nella letteratura: pochi lavori integrano il rilevamento guidato dall'IA, l'evasione avversaria e la governance della Zero Trust Architecture (ZTA) in un unico framework analitico. Di conseguenza, professionisti e decisori politici faticano a comprendere le conseguenze a livello di sistema del dispiegamento dell'IA negli stack di sicurezza, specialmente mentre i modelli generativi e i Large Language Models (LLM) comprimono il tempo e le competenze richieste per l'evasione. Inoltre, i dispiegamenti ZTA si affidano alla verifica continua guidata dall'IA, eppure la robustezza avversaria di questi componenti IA sottostanti è raramente valutata nel contesto della governance ZTA.

Metodologia
Questo studio è una revisione sistematica di 80 articoli peer-reviewed, preprint e rapporti tecnici pubblicati tra il 2010 e il 2026. La revisione ha seguito un processo ispirato a PRISMA, ricercando nei database tra cui IEEE Xplore, ACM Digital Library, SpringerLink, ScienceDirect, MDPI e arXiv. I termini di ricerca sono stati estratti da cinque cluster tematici: rilevamento delle intrusioni, evasione di ML/malware avversario, GAN nella sicurezza, architettura Zero Trust ed Explainable AI (XAI) nella cybersecurity.

I criteri di inclusione richiedevano che il lavoro coinvolgesse una componente AI/ML, affrontasse un compito di rilevamento/evasione/governance della cybersecurity e riportasse dettagli metodologici sufficienti. La revisione adotta un approccio di sintesi tematica piuttosto che una meta-analisi quantitativa, raggruppando le fonti in quattro cluster sovrapposti: focalizzati sul rilevamento, focalizzati sull'evasione/attacco, focalizzati sulla difesa/robustezza e focalizzati sulla governance/ZTA. L'analisi include la creazione di tabelle comparative, tassonomie e grafici quantitativi che caratterizzano la composizione e la crescita della letteratura esaminata.

Contributi Chiave

1. Tassonomia Unificata di Rilevamento ed Evasione: Il documento introduce una tassonomia strutturata delle tecniche di rilevamento guidate dall'IA (ML Classico, Deep Learning, Generativo/Avversario, Federated e basato su LLM) e le mappa contro le corrispondenti famiglie di evasione avversaria (basata su Gradienti, basata su GAN, Reinforcement Learning e basata su Ricerca).
2. Modello di Escalation a Quattro Generazioni: Gli autori tracciano la co-evoluzione di attacco e difesa attraverso quattro generazioni tecnologiche:
   • Gen 1: Difesa basata su firme vs offuscamento/packing.
   • Gen 2: ML classico con feature engineering vs perturbazione dello spazio delle caratteristiche.
   • Gen 3: Deep learning (CNN/LSTM/Transformer) vs campioni avversari basati su gradienti e creati tramite GAN.
   • Gen 4: Addestramento avversario/Federated Learning/XAI vs generazione di malware assistita da LLM e red teaming automatizzato.
     La revisione dimostra che l'aumento dell'accuratezza del rilevamento è stato costantemente eguagliato da un aumento del successo dell'evasione, anziché vedere un trend prevalere sull'altro.
3. Analisi del Gap di Governance ZTA: Il documento identifica un "gap di governance" in cui i framework ZTA dipendono strutturalmente dall'IA per la verifica continua, ma mancano di una valutazione integrata della robustezza avversaria. Sostiene che la robustezza avversaria debba essere trattata come un requisito di progettazione ZTA di prima classe, non come una questione di ricerca ML separata.
4. Sintesi di Spiegabilità e Fiducia: La revisione analizza il compromesso tra accuratezza del rilevamento e interpretabilità. Evidenzia che, sebbene tecniche come SHAP e LIME forniscano spiegazioni post-hoc, esse potrebbero non rappresentare fedelmente le decisioni del modello e potrebbero potenzialmente aiutare gli avversari. Nota che i quadri normativi (es. EU AI Act, NIST AI RMF) stanno iniziando a imporre l'esplicabilità, creando un imperativo di conformità per un'IA sicura.
5. Critica ai Benchmark e alla Valutazione: Il documento critica la dipendenza del campo da dataset obsoleti (es. KDD Cup 1999, NSL-KDD) e la prevalenza di attacchi nello "spazio delle caratteristiche" che non si traducono nello "spazio del problema" (file eseguibili reali o pacchetti di rete). Chiede metriche standardizzate di robustezza avversaria e benchmark realizzabili nello spazio del problema.

Risultati e Conclusioni

• Tecniche di Rilevamento: Le architetture di deep learning (CNN, LSTM, Transformer) dominano la letteratura attuale, raggiungendo un'alta accuratezza (>99% sui benchmark) ma soffrendo di opacità e alti costi computazionali. Le Reti Generative Avversarie (GAN) sono utilizzate sia in senso difensivo (per sintetizzare campioni di classi minoritarie) sia in senso offensivo (per generare traffico avversario).
• Strategie di Evasione: Gli attacchi avversari si sono evoluti da semplici perturbazioni delle caratteristiche a sofisticate sintesi basate su GAN e modifiche guidate dal Reinforcement Learning (RL) che preservano la funzionalità malevola. Gli attacchi black-box, che utilizzano modelli sostitutivi o metodi basati su query, sono sempre più prevalenti.
• Meccanismi di Difesa: L'addestramento avversario (riaddestramento su campioni perturbati) è la difesa più studiata, ma spesso fallisce nel generalizzare verso famiglie di attacco non viste. I metodi ensemble e il filtraggio basato sul rilevamento (identificare input avversari prima della classificazione) offrono una protezione complementare.
• Integrazione ZTA: Sebbene l'autenticazione e l'autorizzazione siano mature nelle implementazioni ZTA, i componenti di "percezione ambientale" e "orchestrazione" — che si affidano all'analisi dell'IA — sono meno esplorati per quanto riguarda la robustezza avversaria.
• Sfide Aperte: La revisione identifica cinque cluster critici di sfide aperte: (1) Robustezza e generalizzazione (mancanza di trasferibilità tra famiglie diverse), (2) Dati e benchmarking (necessità di dataset realizzabili nello spazio del problema), (3) Spiegabilità e fiducia (fedeltà delle spiegazioni post-hoc), (4) Vincoli operativi (costi computazionali dell'addestramento robusto), (5) Governance e standardizzazione (mancanza di metriche di robustezza unificate).

Significatività
Il documento afferma che la sua importanza risiede nel consolidare un corpo di ricerca frammentato in un resoconto coerente di come l'IA rimodelli entrambi i lati del conflitto cibernetico. Visualizzando l'evoluzione della corsa agli armamenti attraverso figure strutturate e riassunti quantitativi, il lavoro mira a accorciare il percorso dalla consapevolezza alla pratica azionabile.

Per i professionisti, le tassonomie fornite e i modelli della corsa agli armamenti spiegano perché i rilevatori che performano bene su benchmark statici spesso falliscono contro avversari adattivi. Per i decisori politici e gli organismi di standardizzazione, le evidenze sintetizzate riguardanti l'esplicabilità, la robustezza e l'integrazione ZTA offrono una base per redigere linee guida settoriali (es. per sanità e finanza) allineate a framework come il NIST AI Risk Management Framework. Per la comunità di ricerca, la revisione evidenzia lacune concrete — come la scarsità di benchmark avversari realistici e il compromesso irrisolto tra interpretabilità e accuratezza — per informare il design sperimentale futuro. In definitiva, il documento sostiene che colmare il divario tra l'accuratezza del rilevamento e la resilienza avversaria richiede di trattare robustezza, esplicabilità e verifica continua come proprietà congiuntamente ottimizzate di un singolo sistema di sicurezza.