Sintesi Tecnica: Framework di Controllo Neuro-Agentico per la Sicurezza dell'IoT Industriale

1. Definizione del Problema

Gli attacchi informatici contro i sistemi di Tecnologia Operativa (OT) e l'Internet of Things Industriale (IIoT) stanno causando sempre più significativi danni finanziari e rischi per la sicurezza fisica. Il monitoraggio tradizionale basato su regole è insufficiente per gli ambienti complessi e densi dei moderni impieghi industriali. Sebbene i Large Language Models (LLM) offrano potenti capacità di ragionamento semantico per il supporto decisionale, la loro tendenza a "allucinare" (generare output fattualmente errati o fisicamente impossibili) pone responsabilità inaccettabili in termini di sicurezza per i sistemi di controllo a ciclo chiuso. Al contrario, gli esistenti modelli di previsione di serie temporali spesso mancano del ragionamento semantico necessario per formulare contromisure complesse. Esiste una critica necessità di un framework che sfrutti il potere di ragionamento degli LLM pur ancorando rigorosamente le loro azioni alla realtà fisica per prevenire fallimenti catastrofici nei Sistemi Cyber-Fisici (CPS).

2. Metodologia

Il documento propone un Framework di Controllo Neuro-Agentico, un'architettura a due stadi che scinde il ragionamento semantico dal controllo fisico. Il sistema opera come un ciclo chiuso composto da due agenti primari:

• L'Architetto (LLM Planner): Utilizzando Gemini 2.5 Flash-Lite, questo agente funge da ragionatore semantico. Riceve dati contestuali (trend dei sensori, tempo previsto al guasto, manuali operativi recuperati tramite Retrieval-Augmented Generation) e genera strategie di controllo candidate. Queste strategie vengono espresse come oggetti JSON strutturati che definiscono un tipo di azione, una magnitudo (es. tasso di drenaggio) e una durata.
• La Sentinella (Motore Fisico): Utilizzando TimesFM (un modello foundation di serie temporali pre-addestrato), questo agente funge da verità fondamentale fisica deterministica. Non aggiorna i propri pesi interni, ma utilizza la sua conoscenza pre-addestrata della dinamica temporale per prevedere gli stati futuri del sistema.

Meccanismo Core: Iniezione Fisica Controfattuale

L'innovazione centrale è il meccanismo di Iniezione Fisica Controfattuale. Poiché l'LLM non può modificare direttamente i pesi del modello foundation, il framework traduce i comandi semantici dell'LLM in perturbazioni numeriche all'interno della serie temporale prevista.

• Il sistema simula l'effetto di un'azione proposta dall'LLM (es. l'apertura di una valvola di scarico) applicando un'iniezione lineare cumulativa all'orizzonte previsto.
• Per un tasso di drenaggio $\mu$ e una durata $\delta$, la previsione modificata $\hat{y}'_t$ è calcolata come:
  • $\hat{y}'_t = \hat{y}_t + \mu \cdot (t + 1)$ per $t < \delta$ (effetto di drenaggio cumulativo).
  • $\hat{y}'_t = \hat{y}_t + \mu \cdot \delta$ per $t \geq \delta$ (mantenimento del livello drenato finale).
• Ciò consente alla Sentinella di prevedere l'esito fisico di un'azione proposta prima che venga eseguita.

Strategia di Reiezione delle Allucinazioni

Il framework impiega un algoritmo deterministico di Reiezione delle Allucinazioni. Prima che qualsiasi azione venga eseguita, la Sentinella simula l'esito di ogni strategia candidata proposta dall'Architetto.

• Verifica della Sicurezza: Se un'azione simulata risulta in uno stato del sistema peggiore rispetto alla baseline (ad esempio, un'azione a magnitudo positiva di "riempimento" durante uno scenario di traboccamento, o un'azione che non riesce ad abbassare il livello sotto la soglia critica), essa viene rifiutata.
• Ottimizzazione: Il sistema seleziona l'azione ottimale $a^*$ che minimizza il rischio previsto (picco massimo di livello) tra tutti i candidati validi. Se tutti i candidati sono insicuri o inefficaci, il sistema passa allo stato di "Monitoraggio".

3. Contributi Chiave

1. Architettura Innovativa: Un framework di controllo Neuro-Agentico che separa esplicitamente il ragionamento semantico (LLM) dal controllo fisico (Modello Foundation) per i sistemi IoT.
2. Iniezione Fisica Controfattuale: Un meccanismo per tradurre le azioni di controllo semantiche in perturbazioni numeriche delle previsioni future, consentendo la validazione deterministica senza il fine-tuning del modello foundation.
3. Strategia di Reiezione Deterministica: Uno strato di sicurezza basato sulla minimizzazione del rischio nel caso peggiore che rifiuta automaticamente le proposte dell'LLM insicure, fisicamente non valide o allucinate.
4. Validazione Empirica: Dimostrazione dell'efficacia del framework sul dataset SWaT (Secure Water Treatment), mostrando una prevenzione delle violazioni superiore rispetto ai tradizionali baseline di deep learning.

4. Risultati Sperimentali

Il framework è stato valutato sul dataset SWaT (Secure Water Treatment) sotto 15 scenari di attacco stocastici che coinvolgono tre tipi di attacchi: Picco Improvviso (Sudden Spike), Deriva Graduale (Gradual Drift) e Rumore Elevato (High Noise). Le prestazioni sono state confrontate con i baseline LSTM e TCN (Temporal Convolutional Network).

• Prevenzione delle Violazioni (Breach Prevention):
  • Neuro-Agentico: Ha evitato violazioni in 5 casi su 15 (33,3%).
  • LSTM: Ha evitato violazioni in 4 casi su 15 (26,7%).
  • TCN: Ha evitato violazioni in 2 casi su 15 (13,3%).
• Riduzione del Rischio:
  • Il framework Neuro-Agentico ha ottenuto una riduzione media del rischio di 48,51 unità, superando significativamente LSTM (16,77 unità) e TCN (20,29 unità).
  • Nello scenario di maggior successo (Trial 10), il framework ha ridotto il picco di rischio di 215,38 unità, più di tre volte la massima riduzione ottenuta dal baseline LSTM.
• Sicurezza e Allucinazioni:
  • Fondamentalmente, il sistema Neuro-Agentico ha eseguito zero azioni allucinate o fisicamente non valide. La Sentinella ha filtrato con successo tutte le proposte insicure (es. azioni a magnitudo positiva durante un overflow) prima dell'esecuzione.
  • Al contrario, i baseline hanno fallito nel prevenire le violazioni o, nel caso del sistema Neuro-Agentico, il meccanismo di reiezione ha garantito che nessuna strategia "allucinata" venisse mai applicata al sistema.

5. Significato e Rivendicazioni

Il documento sostiene che il Loop Neuro-Agentico riesce a colmare il divario tra il ragionamento di alto livello dell'IA Generativa e i rigorosi requisiti di sicurezza del controllo industriale. Utilizzando un Modello Foundation di Serie Temporali come "Sentinella", il sistema fornisce un modello del mondo ancorato alla fisica che valida le decisioni dell'LLM in modo deterministico.

• Garanzia di Sicurezza: Il framework trasforma gli LLM da predittori probabilistici opachi in pianificatori spiegabili e vincolati dalla sicurezza. Garantisce che nessuna azione di controllo allucinata venga eseguita, affrontando una barriera primaria all'uso degli LLM nei sistemi CPS critici per la sicurezza.
• Prestazioni: Il sistema dimostra che l'accoppiamento di un LLM con un modello foundation produce una migliore prevenzione delle violazioni e una maggiore riduzione del rischio rispetto ai modelli tradizionali di deep learning, particolarmente in scenari che richiedono interventi rapidi e decisivi (es. picchi improvvisi).
• Compromessi (Trade-offs): Gli autori riconoscono che questo approccio introduce una latenza di inferenza di 1,5 - 2,5 secondi per ciclo di controllo (a causa della generazione dell'LLM e della simulazione controfattuale), che è superiore ai controllori PID tradizionali, ma rimane entro le costanti temporali operative della maggior parte dei processi chimici e fluidodinamici.

Il documento conclude che questa architettura offre una via percorribile verso una difesa industriale autonoma e sicura, a patimento che la latenza venga gestita e il sistema venga validato in ambienti diversificati. Si propone come lavoro futuro l'ottimizzazione della latenza di inferenza tramite quantizzazione del modello e il test della robustezza contro attacchi avversari mirati all'orizzonte di previsione del modello foundation.