Tri-LLM Cooperative Federated Zero-Shot Intrusion Detection with Semantic Disagreement and Trust-Aware Aggregation

Sintesi Tecnica: Rilevamento delle Intruzioni Cooperativo Tri-LLM con Apprendimento Federato Zero-Shot

Problematica
Gli attuali sistemi di rilevamento delle intrusioni (IDS) basati sull'apprendimento federato (Federated Learning - FL) affrontano due limitazioni critiche negli ambienti moderni di cyber-fisica e IoT. In primo luogo, la maggior parte opera sotto assunzioni di set chiuso (closed-set), affidandosi a spazi di etichette fissi e firme statiche che non riescono a rilevare attacchi zero-day o comportamenti di attacco precedentemente non visti. In secondo luogo, gli framework esistenti spesso mancano di meccanismi fondati per la stima calibrata dell'incertezza e faticano a gestire client eterogenei e inaffidabili in contesti non identicamente distribuiti (non-IID). Sebbene i Large Language Models (LLM) offrano forti capacità di ragionamento semantico, la loro integrazione in pipeline federate per la sicurezza in scenari open-world rimane ampiamente inesplorata, in particolare per quanto riguarda la gestione dell'ambiguità semantica e della fiducia dei client senza l'accesso ai dati centralizzati.

Metodologia
Il documento propone un framework IDS federato guidato dalla semantica che disaccoppia la generazione della conoscenza semantica dal processo di ottimizzazione federata. L'architettura centrale è composta da tre componenti principali:

1. Costruzione di Prototipi Semantici Tri-LLM:
   Invece di federare gli LLM, il framework utilizza un ensemble centralizzato di tre modelli distinti — GPT-4o, DeepSeek-V3 e LLaMA-3-8B — per generare prototipi semantici di attacco. Per ogni categoria di attacco, i modelli elaborano tre prospettive testuali distinte (obiettivi offensivi, sintomi difensivi e strategie avversarie) per produrre embedding. Questi vengono fusi in un singolo prototipo semantico ($z_a$) che rappresenta il concetto di attacco in uno spazio di embedding condiviso. Fondamentalmente, il disaccordo semantico ($D_a$) tra i tre modelli viene esplicitamente calcolato come un segnale di incertezza epistemica.

2. Aggregazione Federata Consapevole della Fiducia (Trust-Aware):
   I client addestrano modelli di proiezione semantica leggeri ($W_i$) per mappare le caratteristiche di telemetria a basso livello nello spazio semantico condiviso definito dai prototipi LLM. Il framework introduce un meccanismo di aggregazione consapevole della fiducia in cui gli aggiornamenti dei client sono pesati in base alla loro perdita di allineamento semantico (semantic alignment loss). I client con una perdita inferiore (migliore allineamento con i prototipi globali) ricevono punteggi di fiducia più elevati. Questo processo include lo smoothing temporale per garantire la stabilità e monitora l'entropia della fiducia per rilevare la convergenza e la concentrazione della fiducia sui partecipanti affidabili, mitigando così l'impatto di client devianti o compromessi.

3. Inferenza Zero-Shot e Stima del Rischio:
   Durante l'inferenza, il traffico in entrata viene proiettato nello spazio semantico e confrontato con i prototipi derivati dal linguaggio tramite similitudine del coseno. Il sistema calcola un Punteggio Zero-Day (ZDS) che combina la confidenza della similitudine semantica con il disaccordo semantico inter-LLM. Un alto disaccordo e una bassa similitudine risultano in un ZDS elevato, segnalando l'osservazione come una potenziale minaccia zero-day con incertezza calibrata, piuttosto che forzare una classificazione sicura ma potenzialmente errata.

Contributi Chiave

• Supervisione Semantica Tri-LLM: L'introduzione di un paradigma federato che integra prototipi semantici derivati dal linguaggio per abilitare l'attribuzione zero-shot in condizioni di set aperto, andando oltre l'apprendimento statistico delle caratteristiche.
• Modellazione del Rischio Basata sul Disaccordo: Una metrica innovativa che tratta il disaccordo semantico inter-LLM come un segnale diretto di incertezza epistemica, consentendo una stima del rischio zero-day calibrata senza campioni etichettati di tipo zero-day.
• Aggregazione Consapevole della Fiducia: Un meccanismo di pesatura basato sulla perdita che regola dinamicamente l'influenza del client in base alla qualità dell'allineamento semantico, migliorando la robustezza contro dati non-IID e partecipanti inaffidabili.

Risultati Sperimentali
Il framework è stato valutato rispetto a baseline federate compatibili con il protocollo (ad es., varianti di FedAvg) e a rappresentativi framework FL-IDS. Le scoperte chiave includono:

• Prestazioni Zero-Shot: Il framework completo ha raggiunto oltre l'80% di accuratezza nel rilevamento zero-shot su pattern di attacco non visti, superando significativamente le baseline basate sulla sola similitudine e i metodi federati a set chiuso.
• Calibrazione dell'Incertezza: È stata osservata una forte relazione inversa tra il disaccordo semantico e la confidenza di rilevamento ($\partial C / \partial D_a < 0$). Il sistema ha identificato con successo i rischi zero-day sfruttando il disaccordo, migliorando la discriminazione zero-day di oltre il 10% rispetto alle baseline.
• Convergenza e Stabilità: L'analisi dell'entropia della fiducia ha dimostrato un declino monotono, indicando una convergenza stabile dove la fiducia si concentra sui client affidabili. L'allineamento semantico è migliorato costantemente attraverso i round federati, confermando che i client eterogenei possono convergere verso uno spazio semantico globale coerente senza scambio di dati grezzi.
• La Diversità come Asset: Lo studio ha trovato una correlazione debole ma positiva tra la diversità semantica (misurata tramite l'entropia della fiducia) e l'accuratezza del rilevamento, suggerendo che l'eterogeneità controllata migliora la generalizzazione piuttosto che degradare le prestazioni.

Significatività e Rivendicazioni
Il documento sostiene di aver stabilito un nuovo paradigma per un IDS adattivo, interpretabile e consapevole della privacy. Unificando LLM, FL e ragionamento semantico, il framework affronta la sfida "open-world" dove le etichette degli attacchi sono incomplete o non disponibili. Gli autori sottolineano che il loro approccio sposta il focus del design dall'accuratezza marginale in set chiuso al comportamento calibrato in open-world, fornendo un metodo rigoroso per la valutazione del rischio zero-day. Il lavoro postula che la diversità semantica, quando regolata attraverso la fusione consapevole della fiducia, agisca come un vantaggio sistemico per la generalizzazione. Il sistema proposto è presentato come una soluzione teoricamente fondata per la prossima generazione di cybersecurity che opera efficacemente sotto scenari di minaccia dinamici senza richiedere la raccolta di dati centralizzata o il riaddestramento su esempi zero-day etichettati.

Limitazioni e Direzioni Future
Gli autori riconoscono che l'attuale implementazione si basa su LLM pre-addestrati non specificamente affinati per la semantica della sicurezza di rete e si concentra su caratteristiche a livello semantico piuttosto che su caratteristiche a livello di pacchetto grezzo. Notano che il meccanismo di fiducia assume client "honest-but-curious" (onesti ma curiosi) e non affronta completamente il poisoning mirato degli embedding semantici. Il lavoro futuro proposto esplorerà la modellazione adattiva della fiducia tramite apprendimento per rinforzo, l'integrazione della telemetria multimodale e studi di deployment su larga scala in ambienti IoT industriali reali.