Sintesi Tecnica: TITAN – Three-Tier Intrusion-Detection Tree-Based Adaptive Network

1. Definizione del Problema

Il documento affronta due sfide critiche e complementari nel Federated Learning (FL) per l'individuazione delle intrusioni nell'Internet of Things Industriale (IIoT):

1. Partizionamento Non-IID Severo: Negli ambienti IIoT, i singoli dispositivi osservano porzioni disgiunte di traffico di attacco. Intere classi di attacco possono essere assenti da specifici dispositivi, violando l'assunto di indipendenza e identica distribuzione (IID) su cui si basa lo standard FL.
2. Sbilanciamento delle Classi Estremo: Le classi di attacco operative (ad es. attacchi web, brute-force) sono spesso rare, comprendendo meno dello 0,1% dei campioni, mentre i flussi dominanti (DoS/DDoS) possono superare il 94%.

Le soluzioni esistenti non riescono ad affrontare l'intersezione di questi problemi. I metodi nello spazio dei parametri (ad es. FedAvg, FedProx) assumono modelli differenziabili (reti neurali), escludendo apprendisti basati su alberi come LightGBM, che eccellono sui dati tabulari di flusso. Inoltre, questi metodi spesso mediano i pesi in un modo che diluisce l'expertise delle classi minoritarie, portando a modelli globali mal calibrati che sacrificano la recall a favore dell'accuratezza della classe maggioritaria. I metodi a livello di predizione richiedono spesso un dataset pubblico condiviso per la distillazione della conoscenza, il che contrasta con le normative di minimizzazione dei dati e residenza dei dati tipiche dell'IIoT.

2. Metodologia: L'Architettura TITAN

TITAN (Three-Tier Intrusion-Detection Tree-Based Adaptive Network) è un'architettura federata gerarchica che scambia solo gli output delle predizioni e piccole statistiche riassuntive, mai dati grezzi, gradienti o parametri del modello. È progettata specificamente per apprendisti basati su alberi non differenziabili.

Tier 1: Addestramento a Livello di Dispositivo

Ogni dispositivo ($D=20$) addestra un classificatore LightGBM indipendente sui propri dati locali non-IID attraverso uno schema di adaptive boosting a quattro fasi:

• Fase 1 (Base Bilanciata): Addestra con pesi bilanciati per classe.
• Fase 2 (Raffinamento Campioni Difficili): Utilizza un esponente di focal loss adattivo derivato dai punteggi F1 della Fase 1 per concentrarsi sui campioni difficili senza sovrascrivere i confini della classe maggioritaria.
• Fase 3 (Ribilanciamento Per-Classe): Ribilancia condizionalmente le classi con bassi punteggi F1, a condizione che soddisfino un conteggio minimo di campioni per evitare l'overfitting su singoli casi isolati.
• Fase 4 (Arricchimento Minoranza): Sottocampiona la classe dominante a un rapporto relativo alla seconda classe più grande, mantenendo tutti i campioni della minoranza, permettendo al modello di formare nodi foglia per le classi rare.

Dopo l'addestramento RAW, viene addestrato un modello META utilizzando un design out-of-fold (OOF). Questo modello prende le predizioni del modello RAW su una partizione tenuta in scarto come feature di input. Ciò evita il problema del "insegnante degenerato", in cui un modello predice quasi perfettamente sui propri dati di addestramento. Il dispositivo comunica solo questi vettori di probabilità META ($K$-class output) e piccoli riassunti delle etichette all'edge.

Tier 2: Ensemble con Distillazione della Conoscenza a Livello di Edge

I dispositivi sono raggruppati in cluster edge ($E=5$). Ogni edge addestra un ensemble LightGBM che impara a fidarsi di specifici dispositivi per classi specifiche.

• Distillazione della Conoscenza Adattiva (KD): L'edge utilizza un insegnante k-fold OOF auto-contenuto, costruito dai META output dei dispositivi membri, per generare soft label.
• Meccanismi di Gating: Per evitare che insegnanti inaffidabili corrompano lo studente, quattro gate moltiplicativi modulano il segnale KD:
  1. Gate di Entropia: Sopprime la KD se l'insegnante è eccessivamente sicuro (vicino al formato one-hot).
  2. Gate di Supporto: Disabilita la KD per le classi assenti nelle etichette locali dell'edge.
  3. Gate di Recall: Scala la KD in base alla recall per classe dell'insegnante.
  4. Gate di Frequenza di Classe: Impedisce al bias della classe maggioritaria di diluire l'apprendimento della classe minoritaria.
• Aggregazione: In fase di valutazione, l'edge aggrega gli output dei dispositivi utilizzando pesi di expertise statici (basati sui conteggi dei campioni di addestramento) e pesi di confidenza dinamici.

Tier 3: Fusione Bayesiana Globale

Il tier globale fonde le predizioni provenienti dai cinque edge utilizzando un framework di Bayesian Product-of-Experts (PoE).

• Mascheramento dell'Expertise: Una maschera di expertise per classe ($m_{e,k}$) silenzia gli edge che mancano di supporto di addestramento per una specifica classe, impedendo a esperti non informati di castare "veti sicuri vicino allo zero" che sopprimerebbero le classi rare.
• Soccorso Classe Rara (Expert Panel): Se la fusione bayesiana non riesce ad assegnare una probabilità di maggioranza a una classe rara (o se la classe è globalmente rara), un "Expert Panel" dei migliori 5 dispositivi (classificati per expertise locale) vota per soccorrere il segnale.
• Calibrazione con Safety-Gate: Una pipeline di calibrazione a tre stadi raffina le probabilità finali:
  1. Temperature Scaling.
  2. Blending del Meta-learner (stacking degli output degli edge).
  3. Fitting del bias log-odds per classe.
     Fondamentalmente, ogni stadio è "safety-gated" su macro-F1; se un passaggio non migliora la macro-F1, il sistema ritorna al valore precedente.

3. Contributi Chiave

1. Federazione a Livello di Predizione per Apprendisti Basati su Alberi: TITAN abilita il federated learning per LightGBM senza un dataset pubblico condiviso. Sostituisce la media dei parametri con lo scambio nello spazio delle predizioni, utilizzando un insegnante OOF per generare target "soft" localmente, aderendo così alle regole di minimizzazione dei dati.
2. Gating dell'Expertise Per-Classe: L'architettura introduce una maschera di expertise per (edge, classe) nel livello di fusione bayesiana. Ciò consente al sistema di silenziare esperti non informati su specifiche classi, un meccanismo necessario in federazioni dove intere classi sono assenti da alcune partizioni.
3. Calibrazione Multi-stadio con Safety-Gate: A differenza del lavoro precedente che ottimizza la calibrazione (come l'ECE) in isolamento, TITAN integra la calibrazione nella pipeline federata con un gate di sicurezza guidato dalla macro-F1. Ciò assicura che gli aggiustamenti di calibrazione non degradino la rilevazione delle classi minoritarie.
4. Protocollo di Valutazione Rigoroso: Il documento stabilisce un protocollo riproducibile su 16 configurazioni (4 dataset $\times$ 2 severità non-IID $\times$ 2 strategie di raggruppamento) con rigorosa deduplicazione a livello di riga per evitare inflazioni di accuratezza.

4. Risultati Sperimentali

Valutato su quattro benchmark IoT (CIC IoT-DIAD 2024, CIC IoT 2023, NF-BoT-IoT-V3, NF-ToN-IoT-V3) sotto rigide condizioni non-IID ($\alpha=0.1$):

• Performance vs Baselines: TITAN supera FedAvg di una media di 6,2 punti percentuali in macro-F1 in tutte le configurazioni.
• Severità Non-IID: Il divario di performance si amplia con l'eterogeneità dei dati. Nelle partizioni più eterogenee, TITAN supera FedAvg di 23,3 punti percentuali.
• Confronto con l'Oracolo: TITAN supera l'"Oracle del Miglior Dispositivo" (il miglior singolo modello locale) in 14 delle 16 configurazioni e supera il tetto centralizzato in 11 configurazioni.
• Fonte del Guadagno: Il documento nota che i guadagni sono guidati principalmente dai miglioramenti della calibrazione piuttosto che dalla pura potenza discriminante, evidenziando l'importanza della pipeline di calibrazione nel gestire lo sbilanciamento delle classi.
• Fallimento delle Alternative: Lo studio osserva che FedProx non riesce a migliorare rispetto a FedAvg su apprendisti basati su alberi e che le valutazioni a metrica singola (accuratezza) nascondono gravi fallimenti delle classi minoritarie (il "paradosso dell'accuratezza").

5. Significato e Rivendicazioni

Il documento afferma che TITAN fornisce una via percorribile per l'individuazione delle intrusioni federata nell'IIoT dove la residenza dei dati, lo sbilanciamento estremo e le distribuzioni non-IID impediscono l'uso degli standard di FL basati sulla media dei parametri.

• Novità Architetturale: È il primo IDS federato che combina apprendisti basati su alberi, assenza di dataset condiviso, gating dell'expertise per classe e calibrazione con gate macro-F1 in un unico framework.
• Rilevanza Operativa: Concentrandosi su macro-F1 e calibrazione, TITAN affronta la "fallacia del tasso di base" dove l'alta accuratezza maschera il fallimento nel rilevare attacchi rari ma critici.
• Scalabilità: L'architettura supporta partizioni eterogenee che vanno da 28 a oltre 2 milioni di campioni per dispositivo, dimostrando robustezza attraverso diverse scale di dati.

Gli autori posizionano TITAN non solo come un miglioramento delle prestazioni, ma come un'evoluzione necessaria del FL per la sicurezza industriale basata su dati tabulari, ad alto rischio, dove gli approcorsi standard centrati sulle reti neurali sono computazionalmente inefficienti o statisticamente non corretti.