Byzantine-Robust Aggregation for Securing Decentralized Federated Learning

Sintesi Tecnica: Aggregazione Byzantine-Robust per la Sicurezza dell'Apprendimento Federato Decentralizzato

Definizione del Problema

L'Apprendimento Federato Decentralizzato (DFL) estende il paradigma dell'Apprendimento Federato (FL) eliminando il server centrale, aumentando così la scalabilità, la tolleranza ai guasti e la privacy evitando un singolo punto di vulnerabilità. Tuttavia, questa decentralizzazione introduce significative vulnerabilità di sicurezza, in particolare riguardo ai guasti Byzantine, in cui client malevoli (nodi Byzantine) tentano di interrompere il processo di apprendimento inviando aggiornamenti del modello arbitrari o avvelenati.

Sebbene esistano numerosi algoritmi di aggregazione robusti ai guasti Byzantine per l'FL centralizzato (CFL), il documento nota che la maggior parte di essi è progettata per scenari centralizzati e potrebbe non essere altrettanto efficiente in ambienti decentralizzati. Nel DFL, l'assenza di un coordinatore centrale complica l'implementazione di algoritmi di sicurezza uniformi, e la natura dinamica delle topologie decentralizzate, combinata con le capacità eterogenee dei nodi, crea sfide uniche. La letteratura esistente manca di un algoritmo di aggregazione Byzantine-robust dedicato, progettato specificamente per il DFL che tenga conto sia delle statistiche spaziali che di quelle temporali.

Metodologia

Gli autori propongono WFAgg, un nuovo algoritmo di aggregazione Byzantine-robust progettato specificamente per gli ambienti DFL. Il nucleo della metodologia consiste in un processo di filtraggio multi-stadio e aggregazione pesata eseguito localmente da ogni nodo sulla base dei modelli ricevuti dai propri vicini.

1. Configurazione del Sistema:
Il sistema è modellato come uno scenario cross-device in cui $N$ client collaborano attraverso un grafo non orientato $G$. I client comunicano tramite un protocollo ispirato al Gossip, inoltrando i modelli addestrati a tutti i vicini. L'obiettivo è minimizzare la funzione di perdita empirica attraverso la rete senza un server centrale.

2. L'Algoritmo WFAgg:
WFAgg impiega un approccio a tre filtri per identificare e mitigare i modelli malevoli prima dell'aggregazione. Un modello è considerato "benigno" solo se supera criteri specifici attraverso questi filtri. I filtri operano sequenzialmente:

• WFAgg-D (Basato sulla Distanza): Calcola la distanza euclidea tra ogni modello ricevuto e la mediana dei modelli ricevuti. Seleziona i $K-f-1$ modelli con le distanze minori, dove $K$ è il numero di modelli ricevuti e $f$ è il numero stimato di nodi malevoli.
• WFAgg-C (Basato sulla Similarità): Calcola la distanza del coseno tra i modelli ricevuti e il modello mediano. Impiega anche il clipping dell'ampiezza basato sull'ampiezza mediana. Seleziona i $K-f-1$ modelli con le distanze del coseno minori, filtrando efficacementamente i modelli che deviano significativamente nella direzione.
• WFAgg-T (Basato sul Tempo): Analizza l'evoluzione temporale degli aggiornamenti del modello. Confronta l'aggiornamento corrente di un vicino con una finestra temporale dei suoi aggiornamenti precedenti (utilizzando la distanza euclidea e la similarità del coseno). Utilizza una media mobile esponenzialmente ponderata (EWMA) per stabilire le soglie di media e deviazione standard. Gli aggiornamenti che cadono al di fuori di queste soglie sono segnalati come bruschi e potenzialmente malevoli.

3. Aggregazione Pesata (WFAgg-E):
Una volta che i filtri hanno identificato i sottoinsiemi di modelli benigni ($T_1, T_2, T_3$), l'algoritmo assegna pesi a ciascun modello ricevuto in base a quanti filtri lo hanno identificato come benigno.

• Un modello identificato da tutti e tre i filtri riceve il peso massimo ($\tau_1 + \tau_2 + \tau_3$).
• Un modello identificato da un solo filtro riceve un peso pari a zero (rifiutato).
• Un modello identificato da due filtri riceve un peso parziale.
  L'aggregazione finale utilizza una media ponderata per coordinata (simile a FedAvg ma con pesatura differenziale per il modello locale e i vicini), controllata da un fattore di smoothing $\alpha$.

Contributi Chiave

Il documento delinea quattro contributi primari:

1. Design di un Nuovo Algoritmo: Lo sviluppo di WFAgg, un algoritmo di aggregazione Byzantine-robust specificamente per il DFL che integra tecniche di filtraggio spaziale (distanza/similarità) e temporale.
2. Valutazione Comparativa: Una valutazione sistematica degli algoritmi di aggregazione robusti ai guasti Byzantine allo stato dell'arte (SOTA) per scenari centralizzati (Mean, Median, Trimmed-Mean, Krum, Multi-Krum, Clustering) quando applicati a contesti decentralizzati, evidenziandone i limiti.
3. Validazione Empirica: Esperimenti estesi su un compito di classificazione di immagini IID (MNIST) sotto vari scenari di attacco Byzantine (Noise, Sign-Flipping, Label-Flipping, ALIE, IPM), dimostrando che WFAgg supera gli schemi centralizzati in ambienti decentralizzati.
4. Framework di Simulazione: L'implementazione di un simulatore DFL basato su Python per condurre questi esperimenti, supportando sia topologie centralizzate che decentralizzate.

Risultati

Gli esperimenti sono stati condotti su una rete di 20 nodi (10% malevoli) utilizzando una topologia di grafo 8-regolare. I risultati indicano:

• Robustezza contro gli Attacchi: WFAgg ha mitigato con successo tutti gli attacchi testati (inclusi Noise, Sign-Flipping, Label-Flipping, ALIE e varianti di Inner Product Manipulation) sia in scenari centralizzati che decentralizzati.
• Confronto con SOTA:
  • Gli algoritmi centralizzati standard come Mean e Trimmed-Mean non sono riusciti a convergere o hanno subito cali significativi di accuratezza sotto attacchi Noise e IPM-100 in contesti decentralizzati.
  • Gli algoritmi basati sulla distanza (Krum, Multi-Krum) hanno avuto difficoltà con gli attacchi IPM-0.5 in scenari decentralizzati a causa dell'incapacità di distinguere cambiamenti direzionali sottili.
  • I metodi basati sul clustering sono falliti sotto attacchi Noise in contesti decentralizzati.
  • WFAgg ha mantenuto un'alta accuratezza (ad esempio, ~95-98% in vari scenari) e ha raggiunto una convergenza più rapida rispetto agli algoritmi SOTA testati nel contesto decentralizzato.
• Consistenza del Modello: Utilizzando la metrica R-quadrato ($R^2$) per misurare la similarità dei modelli locali tra i nodi benigni, WFAgg ha dimostrato una superiore consistenza di convergenza rispetto agli algoritmi SOTA basati sul filtraggio come Krum e Clustering, che hanno mostrato valori di $R^2$ inferiori a causa della selezione di diversi sottoinsiemi di modelli da parte dei nodi.
• Performance dei Singoli Nodi: L'analisi dell'evoluzione dell'accuratezza dei singoli nodi ha mostrato che i nodi benigni convergono verso un'alta accuratezza entro pochi round, anche quando circondati da vicini malevoli, mentre i nodi malevoli sono stati efficacemente isolati dal meccanismo di pesatura.

Significato e Rivendicazioni

Il documento afferma che WFAgg rappresenta un approccio nuovo nella letteratura, essendo il primo ad affrontare esplicitamente la robustezza Byzantine in scenari decentralizzati considerando sia le statistiche spaziali che quelle temporali. Gli autori sostengono che l'integrazione di molteplici filtri leggeri permette al sistema di adattarsi alla natura dinamica e avversaria degli ambienti IoT decentralizzati.

Lo studio conclude che, sebbene gli schemi di aggregazione robusti centralizzati esistenti offrano una certa protezione, essi sono insufficienti per le specifiche sfide del DFL. Il proposto algoritmo WFAgg fornisce un'alternativa più efficiente e robusta, garantendo l'accuratezza e la convergenza del modello anche in presenza di diversi attacchi Byzantine. Gli autori suggeriscono che il lavoro futuro dovrebbe concentrarsi sull'ottimizzazione delle reti di comunicazione (ad esempio, utilizzando le Software-Defined Networks) per ridurre ulteriormente l'overhead e la latenza in questi processi di apprendimento decentralizzati.