Enhanced Byzantine-Robust Federated Learning Via Truncated-Quadratic Loss for Heterogeneous Data

Dichiarazione del Problema
L'Apprendimento Federato (Federated Learning - FL) consente l'addestramento di modelli di deep learning su client distribuiti (ad esempio, dispositivi mobili, sensori) senza condividere i dati grezzi, migliorando così la privacy. Tuttavia, questa architettura distribuita introduce vulnerabilità agli attacchi bizantini, in cui client malevoli inviano aggiornamenti arbitrari per interrompere il processo di apprendimento. Inoltre, gli scenari di FL del mondo reale spesso coinvolgono dati eterogenei (non-IID), dove le distribuzioni dei dati variano significativamente tra i client. Le attuali regole di aggregazione robuste, come Krum, Coordinate-wise Median (CM) e Robust Federated Aggregation (RFA), spesso assumono l'omogeneità dei dati e degradano in condizioni di eterogeneità. Sebbene siano state proposte regole come il Centered Clipping (CC) e aggregatori basati sulla perdita Huber per gestire i dati eterogenei, questo articolo identifica che essi soffrono di un difetto critico: producono soluzioni distorte di fronte a outlier di grande magnitudo, particolarmente in condizioni di alta eterogeneità dei dati o di una frazione sostanziale di client bizantini. Questo bias si accumula nel corso dei round di comunicazione, portando al fallimento dell'apprendimento.

Metodologia
L'articolo propone una nuova regola di aggregazione robusta basata sulla perdita Truncated-Quadratic (TQ). La metodologia procede attraverso i seguenti passaggi:

1. Analisi Teorica dei Metodi Esistenti: Gli autori utilizzano prima la teoria della coniugata convessa per dimostrare l'equivalenza tra il Centered Clipping (CC) e la minimizzazione della perdita Huber per l'FL resistente ai bizantini. Dimostrano che entrambi soddisfano la $(f, \kappa)$-robustezza ma condividono un limite comune: impiegano la norma $\ell_1$ (o meccanismi di clipping equivalenti) per resistere agli outlier. L'articolo analizza teoricamente e dimostra che questo approccio genera un bias che cresce con l'eterogeneità dei dati e la frazione di client bizantini.
2. Proposta della Perdita Truncated-Quadratic (TQ): Per mitigare il bias inerente alla perdita Huber/CC, gli autori introducono la funzione di perdita TQ. A differenza della Huber, che cresce linearmente per errori elevati, la TQ taglia (clip) completamente la perdita degli outlier una volta che superano una soglia $\tau$. Il problema di aggregazione è formulato come la minimizzazione della somma delle perdite TQ sugli aggiornamenti dei client.
3. Ottimizzazione e Implementazione: Poiché la perdita TQ è non regolare (non-smooth) e non convessa, gli autori utilizzano la teoria della coniugata convessa per riconsiderare il problema di minimizzazione in una forma iterativa equivalente (Algoritmo 1). Ciò consente un calcolo efficiente in cui gli aggiornamenti vengono tagliati in base alla distanza dall'aggregato corrente.
4. Stima degli Iperparametri: La regola TQ richiede un parametro di soglia $\tau_k$ e la conoscenza del numero di client bizantini ($f$). L'articolo propone una strategia di stima della deviazione robusta utilizzando la Mediana e la Deviazione Assoluta dalla Mediana (MAD) per stimare la media e la varianza dei buoni client senza conoscenza preventiva. Inoltre, gli autori analizzano lo scenario in cui è disponibile solo una stima del numero di client bizantini ($\hat{f}$), dimostrando che l'aggregatore rimane robusto anche se $\hat{f}$ è una sovrastima (fino al punto di rottura).
5. Integrazione nell'Algoritmo FL: L'aggregatore TQ è integrato in un framework di FL resistente ai bizantini (Algoritmo 2) utilizzando il momentum per ridurre la varianza del gradiente e contrastare gli attacchi accoppiati nel tempo.

Contributi Chiave

• Equivalenza e Analisi del Bias: L'articolo stabilisce formalmente l'equivalenza tra la perdita Huber e il Centered Clipping tramite la teoria della coniugata convessa. Fornisce un'analisi teorica che mostra come entrambi i metodi producano soluzioni distorte sotto eterogeneità e outlier, spiegando i loro fallimenti empirici.
• Aggregatore TQ: Gli autori propongono l'aggregatore basato su TQ, che mitiga efficacemente il bias dei metodi esistenti tagliando completamente gli outlier di grande magnitudo.
• Garanzie di Robustezza: L'articolo dimostra che l'aggregatore TQ soddisfa la $(f, \kappa)$-robustezza con un punto di rottura $\delta_{min} = 0.5$. Dimostra che TQ raggiunge un apprendimento ordine-ottimale per funzioni di perdita non convesse e dati eterogenei.
• Strategie di Stima Pratica: Viene fornita una strategia di stima robusta per l'iperparametro TQ, e l'articolo analizza l'impatto della stima del numero di client bizantini, mostrando che il metodo rimane efficace anche con stime imperfette.

Risultati Sperimentali
L'aggregatore TQ proposto è stato valutato sui dataset MNIST, Fashion-MNIST e CIFAR-10 in varie condizioni:

• Tipi di Attacco: Le prestazioni sono state testate contro sei attacchi distinti: Gaussian Attack (GA), Label-Flipping (LF), Bit-Flipping (BF), Inner Product Manipulation (IPM), MIMIC e "A Little Is Enough" (ALIE).
• Eterogeneità: Gli esperimenti hanno coperto diversi gradi di eterogeneità dei dati ($\rho$).
• Confronti: TQ è stato confrontato con RFA, CM, TM, Krum, Huber e Maximum Correntropy Aggregation (MCA), sia con che senza passaggi di pre-aggregazione come Bucketing e Nearest Neighbor Mixing (NNM).

Risultati:

• Robustezza Superiore: TQ ha costantemente superato gli aggregatori concorrenti, in particolare in condizioni di alta eterogeneità dei dati e di alta frazione di client bizantini (fino al 50%).
• Mitigazione del Bias: A differenza di Huber e CC, che hanno mostrato una significativa degradazione delle prestazioni e un accumulo di bias all'aumentare del numero di client bizantini, TQ ha mantenuto un'alta accuratezza.
• Attacchi Misti: Negli scenari in cui diversi client bizantini lanciavano simultaneamente diversi tipi di attacchi, TQ ha superato significativamente gli altri metodi attraverso vari livelli di eterogeneità.
• Robustezza della Stima: I risultati hanno indicato che TQ mantiene la robustezza anche quando il numero di client bizantini è stimato piuttosto che noto esattamente.

Significatività e Rivendicazioni
L'articolo sostiene che l'aggregatore TQ proposto migliora l'affidabilità dei sistemi di apprendimento federato affrontando i modi di fallimento specifici degli attuali metodi allo stato dell'arte sotto l'eterogeneità dei dati. Dimostrando che TQ raggiunge un errore di apprendimento ordine-ottimale (allineandosi con il limite teorico descritto nel Lemma 2), gli autori sostengono che il loro metodo rappresenti un passo avanti significativo nell'FL resistente ai bizantini. Il lavoro fornisce sia la giustificazione teorica per il fallimento di Huber/CC in contesti eterogenei, sia un'alternativa pratica e robusta che non richiede la conoscenza precisa del numero di client malevoli.