Federated Learning with Energy-Based Structured Probabilistic Inference

Sintesi Tecnica: Apprendimento Federato con Inferenza Probabilistica Strutturata Basata sull'Energia

Definizione del Problema
L'Apprendimento Federato (FL) si basa tipicamente sul Federated Averaging (FedAvg), in cui il server aggrega gli aggiornamenti dei modelli dei client utilizzando pesi proporzionali al numero di campioni locali. Sebbene semplice, questo euristiche diventa subottimale quando i client possiedono distribuzioni di dati eterogenee (non-IID). In tali contesti, le regole di ponderazione fisse trattano tutti gli aggiornamenti scalati come ugualmente affidabili, portando al client drift, a una convergenza lenta o a un addestramento instabile. Le soluzioni esistenti, come i termini prossimali (FedProx), i termini di controllo (SCAFFOLD) o le regole di aggregazione robuste (ad esempio, media ritagliata, mediana geometrica), affrontano specifici modi di fallimento ma generalmente si affidano a euristiche fisse. Esse non riescono a modellare esplicitamente sia l'affidabilità individuale dei client sia le interazioni tra i client all'interno di un quadro di inferenza unificato.

Metodologia
Gli autori propongono di riformulare il problema dell'aggregazione lato server come un compito di inferenza probabilistica strutturata basata sull'energia utilizzando i Campi Casuali Condizionali (CRF). L'idea centrale è quella di inferire "etichette di affidabilità" discrete per ogni client basandosi sui loro aggiornamenti del modello locale, anziché fare affidamento esclusivamente sul numero di campioni.

1. Formulazione del Grafo:

   • Nodi: Client partecipanti in un round di comunicazione.
   • Osservazioni ($x$): I vettori di aggiornamento del modello locale (delta) e i conteggi dei campioni.
   • Variabili Latenti ($y$): Etichette di affidabilità discrete (ad esempio, $\{0, 0.25, 1\}$), dove valori più alti indicano una maggiore fiducia nell'aggiornamento.

2. Funzione di Energia:
   Il CRF definisce una funzione di energia $E(y|x)$ composta da due potenziali:

   • Potenziali Unari ($\psi_u$): Misurano l'affidabilità individuale del client. Il server calcola un aggiornamento di riferimento robusto (mediana coordinata di tutti i delta dei client). Successivamente, deriva tre statistiche normalizzate per ogni client: l'accordo del coseno con il riferimento, la distanza relativa dal riferimento e un punteggio di anomalia della norma dell'aggiornamento robusto. Questi vengono combinati tramite una funzione sigmoide per generare un punteggio di affidabilità, che inizializza il potenziale unario.
   • Potenziali Binari ($\psi_p$): Incoraggiano la coerenza tra i client con aggiornamenti simili. L'affinità tra il client $i$ e il client $j$ è definita dalla similitudine del coseno dei loro aggiornamenti, regolata dal minimo dei loro punteggi di affidabilità individuali. I client ad alta affinità sono penalizzati se assegnano etichette di affidabilità divergenti.

3. Inferenza e Aggregazione:

   • Poiché l'inferenza MAP (Maximum a Posteriori) esatta è intrattabile per un grafo completamente connesso, gli autori impiegano un'approssimazione mean-field. Questa aggiorna iterativamente la distribuzione a posteriori delle etichette di affidabilità per ogni client basandosi sui punteggi unari e sui costi attesi dai vicini.
   • Il peso di aggregazione finale per un client è il prodotto del suo peso base FedAvg (conteggio campioni) e della sua affidabilità attesa inferita. Questo peso raffinato viene utilizzato per calcolare il nuovo modello globale.

Contributi Chiave

• Formulazione: Il documento formula l'aggregazione del server FL come un problema di inferenza strutturata basata sull'energia su variabili di affidabilità dei client.
• Istanziazione: Implementa un CRF a livello di client completamente connesso dove i potenziali unari sono derivati da statistiche di aggiornamento robuste (basate sulla mediana) e i potenziali binari sono derivati dall'affinità di aggiornamento.
• Algoritmo: Propone un algoritmo di aggregazione mean-field compatibile con i loop di addestramento standard di FedAvg, che non richiede modifiche all'ottimizzazione lato client.
• Valutazione: Il metodo è valutato rispetto ai baseline standard di FL (FedAvg, FedProx) e ai metodi di aggregazione robusta (Krum, media ritagliata, mediana geometrica, RFA).

Risultati Sperimentali
Gli autori hanno valutato l'approccio su MNIST, CIFAR-10 e CIFAR-100 sotto severe condizioni non-IID (skew di etichette Dirichlet con $\alpha=0.003$ e $\alpha=0.1$).

• Performance: L'approccio guidato da CRF (CRF-FedAvg e CRF-FedProx) ha superato costantemente i baseline di aggregazione fissi e robusti in tutti i dataset.
• Significatività dei Guadagni: Mentre i miglioramenti su MNIST sono stati modesti (poiché la maggior parte dei metodi ha raggiunto un'alta accuratezza), i guadagni sono stati più pronunciati su CIFAR-10 e CIFAR-100. CRF-FedProx ha ottenuto l'accuratezza più elevata su CIFAR-10, e CRF-FedAvg ha ottenuto la più alta su CIFAR-100.
• Convergenza: Le curve di perdita di validazione hanno indicato che l'aggregazione guidata da CRF converge in modo più rapido e stabile rispetto ai baseline robusti, particolarmente nei round di comunicazione successivi. Ciò suggerisce che il metodo preserva efficacemente le direzioni di aggiornamento utili sopprimendo al contempo quelle inaffidabili, evitando il plateau conservativo osservato in metodi come la mediana geometrica.

Significatività e Rivendicazioni
Il documento sostiene che trattare l'aggregazione come un problema di inferenza strutturata offre un vantaggio distinto rispetto alle euristiche fisse. Modellando esplicitamente sia l'affidabilità del singolo aggiornamento sia la compatibilità tra i client, il server può assegnare pesi che sono adattivi alla specifica geometria degli aggiornamenti dell'attuale round.

• Gli autori sottolineano che questo approccio è complementare alle tecniche di ottimizzazione lato client (come FedProx); mentre FedProx vincola il drift locale, l'aggregazione guidata da CRF raffina il modo in cui gli aggiornamenti vengono combinati post-training.
• Il metodo è presentato come un plug-in lato server che non altera l'addestramento o i protocolli di comunicazione dei client.
• Gli autori segnalano i limiti, tra cui l'uso di potenziali progettati manualmente (anziché appresi), l'uso di iperparametri fissi tra gli esperimenti e il costo computazionale del grafo completamente connesso ($O(m^2)$), che potrebbe richiedere la sparsificazione per federazioni su scala molto vasta. Affermano inoltre che la valutazione attuale si concentra sull'eterogeneità statistica piuttosto che sulla robustezza avversaria (Byzantine).