Learning Locally, Revising Globally: Global Reviser for Federated Learning with Noisy Labels

1. Definizione del Problema

Il paper affronta il problema del Rumore di Etichetta Federato (F-LN). Sebbene l'Apprendimento Federato (FL) consenta un addestramento collaborativo che preserva la privacy, dipende fortemente da etichette di alta qualità, che spesso non sono disponibili in scenari decentralizzati del mondo reale (ad esempio, sanità, sistemi di raccomandazione).

Il problema F-LN è significativamente più impegnativo dell'apprendimento con rumore di etichetta centralizzato a causa della doppia eterogeneità:

1. Eterogeneità del Rumore di Etichetta: I diversi client sperimentano tipi di rumore variabili (simmetrico, asimmetrico, misto), rapporti di rumore e pattern differenti.
2. Eterogeneità dei Dati: I client possiedono distribuzioni di dati non I.I.D. (Indipendenti e Identicamente Distribuiti), portando a squilibri di classe.

I metodi esistenti spesso falliscono perché si basano su assunzioni centralizzate (come l'equilibrio delle classi) o richiedono la trasmissione di statistiche locali sensibili per costruire un consenso, esponendo a rischi per la privacy.

2. Osservazione Chiave: Robustezza Intrinseca al Rumore di Etichetta

Gli autori identificano un fenomeno critico, precedentemente poco esplorato: Il modello FL globale mostra una memorizzazione più lenta delle etichette rumorose rispetto all'addestramento centralizzato.

• Osservazione: Nell'addestramento centralizzato, i modelli si adattano rapidamente (overfit) alle etichette rumorose, degradando le prestazioni di test. Al contrario, il modello FL globale (aggregato tramite FedAvg) tende a memorizzare prima i pattern puliti e ritarda l'adattamento al rumore.
• Implicazione: Questa "robustezza intrinseca" permette al modello globale di mantenere previsioni affidabili e rappresentazioni robuste anche quando i dati locali sono rumorosi. Questo fenomeno è attribuito al processo di aggregazione, dove i segnali coerenti (pattern puliti) si rafforzano a vicenda, mentre i gradienti di rumore incoerenti tendono a cancellarsi a vicenda.

3. Metodologia: FedGR (Global Reviser Federato)

Motivati dall'osservazione sopra, gli autori propongono FedGR, un metodo che sfrutta il modello globale robusto per correggere l'addestramento locale senza compromettere la privacy. FedGR è composto da tre moduli collaborativi:

A. Modulo di Setacciatura e Rifinitura

Questo modulo partiziona i dati in sottoinsiemi puliti e rumorosi e corregge le etichette.

• Setacciatura Federata (FS): Invece di modellare il rumore localmente da parte di ogni client (il che è inaffidabile in condizioni di eterogeneità), il server aggrega proxy di dati a livello di istanza (nello specifico, la media della perdita di inferenza dei campioni sui round precedenti) da tutti i client.
  • Il server adatta un Modello a Mixture di Gaussiane (GMM) a queste distribuzioni globali di perdita per stimare la probabilità che un campione sia "pulito".
  • Ciò permette al server di partizionare i dati dei client in sottoinsiemi puliti e rumorosi e di stimare il rapporto di rumore ($r_k$) per ogni client.
  • Privacy: Vengono trasmessi solo valori di perdita scalari e identificatori opachi, preservando la privacy della distribuzione dei dati.
• Rifinitura delle Etichette (LR): Sulla base della partizione del server e del rapporto di rumore stimato, i client rifiniscono le proprie etichette:
  • Per i client con bassi rapporti di rumore, le etichette rumorose vengono corrette utilizzando una combinazione ponderata dell'etichetta originale e di un'etichetta pseudo-generata dal modello globale robusto.
  • Per i client con alti rapporti di rumore (o tipi di rumore complessi), tutte le etichette sono trattate come inaffidabili e vengono utilizzate solo le etichette pseudo generate dal modello globale.

B. Modulo di Distillazione EMA Rivista Globalmente

Per affrontare il conflitto in cui il modello globale è robusto ma potrebbe adattarsi male alle distribuzioni locali, e i modelli locali si adattano alle distribuzioni locali ma vanno in overfit sul rumore:

• I client mantengono un modello locale Exponential Moving Average (EMA).
• Prima della distillazione, il modello EMA locale viene rivisto dai parametri del modello globale. Ciò garantisce che il modello "insegnante" utilizzato per la distillazione della conoscenza sia robusto al rumore.
• Il modello studente locale apprende da questo insegnante rivisto tramite divergenza di Kullback-Leibler (KL) su dati debolmente aumentati. Ciò regolarizza l'addestramento locale e previene l'overfit sugli errori cumulativi.

C. Modulo di Regularizzazione della Rappresentazione Globale

Per prevenire ulteriormente che i modelli locali vadano in overfit sulle etichette rumorose:

• Viene imposta un vincolo di coerenza tra la rappresentazione globale (dal modello globale su dati debolmente aumentati) e la rappresentazione locale (dal modello locale su dati fortemente aumentati).
• Ciò garantisce che il modello locale apprenda rappresentazioni di caratteristiche robuste allineate con il consenso globale, piuttosto che memorizzare specifici artefatti di etichette rumorose.

4. Contributi Chiave

1. Osservazione Novità: Il paper fornisce evidenze empiriche e intuizioni teoriche secondo cui il modello FL globale possiede una robustezza intrinseca al rumore di etichetta dovuta al meccanismo di aggregazione, una proprietà non pienamente sfruttata nei lavori precedenti.
2. Framework FedGR: Un metodo autonomo e che preserva la privacy, composto da tre moduli (Setacciatura e Rifinitura, Distillazione EMA Rivista Globalmente e Regularizzazione della Rappresentazione Globale) che gestisce efficacemente la doppia eterogeneità.
3. Garanzia Teorica: Gli autori forniscono un'analisi di convergenza che dimostra che FedGR raggiunge lo stesso tasso di convergenza non convessa ($O(1/\sqrt{T})$) del FedAvg standard.
4. Preservazione della Privacy: A differenza dei metodi che richiedono lo scambio di statistiche locali, FedGR trasmette solo valori di perdita e identificatori, garantendo che non vi sia alcuna fuoriuscita delle distribuzioni dei dati grezzi.

5. Risultati Sperimentali

Gli autori hanno valutato FedGR su tre benchmark: CIFAR-10, CIFAR-100 e il dataset del mondo reale Clothing1M, sotto vari tipi di rumore (Simmetrico, Asimmetrico, Misto) e rapporti di rumore (fino al 100% di rumore su alcuni client).

• Prestazioni: FedGR ha costantemente superato sette baseline all'avanguardia (inclusi FedAvg, FedProx, FL-Coteaching, FL-DivideMix, FedCorr, FedNoRo, FedFixer e FedDiv).
• Robustezza: In scenari severi di doppia eterogeneità (ad esempio, dati Non-I.I.D. con alti rapporti di rumore), FedGR ha mantenuto un'alta accuratezza laddove altri metodi fallivano o collassavano.
• Studi di Ablazione: La rimozione di uno qualsiasi dei tre moduli (Setacciatura, Distillazione o Regularizzazione) ha portato a significativi cali di prestazioni, confermando la necessità dell'intero framework.
• Efficienza: Sebbene FedGR introduca un certo sovraccarico di comunicazione (trasmissione di proxy di perdita), è significativamente più efficiente rispetto ai metodi che richiedono più reti peer o meccanismi di consenso complessi.

6. Significato

Questo lavoro è significativo perché sposta il paradigma per la gestione delle etichette rumorose nell'FL. Invece di trattare l'FL come un'estensione distribuita dell'apprendimento con etichette rumorose centralizzato (che spesso fallisce a causa dell'eterogeneità), FedGR sfrutta le dinamiche uniche del processo di aggregazione FL stesso come meccanismo di difesa. Sfruttando la resistenza intrinseca del modello globale al rumore, FedGR offre una soluzione robusta e che preserva la privacy per applicazioni del mondo reale in cui la qualità dei dati non può essere garantita, come l'imaging medico e i sistemi di raccomandazione personalizzati.