Riepilogo Tecnico: FedeKD

Enunciato del Problema

L'Apprendimento Federato (FL) consente l'addestramento collaborativo di modelli su client decentralizzati senza condividere dati grezzi. Tuttavia, le implementazioni reali del FL affrontano sfide significative a causa dell'eterogeneità dei dati (distribuzioni non-IID) e dell'asimmetria dei modelli. Queste condizioni spesso portano al trasferimento negativo, dove la conoscenza condivisa tra i client degrada le prestazioni locali invece di migliorarle.

I metodi esistenti di Distillazione della Conoscenza Federata (FKD) tentano di mitigare questo problema scambiando le uscite del modello (logits o rappresentazioni) invece dei parametri. Tuttavia, gli approcci attuali soffrono di due limitazioni principali:

1. Assunzione di Affidabilità Uniforme: Tipicamente assumono che la conoscenza trasferita sia uniformemente affidabile su tutti i campioni e tutti i client, ignorando la variabilità nella qualità della conoscenza causata da spostamenti di distribuzione o differenze architetturali.
2. Dipendenza da Dati Pubblici: Molti metodi fanno affidamento su dataset pubblici aggiuntivi o rappresentazioni di dati condivisi per stabilizzare l'addestramento, che spesso non sono disponibili o sollevano preoccupazioni sulla privacy in scenari pratici.

Di conseguenza, trasferire ciecamente la conoscenza da un "insegnante" (proxy globale) a uno "studente" (modello privato locale) può introdurre segnali fuorvianti, causando un grave degrado delle prestazioni rispetto all'addestramento locale.

Metodologia: FedeKD

Il documento propone FedeKD (Energy-Based Gating for Robust Federated Knowledge Distillation), un framework progettato per eseguire una stima della fiducia a livello di campione durante il trasferimento della conoscenza senza richiedere dati pubblici.

Architettura

FedeKD impiega un'architettura asimmetrica privato-proxy su ogni client:

• Modello Privato ($f_k$): Una rete ad alta capacità responsabile del compito principale di apprendimento locale.
• Modello Proxy ($g_k$): Una rete leggera utilizzata esclusivamente per lo scambio di conoscenza tra client. Tutti i modelli proxy condividono un'architettura comune.

Processo di Addestramento

Il framework opera in fasi sequenziali per ogni round di comunicazione:

1. Distillazione in Avanti del Proxy: Ogni client congela il proprio modello privato e addestra il proxy locale a imitare le previsioni del modello privato sui dati locali.
2. Aggregazione del Proxy: I proxy locali vengono caricati sul server, aggregati in un proxy globale e trasmessi in broadcast a tutti i client.
3. Distillazione Indietro a Cancellazione Energetica: Il proxy globale guida gli aggiornamenti del modello privato locale. Crucialmente, questo passaggio utilizza un meccanismo di cancellazione consapevole dell'affidabilità per determinare quanto fiducia riporre nella guida del proxy per ogni specifico campione.

Il Meccanismo di Cancellazione Basato sull'Energia

L'innovazione centrale è la conversione del disaccordo privato-proxy in pesi di fiducia a livello di campione.

• Punteggio Energetico ($E(x)$): Misura il disaccordo tra il modello privato e il proxy globale.
  • Per la Classificazione: Utilizza una divergenza Kullback-Leibler (KL) simmetrica normalizzata per l'entropia. Questo normalizza il disaccordo per l'entropia predittiva totale, garantendo che le contraddizioni ad alta confidenza siano penalizzate più pesantemente rispetto ai disaccordi diffusi ad alta entropia.
  • Per la Regressione: Utilizza l'errore quadratico tra le previsioni.
• Peso di Fiducia ($w_i$): I punteggi energetici vengono normalizzati per batch e passati attraverso una cancellazione logistica per produrre pesi di fiducia continui:
  $$w_i = \rho(-\beta \tilde{E}_i)$$
  dove $\tilde{E}_i$ è l'energia normalizzata per batch e $\beta$ controlla la nitidezza.
• Regola di Aggiornamento: Il modello privato viene aggiornato utilizzando una combinazione ponderata della perdita supervisionata e della perdita di distillazione. I campioni con alto disaccordo (alta energia) ricevono pesi di fiducia più bassi, riducendo efficacemente la conoscenza inaffidabile, mentre i campioni con basso disaccordo ricevono pesi più alti.

Il meccanismo di cancellazione è relativo al batch, il che significa che la fiducia viene assegnata in base a come il disaccordo di un campione si confronta con quello degli altri nello stesso minibatch, piuttosto che a una soglia globale fissa. I pesi vengono staccati durante la retropropagazione per garantire che agiscano come scalari di affidabilità senza introdurre nuovi percorsi di ottimizzazione.

Contributi Chiave

1. Distillazione Indietro Consapevole dell'Affidabilità: Il documento introduce un obiettivo innovativo che sposta il focus da come scambiare la conoscenza a quanto ogni segnale trasferito dovrebbe essere affidato. Ciò viene ottenuto senza dati pubblici sfruttando il disaccordo specifico del compito tra privato e proxy.
2. Framework Asimmetrico Privato-Proxy: Il design separa l'apprendimento locale (modello privato ad alta capacità) dalla comunicazione (proxy leggero), riducendo l'esposizione di parametri sensibili consentendo al contempo uno scambio di conoscenza robusto.
3. Cancellazione Basata sull'Energia: Un meccanismo di cancellazione continuo e differenziabile che mappa il disaccordo in pesi di fiducia. Gestisce sia la classificazione (tramite divergenza KL calibrata per l'entropia) che la regressione (tramite errore quadratico) all'interno di un framework unificato.
4. Proprietà Teoriche: Gli autori stabiliscono che il meccanismo di cancellazione preserva la direzione dei gradienti di distillazione (prevenendo il ribaltamento del segnale di apprendimento) e fornisce pesi di fiducia limitati e non degeneri.

Risultati Sperimentali

FedeKD è stato valutato su sei dataset reali (quattro per la classificazione: FashionMNIST, CIFAR-10, OCTMNIST, OrganAMNIST; due per la regressione: RetinaMNIST, Diabetic Retinopathy) sotto diversi livelli di eterogeneità (controllati dal parametro di concentrazione di Dirichlet $\alpha$).

• Mitigazione del Trasferimento Negativo: FedeKD ha costantemente ottenuto il trasferimento negativo medio ($\Delta_{avg}$) e nel caso peggiore ($\Delta_{worst}$) più basso su tutti i dataset e i livelli di eterogeneità. Sotto eterogeneità severa ($\alpha=0.1$), ha superato significativamente le linee di base come FedAvg, FedProx, FedDyn e il recente FedType.
• Robustezza: Il metodo ha dimostrato una robustezza superiore nella coda inferiore della distribuzione delle prestazioni dei client ($\Delta$ P10 per la classificazione) e nella coda superiore della distribuzione dell'errore ($\Delta$ P90 per la regressione), indicando che protegge i client più vulnerabili e mitiga errori estremi.
• Prestazioni Predittive: Nonostante la priorità data alla robustezza, FedeKD ha mantenuto una precisione media dei client e un RMSE competitivi o superiori rispetto alle linee di base, dimostrando che la riduzione del trasferimento negativo non avviene a scapito delle prestazioni predittive complessive.
• Studi di Ablazione:
  • La rimozione del meccanismo di cancellazione ("No Gating") ha portato a un trasferimento negativo significativamente più alto, confermando la necessità di una ponderazione consapevole dell'affidabilità.
  • Funzioni energetiche alternative (entropia, margine, distanza delle caratteristiche) sono state meno consistenti rispetto all'energia basata su KL proposta.
  • Il parametro di nitidezza della cancellazione $\beta$ e il peso di distillazione $\lambda_{kd}$ hanno mostrato prestazioni ottimali in intervalli moderati, bilanciando il compromesso tra l'utilizzo della conoscenza condivisa e la preservazione dell'apprendimento locale.

Significato e Affermazioni

Il documento afferma che FedeKD affronta un divario fondamentale nel FL eterogeneo: la mancanza di meccanismi per valutare dinamicamente l'affidabilità della conoscenza trasferita. Trattando l'affidabilità della conoscenza come un oggetto di prima classe, FedeKD mitiga il trasferimento negativo senza i rischi per la privacy o i requisiti di dati dei metodi esistenti.

Gli autori posizionano FedeKD come un passo verso un apprendimento federato più robusto e scalabile, in particolare per domini sensibili alla privacy come l'assistenza sanitaria, dove l'eterogeneità dei dati è prevalente e il costo del trasferimento negativo (ad esempio, una diagnosi errata) è elevato. Il lavoro sottolinea che la stima adattiva della fiducia a livello di campione è essenziale per una collaborazione efficace in ambienti non-IID, andando oltre l'assunzione che tutti i segnali trasferiti siano ugualmente benefici.

Il documento riconosce le limitazioni, notando che gli esperimenti sono stati condotti su benchmark pubblici con partizioni simulate e che le misure energetiche per la regressione misurano il disaccordo funzionale piuttosto che l'incertezza calibrata. Si suggerisce che il lavoro futuro si concentri su implementazioni reali multi-sito, valutazioni consapevoli dell'equità e stima adattiva della fiducia.