🤖 machine learning

Federated Learning with Uncertainty and Personalization via Efficient Second-order Optimization

Questo articolo propone un nuovo metodo di ottimizzazione del secondo ordine, computazionalmente efficiente, per l'Apprendimento Federato che ottiene i benefici della quantificazione dell'incertezza e della personalizzazione tipici degli approcci bayesiani, superando significativamente i metodi allo stato dell'arte esistenti in termini di accuratezza ed efficienza.

Autori originali: Shivam Pal, Aishwarya Gupta, Saqib Sarwar, Piyush Rai

Pubblicato 2026-06-09

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Shivam Pal, Aishwarya Gupta, Saqib Sarwar, Piyush Rai

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina un gruppo di studenti (i client) che vivono tutti in case diverse e hanno i propri set unici di compiti a casa. Vogliono imparare una materia insieme, ma c'è una regola severa: nessuno può lasciare la propria casa o condividere i propri fogli di carta con i compiti. Possono solo inviare le loro risposte a un insegnante (il server) che siede nel mezzo.

Questo è il Federated Learning (Apprendimento Federato). L'insegnante raccoglie le risposte, ne fa la media per creare una "Guida Magistrale" e la rimanda indietro agli studenti.

Il problema del vecchio metodo

Di solito, l'insegnante prende semplicemente una media delle risposte (come FedAvg). Questo funziona benissimo se tutti hanno compiti simili. Ma cosa succede se lo Studente A ha solo problemi di matematica, lo Studente B solo storia e lo Studente C un mix di entrambi? Una singola "Guida Magistrale" non aiuterà molto nessuno perché sarà un mix sfocato di tutto.

Inoltre, i vecchi metodi non dicono quanto si siano sicuri di una risposta. Se uno studente indovina per caso, l'insegnante non sa se si tratta di un colpo di fortuna o di un calcolo consapevole.

Alcuni ricercatori hanno cercato di risolvere il problema usando l'Apprendimento Bayesiano. Invece di inviare solo una risposta, gli studenti invierebbero un'intera "nuvola di possibilità" (una distribuzione di probabilità) per mostrare quanto sono sicuri. Questo è ottimo per la personalizzazione e per sapere quando non si è sicuri. Ma, calcolare e inviare queste "nuvole" è come cercare di spedire una biblioteca di libri invece di una semplice cartolina. È troppo pesante, troppo lento e troppo costoso per studenti con una connessione internet debole o computer vecchi.

La nuova soluzione: FedIvon

Gli autori di questo articolo hanno creato un nuovo metodo chiamato FedIvon. Immaginatelo come un modo per inviare un "riassunto intelligente" che sembra una pesante biblioteca ma pesa quanto una cartolina.

Ecco come funziona, usando una semplice analogia:

1. La scorciatoia del "Secondo Ordine" (La mappa intelligente)

Immaginate di fare un'escursione giù da una montagna per trovare la valle più bassa (la risposta migliore).

I vecchi metodi (come Adam) sono come un escursionista che guarda solo la pendenza direttamente sotto i suoi piedi. Fa piccoli passi basati su quanto è ripido il terreno in quel momento. Funziona, ma può essere lento e rischia di incastrarsi in piccole buche.
I metodi Bayesiani tradizionali cercano di mappare l'intera catena montuosa per comprendere perfettamente la forma della valle. Questo è accurato, ma richiede un tempo infinito per disegnare la mappa.
FedIvon è come un escursionista che usa una bussola intelligente. Non mappa l'intera montagna, ma stima rapidamente la curvatura del terreno (è un dirupo ripido o un pendio dolce?) usando un trucco chiamato IVON. Questo gli permette di fare passi più grandi e intelligenti senza dover disegnare l'intera mappa. Ottiene i vantaggi della "mappa completa" (incertezza e precisione) senza il carico di lavoro pesante.

2. Il "Prior" Personalizzato (L'indizio dell'insegnante)

In questo nuovo sistema, l'insegnante rimanda indietro un "indizio" (una distribuzione a priori o prior) basato su ciò che l'intera classe sa.

Quando uno studente impara, parte dall'indizio dell'insegnante e poi lo adatta pesantemente in base ai propri compiti specifici.
Se uno studente ha pochissimi compiti (dati), si affida di più all'indizio dell'insegnante.
Se uno studente ha molti compiti unici, si fida di più dei propri dati.
Questo crea un Modello Personalizzato per ogni studente che è comunque connesso al gruppo.

3. Lo scambio efficiente

Invece di inviare una pesante "nuvola" di dati, FedIvon invia solo due piccoli numeri per ogni parte del modello:

La migliore ipotesi (la media).
Il livello di confidenza (quanto la risposta potrebbe variare).

Poiché la matematica dietro FedIvon è così efficiente (calcola questi numeri implicitamente mentre apprende, invece di fare un calcolo separato ed costoso), funziona quasi alla stessa velocità dei semplici metodi non bayesiani.

Cosa hanno scoperto?

Gli autori lo hanno testato su tre diversi "set di compiti" (dataset):

**EMN (lettere/numeri scritti a mano).
SVHN (numeri civici da cartelli stradali).
CIFAR-10 (immagini di oggetti come gatti, auto, ecc.).

Hanno simulato uno scenario in cui 200 studenti avevano ognuno pochissimi esempi (meno di 100) e tipi di dati molto diversi tra loro.

I Risultati:

Migliore Accuratezza: FedIvon ha ottenuto punteggi più alti nei test rispetto ai vecchi metodi di "media" e persino migliori rispetto ad altri complessi metodi bayesiani.
Migliore Confidenza: È stato molto più bravo a capire quando non era sicuro. In un test in cui hanno cercato di individuare immagini "strane" (Out-of-Distribution), FedIvon è stato il migliore nel dire: "Non so cos'è questo", invece di indovinare male con troppa sicurezza.
Velocità: Nonostante tutta questa matematica sofisticata, non ha rallentato il processo. È stato veloce quanto i metodi semplici.

In sintamente

FedIvon è un nuovo modo per far sì che i computer imparino insieme senza condividere dati privati. Riesce a essere intelligente (sapendo quanto è sicuro), personale (adattandosi ai dati unici di ogni utente) e veloce (senza rallentare la rete). Risolve il problema del "l'apprendimento bayesiano è troppo pesante" usando una scaltrina scorciatoia matematica che rende il lavoro pesante leggero.

Riepilogo Tecnico: Apprendimento Federato con Incertezza e Personalizzazione tramite Ottimizzazione del Secondo Ordine Efficiente

Definizione del Problema

L'Apprendimento Federato (FL) consente l'addestramento collaborativo di modelli su client decentralizzati senza condividere i dati grezzi. Tuttavia, gli approcci standard di FL affrontano due sfide primarie:

Eterogeneità dei Dati: Quando i dati dei client sono non-IID (non indipendenti e non identicamente distribuiti), un singolo modello globale spesso non riesce a rappresentare efficacemente le distribuzioni individuali dei client, portando a prestazioni subottimali.
Mancanza di Quantificazione dell'Incertezza: I metodi FL standard apprendono tipicamente stime puntuali dei parametri del modello. Ciò li rende suscettibili all'overfitting in regimi con pochi dati e incapaci di fornire l'incertezza predittiva, che è cruciale per compiti come il rilevamento Out-of-Distribution (OOD).

Sebbene il Bayesian FL offra una soluzione fondata apprendendo le distribuzioni a posteriori per catturare l'incertezza e consentire la personalizzazione (tramite framework gerarchici), gli approcci esistenti soffrono di significativi colli di bottiglia. Gli attuali metodi di Bayesian FL si affidano spesso a routine computazionalmente costose (ad esempio, campionamento MCMC, approssimazione di Laplace che richiede il calcolo esplicito dell'Hessiana, o deep ensemble) e comportano elevati costi di comunicazione trasmettendo intere distribuzioni a posteriori. Questi fattori ne limitano la scalabilità, in particolare per i client con risorse limitate.

Metodologia: FedIvon

Gli autori propongono FedIvon, un nuovo algoritmo di Bayesian FL che sfrutta l'Improved Variational Online Newton (IVON) per eseguire un'inferenza variazionale del secondo ordine efficiente. Il metodo bilancia i benefici dell'inferenza bayesiana con l'efficienza computazionale e di comunicazione comparabile agli ottimizzatori del primo ordine come Adam.

Componenti Core

Inferenza Variazionale Lato Client (IVON):
- Inveve di apprendere una stima puntuale, ogni client approssima la propria distribuzione a posteriori locale $q_k(\theta)$ utilizzando una Gaussiana con una matrice di covarianza diagonale: $N(\theta | m_k, \text{diag}(\sigma_k^2))$ .
- Efficienza del Secondo Ordine: A differenza di Adam, che regola i tassi di apprendimento in base ai gradienti al quadrato, IVON utilizza una riparametrizzazione per stimare implicitamente l'Hessiana diagonale ( $h$ ) senza calcolo esplicito. La varianza è derivata come $\sigma^2 = 1/(h + \delta)$ .
- Ottimizzazione: L'algoritmo aggiorna sia il vettore della media ( $m$ ) che le varianze ( $\sigma^2$ ) utilizzando gradienti naturali. Ciò fornisce stime dell'incertezza in modo naturale e cattura la geometria della funzione di perdita per una convergenza più rapida, mantenendo al contempo costi computazionali simili ad Adam.
Aggregazione della Posterior Lato Server:
- Il server aggrega le posterior dei client per calcolare una posterior globale. Poiché il prodotto di distribuzioni Gaussiane è anch'esso una Gaussiana, la posterior globale è approssimata come una Gaussiana $N(\theta | \mu, \Lambda^{-1})$ .
- Strategia di Aggregazione: La media globale ( $\mu$ ) e la matrice di precisione ( $\Lambda$ ) sono calcolate come somme pesate delle medie e delle precisioni locali, dove i pesi sono proporzionali alle dimensioni dei dataset dei client ( $N_k$ ). Questa strategia è computazionalmente efficiente poiché richiede solo la trasmissione della media e della varianza diagonale (o dell'Hessiana) anziché dei pesi completi del modello o di distribuzioni complesse.
Personalizzazione tramite Framework Bayesiano Gerarchico:
- FedIvon supporta naturalmente il FL personalizzato. La posterior globale dal server funge da prior ( $p_k(\theta)$ ) per l'ottimizzazione locale del client.
- Il client minimizza una funzione di perdita personalizzata: $L_k(q) = \mathbb{E}_{q_k}[\bar{\ell}_k(\theta)] + \beta D_{KL}(q_k(\theta) \| p_k(\theta))$ .
- L'iperparametro $\beta$ controlla il compromesso tra adattamento locale e conoscenza globale. Quando $\beta=0$ , il modello è completamente personalizzato; valori più elevati incorporano più conoscenza globale.

Contributi Chiave

Efficient Bayesian FL del Secondo Ordine: Introduzione di FedIvon, che utilizza IVON per eseguire l'inferenza variazionale con costi computazionali simili ai metodi del primo ordine (come Adam) ma fornisce informazioni del secondo ordine (stime dell'Hessiana) implicitamente.
Prestazioni e Incertezza Migliorate: Dimostrazione che FedIvon raggiunge un'accuratezza predittiva superiore e migliori stime dell'incertezza rispetto ai metodi SOTA (State-of-the-Art) sia bayesiani che non bayesiani di FL.
Personalizzazione Nativa: Un framework che abilita naturalmente la personalizzazione del modello a livello di client sfruttando la posterior del server come prior, bilanciando efficacemente le caratteristiche dei dati locali con la conoscenza globale condivisa.

Risultati Sperimentali

Gli autori hanno valutato FedIvon su tre dataset (EMNIST, SVHN, CIFAR-10) in scenari non-IID con 200 client, ciascuno con dati limitati (<100 esempi).

Risultati FL Standard

Accuratezza e Calibrazione: FedIvon ha superato i baseline (FedAvg, FedLaplace) in termini di accuratezza del test, Expected Calibration Error (ECE), Negative Log Likelihood (NLL) e Brier Score in tutti i dataset.
Rilevamento OOD: Nei compiti di rilevamento Out-of-Distribution, FedIvon ha ottenuto punteggi AUROC competitivi o superiori rispetto ai baseline, validando la sua capacità di quantificare efficacemente l'incertezza predittiva.
Convergenza: Sebbene FedIvon abbia mostrato una convergenza iniziale leggermente più lenta a causa del campionamento stocastico dei pesi per la stima del gradiente, ha superato gli altri metodi con l'avanzare dell'addestramento grazie a una migliore approssimazione dell'Hessiana.

Risultati FL Personalizzato

Gli esperimenti su CIFAR-10 (skew della distribuzione delle classi) e CIFAR-100 (concept drift della classe) hanno confrontato FedIvon contro pFedME, pFedBayes e pFedVEM.

CIFAR-10: FedIvon ha raggiunto un'accuratezza del client comparabile a pFedVEM, ma ha dimostrato miglioramenti significativi nell'accuratezza del server globale, indicando una migliore aggregazione di dati eterogenei.
CIFAR-100: FedIvon ha mostrato miglioramenti significativi rispetto a tutti i baseline sia nell'accuratezza personalizzata del client che nell'accuratezza del server globale, evidenziando la sua robustezza nel gestire il concept drift.

Significato e Rivendicazioni

Il paper sostiene che FedIvon colmi il divario tra i benefici teorici del Bayesian FL (quantificazione dell'incertezza, personalizzazione) e i vincoli pratici dei sistemi federati (computazione, comunicazione). Utilizzando un approccio di ottimizzazione del secondo ordine efficiente, il metodo evita l'elevato overhead computazionale di MCMC o dei calcoli espliciti dell'Hessiana presenti nei lavori precedenti.

Gli autori affermano che FedIvon è il primo metodo a offrire:

Efficienza computazionale comparabile agli ottimizzatori del primo ordine (come Adam).
Pieni benefici bayesiani (incertezza e personalizzazione) senza i problemi di scalabilità dei metodi di Bayesian FL esistenti.
Prestazioni superiori sia in scenari di FL standard che personalizzato, particolarmente in scenari con alta eterogeneità dei dati e quantità limitate di dati per client.

Il lavoro posiziona FedIvon come una soluzione pratica e scalabile per il deployment di modelli di machine learning robusti, consapevoli dell'incertezza e personalizzati in ambienti federati del mondo reale.