PTOPOFL: Privacy-Preserving Personalised Federated Learning via Persistent Homology

Il paper presenta PTOPOFL, un framework di apprendimento federato personalizzato che garantisce la privacy e migliora le prestazioni su dati non-IID sostituendo la condivisione dei gradienti con descrittori topologici derivati dall'omologia persistente, riducendo drasticamente il rischio di ricostruzioni dei dati e ottenendo risultati superiori rispetto agli approcci esistenti.

L'essenziale

🏥 Il Problema: La "Festa" con Due Problemi Maggiori

Immagina che il Federated Learning (FL) sia una grande festa dove diversi ospedali (i "clienti") vogliono allenare un'intelligenza artificiale per curare meglio i pazienti, ma non possono condividere i dati dei pazienti per motivi di privacy.

Invece di inviare i dati grezzi, ogni ospedale invia al "capo" (il server centrale) un riassunto di quanto ha imparato. Tuttavia, questo sistema ha due grossi difetti:

1. Il rischio di spionaggio (Privacy): I riassunti che gli ospedali inviano sono come "ricette dettagliate". Un hacker o un capo curioso potrebbe usare queste ricette per ricostruire esattamente chi erano i pazienti e quali malattie avevano. È come se, inviando una ricetta, rivelassi anche la lista della spesa e il nome di chi l'ha cucinata.
2. Il caos delle differenze (Non-IID): Ogni ospedale ha pazienti diversi. Uno ha molti anziani, un altro molti giovani. Se mescoli tutti i consigli alla rinfusa, il risultato finale è confuso e non funziona bene per nessuno. È come se un cuoco di Napoli e uno di Milano provassero a fare una pizza insieme senza accordarsi: il risultato sarebbe strano.

🧭 La Soluzione: PTOPOFL (La Bussola Topologica)

Gli autori hanno creato PTOPOFL, un nuovo metodo che risolve entrambi i problemi contemporaneamente. Invece di inviare le "ricette" (i gradienti, che sono dati pesanti e rischiosi), gli ospedali inviano solo una "bussola topologica".

Ecco come funziona, passo dopo passo:

1. Invece di inviare i dati, invia la "forma" (Persistenza Omologica)

Immagina che i dati di ogni ospedale siano una nuvola di punti nello spazio.

• Metodo vecchio: Inviavi le coordinate esatte di ogni punto (i dati grezzi).
• Metodo PTOPOFL: Invece di inviare i punti, calcoli la forma della nuvola. È come dire: "La mia nuvola di dati ha un buco al centro come una ciambella" o "È un gruppo compatto come un panino".

Questa "forma" viene descritta da un vettore di soli 48 numeri.

• Perché è sicuro? È come inviare la sagoma di un oggetto invece dell'oggetto stesso. Da una sagoma di una ciambella, non puoi ricostruire il nome del panettiere o la farina usata. È matematicamente impossibile tornare indietro dai numeri alla persona. È un "collasso" delle informazioni: molte cose diverse possono avere la stessa forma, quindi non c'è un modo unico per indovinare l'origine.

2. Raggruppare per "somiglianza di forma" (Clustering)

Il server centrale non mescola tutti gli ospedali alla rinfusa. Guarda le "bussoline" (le forme topologiche) inviate.

• Se l'Ospedale A e l'Ospedale B hanno la "forma" dei loro dati molto simile (es. entrambi hanno molti anziani), li mette nello stesso gruppo.
• Se l'Ospedale C ha una forma diversa (es. molti bambini), lo mette in un altro gruppo.

Poi, il server crea un modello specifico per ogni gruppo. È come se il server dicesse: "Ok, voi del gruppo 'Anziani' fate una pizza napoletana, voi del gruppo 'Bambini' fate una pizza margherita dolce". Questo risolve il problema della confusione.

3. Caccia agli intrusi (Rilevamento delle Anomalie)

Cosa succede se un ospedale è "cattivo" e cerca di sabotare il sistema (iniettando dati falsi)?
La sua "forma" topologica sarà strana, come un triangolo in mezzo a tanti cerchi. Il sistema PTOPOFL lo nota subito perché la sua bussola punta in una direzione diversa. Il sistema lo ignora o gli dà meno peso, proteggendo il gruppo.

🚀 I Risultati: Perché è meglio?

Il paper ha testato questo metodo su scenari reali (come la previsione della mortalità dopo trapianti polmonari) e ha scoperto che:

• È più sicuro: Il rischio che qualcuno ricostruisca i dati dei pazienti è 4,5 volte più basso rispetto ai metodi attuali.
• È più preciso: Funziona meglio perché raggruppa gli ospedali simili invece di mescolare tutto.
• È veloce: Impara subito, senza bisogno di molte prove ed errori.

🎨 L'Analogia Finale: La Scultura di Sabbia

Immagina che ogni ospedale abbia un castello di sabbia unico.

• Il metodo vecchio: Chiede a tutti di inviare una foto ad alta risoluzione di ogni granello di sabbia. Qualcuno potrebbe usare la foto per rubare il progetto del castello o vedere chi ha costruito cosa.
• PTOPOFL: Chiede a tutti di inviare solo una foto della sagoma del castello proiettata al tramonto.
  • La sagoma ti dice se il castello è alto, se ha torri o se è basso (la struttura).
  • Ma non ti dice di che colore è la sabbia, chi l'ha costruita o quanti granelli ci sono.
  • Inoltre, se due castelli hanno la stessa sagoma, li tratterai allo stesso modo, creando un modello perfetto per quel tipo di castello.

In Sintesi

PTOPOFL è un modo intelligente per insegnare alle intelligenze artificiali a collaborare senza svelare i loro segreti. Usa la geometria e la "forma" dei dati per raggruppare le persone giuste e proteggere la privacy, rendendo l'apprendimento più sicuro e più efficace per tutti.

Sommario tecnico

Ecco un riassunto tecnico dettagliato del paper PTOPOFL: Privacy-Preserving Personalised Federated Learning via Persistent Homology, redatto in italiano.

1. Il Problema

L'apprendimento federato (Federated Learning - FL) si trova di fronte a due tensioni strutturali fondamentali che la letteratura esistente non ha ancora risolto simultaneamente:

1. Vulnerabilità alla Privacy: La condivisione dei gradienti del modello permette attacchi di inversione (gradient inversion attacks), dove un server malintenzionato o un avversario può ricostruire i dati di addestramento privati dei client con alta fedeltà. Le contromisure attuali, come la Privacy Differenziale (DP), introducono rumore che degrada la qualità del modello, specialmente con budget di privacy stretti.
2. Eterogeneità dei Dati (Non-IID): In scenari reali, i dati dei client non sono indipendenti e identicamente distribuiti (non-IID). Questo causa il "client drift", dove i modelli locali divergono, rallentando o bloccando la convergenza globale. Le soluzioni attuali (penalità proximali, variabili di controllo) agiscono a livello di ottimizzazione ma non modellano esplicitamente la struttura geometrica delle distribuzioni dei dati.

2. Metodologia: Il Framework PTOPOFL

PTOPOFL propone una riformulazione geometrica basata sull'Analisi Topologica dei Dati (TDA) per risolvere entrambe le tensioni. Il cuore del metodo è sostituire la comunicazione dei gradienti con descrittori topologici derivati dall'Omologia Persistente (Persistent Homology - PH).

Componenti Chiave del Framework:

1. Astrazione Topologica (Privacy):

   • Ogni client calcola un diagramma di persistenza (Persistence Diagram - PD) dal proprio dataset locale.
   • Il diagramma viene compresso in un vettore di caratteristiche topologiche di 48 dimensioni (composto da numeri di Betti, entropia di persistenza, ampiezza del diagramma e curve di Betti).
   • Proprietà di Privacy: La mappa dai dati al diagramma di persistenza è "molti-a-uno". Esistono infiniti dataset distinti che producono lo stesso diagramma, rendendo il problema di inversione (ricostruzione dei dati originali) matematicamente mal posto. Questo riduce strutturalmente l'informazione mutua leakata rispetto ai gradienti.

2. Aggregazione Personalizzata Guidata dalla Topologia:

   • Clustering: Il server raggruppa i client in base alla similarità topologica delle loro distribuzioni, misurata tramite la distanza di Wasserstein tra i loro diagrammi di persistenza.
   • Aggregazione Intra-cluster: All'interno di ogni cluster, i modelli locali vengono combinati con pesi basati sulla similarità topologica (client con firme topologiche più vicine al centro del cluster hanno pesi maggiori).
   • Fusione Inter-cluster: I modelli dei cluster vengono mescolati con un consenso globale per evitare l'over-specializzazione.

3. Rilevamento delle Anomalie:

   • I client con diagrammi di persistenza che si discostano significativamente dalla maggioranza (potenziali client avversi o avvelenati) vengono identificati tramite il calcolo dello z-score sulla distanza media dai descrittori degli altri client.
   • Il loro peso nell'aggregazione viene ridotto esponenzialmente, sopprimendo l'influenza degli attaccanti in modo quadratico rispetto alla loro frazione.

4. Monitoraggio Continuo:

   • L'evoluzione temporale delle firme topologiche viene tracciata per rilevare il "concept drift" e adattare dinamicamente il tasso di apprendimento o il ri-clusterizzazione.

3. Contributi Teorici Chiave

Il paper stabilisce quattro risultati teorici fondamentali:

• Teorema di Contrazione dell'Informazione: Dimostra che i descrittori PH leakano strettamente meno informazione mutua per campione rispetto ai gradienti sotto funzioni di perdita fortemente convesse. La riduzione del rischio di ricostruzione è provata essere di un fattore significativo.
• Stabilità del Clustering: Garantisce che le assegnazioni ai cluster basate sulla topologia sono stabili rispetto a piccole perturbazioni dei dati, a condizione che i cluster siano sufficientemente separati.
• Soppressione Esponenziale degli Attaccanti: Dimostra che l'influenza dei client avversi decade esponenzialmente in base alla loro separazione topologica dalla maggioranza onesta, offrendo una robustezza superiore rispetto a FedAvg (dove l'influenza scala linearmente).
• Convergenza Lineare: Viene provata la convergenza lineare dello schema di aggregazione pesato con Wasserstein, con un "errore a terra" (error floor) strettamente inferiore a quello di FedAvg quando l'eterogeneità è strutturata.

4. Risultati Sperimentali

PTOPOFL è stato valutato su scenari sanitari non-IID e benchmark patologici, confrontandosi con FedAvg, FedProx, SCAFFOLD e pFedMe.

• Scenario Sanitario (8 ospedali, 2 avversi): PTOPOFL ha raggiunto un AUC di 0.841, il più alto tra tutti i metodi, superando FedProx (+1.2 punti percentuali). Ha mostrato una convergenza immediata (già alla round 1) e ha ridotto il rischio di ricostruzione dei dati di un fattore 4.5 rispetto alla condivisione dei gradienti.
• Benchmark Patologico (10 client con forte sbilanciamento): Ha ottenuto un AUC di 0.910, nuovamente il migliore. Mentre SCAFFOLD ha sofferto di oscillazioni a causa dello sbilanciamento estremo, PTOPOFL è rimasto stabile grazie all'ancoraggio alla struttura topologica.
• Modelli Profondi (CIFAR-10 e FEMNIST): Anche se i teoremi di convergenza formale si applicano a modelli lineari, gli esperimenti su ResNet-18 e ConvNet-2 hanno mostrato che i benefici dell'aggregazione topologica si trasferiscono anche a modelli non convessi, superando le baseline in termini di accuratezza.
• Robustezza: Sotto attacchi di "label-flip" fino al 50% dei client, PTOPOFL ha mantenuto prestazioni stabili grazie al rilevamento delle anomalie topologiche.

5. Significato e Impatto

PTOPOFL rappresenta un passo avanti significativo nell'integrazione tra Topologia e Apprendimento Federato:

• Privacy Strutturale: Offre una protezione della privacy intrinseca basata sulla geometria dei dati (molti-a-uno), senza dover aggiungere rumore che degrada le prestazioni (come nella DP classica).
• Gestione dell'Eterogeneità: Risolve il problema del client drift non solo correggendo l'ottimizzazione, ma raggruppando i client in base alla vera forma geometrica delle loro distribuzioni di dati.
• Efficienza: La comunicazione è ridotta da gradienti ad alta dimensionalità a vettori di 48 dimensioni, riducendo drasticamente il carico di banda.
• Versatilità: Il framework è modulare e può essere combinato con altre tecniche di privacy o adattato a diversi domini applicativi, in particolare in ambito sanitario dove la privacy e l'eterogeneità dei dati sono critiche.

In sintesi, PTOPOFL dimostra che l'uso di descrittori topologici permette di costruire sistemi di FL che sono simultaneamente più privati, più robusti agli attacchi e più efficaci in scenari di dati eterogenei rispetto alle metodologie attuali.