Riepilogo Tecnico: Onboarding Senza Dimenticare: Personalizzazione tramite Hypernetwork con Replay Data-Free per il Federated Learning Personalizzato

1. Formulazione del Problema: Onboarding Progressivo dei Clienti in FL (PCO-FL)

Il documento identifica una lacuna nella letteratura esistente sul Personalized Federated Learning (pFL) e sul Federated Continual Learning (FCL). Mentre il pFL standard assume un set di client statici e l'FCL assume spostamenti sequenziali di task, gli scenari reali spesso coinvolgono un task e uno spazio di etichette fissi dove la popolazione dei client evolve nel tempo.

Gli autori definiscono questo scenario come Progressive Client Onboarding in Federated Learning (PCO-FL). In questo regime:

• Stabilità del Task: Il task di classificazione e lo spazio delle etichette rimangono costanti.
• Cohort Dinamiche: I client arrivano in batch ($B_t$) nel tempo. Una volta effettuato l'onboarding, i client esistenti ($C_{<t}$) non riaddestrano localmente; rimangono "congelati" mentre nuovi batch si uniscono.
• Il Conflitto Centrale:
  1. Adattamento Proattivo (PA): Aggiornare il modello condiviso con i nuovi client migliora le loro prestazioni (fornendo un'inizializzazione forte), ma tipicamente degrada l'accuratezza dei client esistenti a causa del disallineamento dei gradienti e dei conflitti di capacità.
  2. Miglioramento Retroattivo (RI): Congelare il modello condiviso protegge i client esistenti ma impedisce loro di beneficiare della nuova conoscenza acquisita dai batch successivi.

L'obiettivo è massimizzare la PA per i nuovi client garantendo al contempo un RI non negativo (miglioramento o stabilità) per i client esistenti senza riaddestrarli o accedere ai loro dati grezzi.

2. Metodologia: pFedDSH

Per affrontare questi trade-off, gli autori propongono pFedDSH (Personalized Federated Learning via Data-free Sub-Hypernetwork). Il framework si compone di tre componenti integrate:

A. Hypernetwork Centrale per la Personalizzazione

Invece di addestrare direttamente i modelli locali, un server centrale mantiene una hypernetwork $H(\cdot; \phi)$.

• Meccanismo: Ogni client $c$ è rappresentato da un embedding $e_c$. La hypernetwork genera pesi personalizzati $\theta_c = H(e_c; \phi)$ per l'architettura di base.
• Vantaggio: Ciò consente al server di controllare la personalizzazione, generare modelli istantanei per i nuovi client e gestire l'allocazione della capacità centralmente senza richiedere ai client di effettuare il fine-tuning dei parametri della hypernetwork.

B. Mascheramento Binario Specifico per Batch

Per evitare che i nuovi aggiornamenti sovrascrivano la conoscenza critica per i client esistenti, il metodo impiega maschere binarie apprendibili.

• Allocazione della Capacità: Per ogni step di onboarding $t$ e layer $\ell$, il server apprende i logit della maschera $z^{(\ell)}_t$. Una funzione sigmoidale con una scala elevata $\gamma$ li converte in gate quasi-binari $g^{(\ell)}_t$.
• Unione Cumulativa: Viene mantenuta una maschera cumulativa $m^{(\ell)}_{\le t}$ come il massimo elemento per elemento delle maschere precedenti e del gate dello step corrente.
• Modulazione del Gradiente: I gradienti sono modulati in modo che i pesi vengano aggiornati solo se coinvolgono nuovi canali attivi allo step $t$. Se una connessione era già stata allocata a un batch precedente, il suo gradiente viene azzerato, congelando efficacemente quella capacità per i client esistenti pur permettendo alla nuova capacità di assorbire gli aggiornamenti conflittuali.

C. Replay Data-Free lato Server

Poiché i client esistenti non riaddestrano e i loro dati sono privati, il server utilizza DeepInversion per sintetizzare dati e propagare i miglioramenti all'indietro.

• Sintesi: Il server genera immagini sintetiche $\tilde{x}$ ottimizzando una funzione di perdita che corrisponde alle statistiche correnti (media e varianza) dei layer BatchNorm dalla fase di addestramento del client, combinata con regolarizzazione Total Variation (TV) e L2 per garantire una struttura d'immagine naturale.
• Fine-Tuning Retroattivo: Utilizzando il dataset sintetico $S_t$ derivato dal batch corrente, il server esegue il fine-tuning della hypernetwork. Fondamentalmente, recupera la sub-network specifica definita dalla maschera specifica del batch di ciascun batch precedente $t' < t$ e aggiorna quei parametri.
• Risultato: Ciò consente al server di "insegnare" ai client esistenti la nuova conoscenza derivata dai batch recenti senza richiedere ai client di possedere dati grezzi o eseguire l'addestramento locale.

3. Contributi Chiave

1. Definizione di PCO-FL: Il paper introduce formalmente e analizza lo scenario di Progressive Client Onboarding, distinguendolo dal pFL e dall'FCL standard per il suo task fisso ma popolazione di client in evoluzione.
2. Indagine Empirica: Attraverso esperimenti controllati, gli autori dimostrano che:
   • L'aggregazione progressiva aiuta i nuovi client (PA positiva) ma danneggia i client esistenti (RI negativa).
   • Il congelamento del modello protegge i client esistenti (RI $\approx$ 0) ma impedisce il trasferimento della conoscenza.
   • È necessario un meccanismo per ottenere simultaneamente sia una PA positiva che una RI positiva.
3. Framework pFedDSH: La proposta di un'architettura innovativa che combina hypernetwork, mascheramento specifico per batch e replay data-free per risolvere il dilemma dell'onboarding.
4. Valutazione Esaustiva: Esperimenti estesi che mostrano come pFedDSH superi i tradizionali metodi pFL, le hypernetwork per l'ingresso tardivo dei client e i baseline FCL su molteplici dataset (CIFAR-10, CIFAR-100, Tiny-ImageNet).

4. Risultati Sperimentali

Gli autori valutano pFedDSH rispetto ai baseline (FedPer, FedRep, FedSelect, pFedHN, PeFLL, FedWeIT, ecc.) sotto diversi schemi di onboarding (2, 5 e 11 batch).

• Performance (PA & RI):
  • Client Esistenti: pFedDSH è l'unico metodo che ottiene costantemente una RI positiva (ad esempio, +3.80% a +6.20% su CIFAR-10 a seconda dello schema), il che significa che i client esistenti migliorano effettivamente man mano che i nuovi batch si uniscono. Tutti gli altri baseline soffrono di cali significativi di accuratezza (RI negativa).
  • Nuovi Client: pFedDSH mantiene una forte PA (guadagni rispetto all'addestramento isolato), comparabile o superiore ad altri metodi basati su hypernetwork.
• Efficienza della Capacità:
  • L'analisi dell'uso dei neuroni mostra che pFedDSH non alloca sub-network disgiunte per ogni batch. Invece, riutilizza fino al ~40% dei canali tra i batch, aumentando gradualmente la capacità totale solo quando necessario.
• Efficienza:
  • Comunicazione: L'overhead di comunicazione per round è comparabile ad altri metodi hypernetwork (con una differenza di pochi kilobyte).
  • Latenza: Sebbene il replay lato server aggiunga computazione, pFedDSH lo esegue solo una volta per batch (costo ammortizzato), risultando in un modesto aumento della latenza rispetto ai metodi che eseguono il replay ogni round (come HR) o nessun replay affatto.

5. Significato e Rivendicazioni

Il paper sostiene che pFedDSH offra una soluzione pratica per i sistemi federati reali dove la partecipazione dei client è dinamica. La sua importanza risiede nel:

• Risolvere il Trade-off "Onboarding vs Dimenticare": Dimostra che è possibile integrare nuovi client e migliorare la conoscenza globale del sistema senza sacrificare le prestazioni dei client incumbent.
• Preservazione della Privacy: Utilizzando il replay data-free lato server (sintetizzando immagini dalle statistiche BatchNorm piuttosto che da dati grezzi o gradienti), il metodo facilita il trasferimento della conoscenza senza esporre i dati dei client, affrontando una critica preoccupazione sulla privacy in FL.
• Scalabilità: Il meccanismo di mascheramento assicura che il modello non cresca linearmente con il numero di batch, rendendolo scalabile per l'implementazione a lungo termine.

Gli autori concludono che pFedDSH colma il divario tra personalizzazione e apprendimento continuo in un contesto precedentemente trascurato, fornendo un framework robusto per cohort di client in evoluzione in domini sensibili alla privacy come la sanità.