Sintesi Tecnica: DP-HYPE

Problematica

Nel Federated Learning (FL), la sintonizzazione degli iperparametri è critica per le prestazioni del modello, ma introduce rischi significativi per la privacy. La ricerca standard degli iperparametri comporta la valutazione di numerosi candidati, e rivelare i risultati della valutazione (ad esempio, i valori di perdita/loss) può esporre informazioni sensibili sui dati locali dei client. Sebbene la Differential Privacy (DP) sia lo standard per una privacy dimostrabile, gli approcci esistenti affrontano tre limitazioni principali nel contesto federato:

1. Specificità del Task: Molti metodi sono adattati a compiti di apprendimento specifici o all'ottimizzazione basata su gradienti, mancando di generalità.
2. Leakage della Privacy negli Aggregati: Il lavoro precedente spesso non tiene conto della perdita di privacy inerente ai risultati aggregati o si basa sull'assunto che un avversario non possa vedere i passaggi di valutazione intermedi (un assunto non valido nello standard FL).
3. Trade-off Sub-ottimali: Le soluzioni esistenti soffrono spesso di un trade-off tra privacy e utilità in cui il budget di privacy decade rapidamente con il numero di iperparametri valutati (composizione), oppure si affidano a terze parti fidate e alla Secure Multi-Party Computation (SMPC) che non scalano bene.

La sfida centrale è trovare un set condiviso di iperparametri (un compromesso) tra i client con distribuzioni di dati eterogenee (non-IID) pur soddisfacendo la client-level differential privacy e garantendo che la garanzia di privacy sia indipendente dal numero di iperparametri valutati.

Metodologia: DP-HYPE

Gli autori propongono DP-HYPE, un algoritmo di ricerca federata degli iperparametri che sposta il paradigma dalla valutazione della perdita globale al voto federato.

Approccio Core

Invece di addestrare un modello globale per ogni candidato iperparametro (il che è privacy-incompatibile), DP-HYPE opera sulla base dell'osservazione che, se le distribuzioni dei dati locali non sono troppo divergenti, le valutazioni locali sono correlate alle prestazioni globali. L'algoritmo procede come segue:

1. Valutazione Locale: Ogni client $i$ valuta tutti i candidati iperparametri $H = \{H_1, \dots, H_p\}$ sul proprio dataset locale $D_i$ per calcolare le perdite locali.
2. Voto Locale: Ogni client seleziona i suoi top-$k$ iperparametri con la perdita locale più bassa. Costruisce un vettore di voto binario $v_i \in \{0, 1\}^p$ dove le voci corrispondenti ai candidati top-$k$ sono impostate a 1.
3. Perturbazione Locale: Per garantire la differential privacy, ogni client aggiunge rumore Gaussiano $z \sim \mathcal{N}(0, \frac{\sigma^2}{n} I_p)$ al proprio vettore di voto $v_i$, risultando in un vettore rumoroso $\tilde{v}_i$. Fondamentalmente, il processo di addestramento locale stesso non deve essere differenzialmente privato; il rumore viene introdotto solo nella fase di voto.
4. Aggregazione Sicura: I client utilizzano un protocollo di Secure Summation (ad esempio, SecAgg++) per aggregare i vettori rumorosi $\sum \tilde{v}_i$ senza rivelare i voti individuali al server.
5. Selezione: Il server identifica l'iperparametro con il massimo conteggio di voti rumorosi aggregati.

Meccanismo di Privacy

• Client-Level DP: L'algoritmo soddisfa la client-level differential privacy, proteggendo l'influenza dell'intero dataset di un client.
• Indipendenza dal Numero di Iperparametri: Trattando il vettore di voto come un insieme e utilizzando le proprietà del meccanismo Gaussiano sulla sensibilità $L_2$ del vettore, la contabilità della privacy dipende solo dal numero di voti $k$ per client, non dal numero totale di iperparametri $p$. Ciò evita la penalità di composizione $\sqrt{p}$ tipica della ricerca iterativa.
• Sensibilità: La sensibilità $L_2$ del vettore di voto è limitata da $\sqrt{2k}$, consentendo una calibrazione precisa del rumore.

Contributi Chiave

1. Design dell'Algoritmo: DP-HYPE è il primo algoritmo per la ricerca federata degli iperparametri che è task-agnostic, preserva la client-level DP e offre garanzie di privacy indipendenti dal numero di iperparametri.
2. Garanzie Teoriche:
   • Prova formale che DP-HYPE soddisfa la client-level Rényi Differential Privacy (RDP) e può essere convertita in $(\epsilon, \delta)$-DP.
   • Derivazione dei limiti di utilità che mostrano come la probabilità di selezionare un "buon" iperparametro aumenti esponenzialmente con il gap ($\gamma$) tra i voti dei candidati buoni e quelli cattivi.
3. Implementazione: L'algoritmo è implementato come sottomodulo in Flower, un framework di federated learning all'avanguardia, garantendo l'applicabilità pratica.
4. Valutazione Empirica: Valutazione estesa su tre dataset benchmark (MNIST, CIFAR-10, Adult) sia in scenari iid che non-iid (partizionamento di Dirichlet).

Risultati

• Utilità con Piccoli Budget: DP-HBY dimostra un'alta utilità anche con piccoli budget di privacy ($\epsilon \le 1$). Negli scenari iid, si avvicina molto alle prestazioni del baseline ottimale non privato (OPT).
• Robustezza Non-IID: Negli scenari non-iid, dove i client hanno distribuzioni di dati divergenti, DP-HYPE trova con successo un compromesso. Sebbene possa non sempre selezionare l'iperparametro globalmente ottimale (poiché le valutazioni locali potrebbero mancare gli ottimi globali), supera significativamente il caso del campionamento casuale (RANDGUESS) e mantiene prestazioni robuste all'aumentare del numero di client.
• Scalabilità: L'overhead di comunicazione è minimo, richiedendo una singola invocazione della somma sicura. La larghezza di banda scala linearmente con il numero di iperparametri ma rimane nell'ordine dei KB per client.
• Parametro $k$: Le simulazioni indicano che la scelta di $k$ (numero di voti locali) è critica solo sotto budget di privacy molto stretti. Un piccolo $k$ è generalmente sufficiente, sebbene un $k$ leggermente più grande possa aiutare negli scenari non-iid dove un compromesso potrebbe essere la seconda o terza migliore scelta per molti client.

Significato e Claim

Il paper sostiene che DP-HYPE affronta una lacuna critica nel federated learning preservante la privacy, abilitando una ricerca di iperparametri scalabile e task-agnostic senza i costi di privacy proibitivi associati al numero di candidati.

• Amplificazione della Privacy: Scambiando le valutazioni globali con il voto locale, DP-HYPE ottiene una massiccia amplificazione della privacy. Il server vede solo i risultati aggregati e il costo della privacy è scollegato dalla dimensione dello spazio di ricerca.
• Praticità: A differenza del lavoro precedente che si affida a terze parti fidate o a complessi setup SMPC che non scalano, DP-HYPE si basa esclusivamente sulla somma sicura, rendendolo implementabile in contesti reali di tipo cross-silo.
• Gestione del Trade-off: Gli autori dimostrano che il trade-off tra privacy e utilità è gestibile; anche con vincoli di privacy rigorosi, l'algoritmo è in grado di identificare iperparametri che producono forti prestazioni del modello, colmando efficacemente il divario tra garanzie teoriche di privacy e utilità pratica nei sistemi federati.

Il lavoro conclude che DP-HYPE fornisce una soluzione robusta, efficiente e teoricamente solida per trovare iperparametri condivisi in ambienti federati, particolarmente preziosa quando le distribuzioni dei dati sono eterogenee e i budget di privacy sono limitati.