Federated Learning by Utility-Constrained Stochastic Aggregation for Improving Rational Participation

Sintesi Tecnica: FedUCA – Apprendimento Federato mediante Aggregazione Stocastica Vincolata all'Utilità

Enunciato del Problema
Gli algoritmi standard di Apprendimento Federato (FL), come FedAvg, assumono implicitamente che i client aderiscano passivamente all'orchestrazione lato server. Tuttavia, negli ambienti cross-silo (ad esempio, ospedali, imprese), i client sono agenti razionali che sostengono costi operativi non trascurabili (calcolo, conformità, infrastruttura). Di conseguenza, la partecipazione diventa una decisione strategica: un client collaborerà solo se l'utilità percepita del modello globale supera strettamente la propria baseline locale. Sotto una significativa eterogeneità statistica, un singolo vettore di aggregazione deterministico spesso non riesce a soddisfare simultaneamente le diverse soglie di Razionalità Individuale (IR) di tutti i partecipanti. Ciò porta all'abbandono dei client, dove gli agenti razionali scelgono di uscire, causando un crollo delle prestazioni del modello globale e un degrado del processo di addestramento federato.

Metodologia
Gli autori propongono FedUCA, un framework che riformula il ruolo del server come ottimizzatore che mira a massimizzare le prestazioni del modello globale sostenendo la partecipazione dei client attraverso un'aggregazione stocastica vincolata all'utilità.

1. Modello di Partecipazione Razionale:

   • I client sono modellati come agenti razionali che valutano il modello globale $\theta_t$ rispetto alla propria baseline locale utilizzando un set di validazione.
   • La partecipazione è condizionata: un client $k$ partecipa se e solo se la sua utilità $u_k(r_k; \zeta_k) \ge \gamma_k$, dove $r_k$ è il peso di aggregazione, $\zeta_k$ sono i parametri di utilità e $\gamma_k$ è la soglia minima accettabile.
   • Il lavoro assume che l'utilità del client sia una funzione concava del peso di aggregazione. Ciò cattura i rendimenti marginali decrescenti: un client trae beneficio da un'influenza aumentata fino a un punto ottimale, oltre il quale una sovrarappresentazione degrada la generalizzazione.

2. Aggregazione Stocastica e Gap di Jensen:

   • Invece di ottimizzare un singolo vettore di pesi deterministico, il server genera un insieme di $n_s$ strategie di aggregazione candidate $\{r^j_k\}$ campionate da una distribuzione $s$.
   • La distribuzione $s$ è fissa e campionata da una distribuzione Dirichlet caratterizzata da un parametro di concentrazione $\delta$.
   • Il meccanismo centrale sfrutta il gap di Jensen: a causa della concavità delle utilità dei client, l'utilità del peso di aggregazione atteso è maggiore o uguale all'utilità attesa dei pesi di aggregazione casuali ($u_k(\mathbb{E}[r]) \ge \mathbb{E}[u_k(r)]$).
   • Questo gap crea un surplus di utilità implicito. Ottimizzando su una miscela di strategie, il server può soddisfare i vincoli IR di client eterogenei che un singolo vettore deterministico non potrebbe soddisfare.

3. Formulazione dell'Ottimizzazione:

   • Il server risolve un problema di fattibilità vincolato per trovare pesi di aggregazione che soddisfino $\sum s_i u_k(r^i_k) \ge \gamma_k + \epsilon$.
   • Se l'ottimizzazione non riesce a soddisfare tutti i client, un meccanismo di fallback garantisce che almeno un client partecipi per prevenire aggiornamenti degeneri.
   • Il parametro di concentrazione Dirichlet $\delta$ modula la geometria della miscela di strategie. L'analisi teorica mostra che il gap di Jensen atteso (e quindi la fattibilità della partecipazione) è non monotono rispetto a $\delta$, raggiungendo un picco a valori intermedi.

4. Analisi della Convergenza:

   • Il lavoro fornisce una caratterizzazione della convergenza per questo sistema endogeno in cui gli insiemi di partecipazione e i pesi di aggregazione co-evolvono.
   • Il limite di convergenza include un termine per la discrepanza di aggregazione ($E_{agg}$), che rappresenta il bias introdotto deviando dai pesi obiettivo target per soddisfare i vincoli IR. Tale discrepanza è limitata dal parametro Dirichlet $\delta$ e dal numero di strategie $n_s$.

Contributi Chiave

• Framework FedUCA: Introduce un framework di aggregazione non monetario e guidato dalle prestazioni che tratta il coordinamento del server come un problema di fattibilità vincolato per soddisfare la razionalità individuale.
• Meccanismo del Surplus di Jensen: Dimostra che l'ottimizzazione di un limite inferiore di Jensen su più strategie di aggregazione induce un surplus di utilità sotto utilità concave, agendo come un buffer di robustezza contro l'eterogeneità.
• Meccanismo Stocastico: Propone un meccanismo di pesi di miscela campionati da Dirichlet in cui il parametro di concentrazione $\delta$ regola il surplus di Jensen indotto e la fattibilità della partecipazione.
• Caratterizzazione della Convergenza: Fornisce la prima analisi di convergenza per un sistema federato di questa natura endogena, collegando direttamente la discrepanza di aggregazione al parametro di progettazione del meccanismo $\delta$.

Risultati Sperimentali
Gli autori hanno valutato FedUCA su CIFAR-10, CIFAR-100, F-MNIST e 20 Newsgroups sotto diversi gradi di eterogeneità dei dati (split Dirichlet).

• Tassi di Partecipazione: Sotto vincoli di partecipazione razionale, le baseline standard (FedAvg, FedProx, AAggFF-S) hanno sofferto di un collasso auto-rinforzante, con la partecipazione che scendeva sotto il 12% su CIFAR-10. IncFL ha migliorato la situazione ma si è stabilizzata intorno al 35%. FedUCA ha sostenuto tassi di partecipazione tra il 51% e il 54%.
• Accuratezza Globale: FedUCA ha raggiunto un'accuratezza del modello server significativamente più alta rispetto alle baseline. Ad esempio, su CIFAR-10 con Dirichlet(0.5, 1.0), FedUCA ha raggiunto un'accuratezza del 66,89% contro il 16,63% di FedAvg e il 32,35% di IncFL.
• Sensibilità ai Parametri: Gli esperimenti hanno confermato la previsione teorica secondo cui il parametro di concentrazione Dirichlet $\delta$ ha un effetto non monotono sulla partecipazione, con prestazioni ottimali osservate nell'intervallo $\delta \in [0.5, 1.0]$.

Significato e Affermazioni
Il lavoro afferma che FedUCA offre un'alternativa pratica e non monetaria agli approcci basati sull'equilibrio e guidati dagli incentivi (come la teoria dei contratti o i meccanismi di pricing). Riformulando l'aggregazione come un problema di fattibilità sotto partecipazione razionale, FedUCA permette una collaborazione cross-silo stabile senza richiedere ricompense esterne o modellazione strategica complessa. Gli autori sottolineano che la discrepanza di aggregazione indotta dal meccanismo è un'impronta matematica della gestione della partecipazione razionale, controllata direttamente dal parametro Dirichlet, chiudendo efficacemente il ciclo tra progettazione del meccanismo e teoria dell'ottimizzazione. Il lavoro convalida che la randomizzazione strategica non è meramente euristica, ma un metodo fondato matematicamente per colmare il gap di Jensen e stabilizzare la partecipazione in contesti FL razionali.