Riepilogo Tecnico: CRAFT (Aggregazione Risolta per Conflitto per l'Addestramento Federato)

1. Enunciato del Problema

L'Apprendimento Federato (FL) consente l'addestramento collaborativo di modelli su client decentralizzati senza condividere dati grezzi. Tuttavia, un collo di bottiglia fondamentale nasce dall'eterogeneità dei dati (distribuzioni non-IID), che causa aggiornamenti locali divergenti. I metodi di aggregazione convenzionali, come FedAvg, calcolano medie ponderate di tali aggiornamenti. Il documento sostiene che una media ingenua può produrre una direzione di aggiornamento globale che migliora l'obiettivo globale ma è in conflitto con client specifici (ovvero, il prodotto scalare tra l'aggiornamento globale e l'aggiornamento locale di un client è negativo). Questo conflitto porta a un degrado delle prestazioni per quei client specifici, risultando in elevate disparità di accuratezza per client e in una scarsa equità, anche se l'accuratezza globale media è elevata.

Gli approcci esistenti tentano di mitigare questo problema attraverso regolarizzazione (FedProx), normalizzazione (FedNova), obiettivi consapevoli dell'equità (AFL, q-FedAvg) o modelli personalizzati. Sono emersi metodi consapevoli del conflitto (FedFV, FedLF, ConFIG) per manipolare direttamente la geometria degli aggiornamenti, ma spesso si basano su regole euristiche o mancano dell'integrazione di informazioni temporali per guidare la risoluzione.

2. Metodologia: Il Framework CRAFT

CRAFT riformula il problema dell'aggregazione non come una media ponderata, ma come un problema di correzione geometrica. L'obiettivo principale è trovare un vettore di aggiornamento globale $g$ che sia il più vicino possibile a una direzione di riferimento stabile, soddisfacendo allo stesso tempo vincoli rigorosi di allineamento privo di conflitti.

2.1 Formulazione Principale

Invece di ricostruire un aggiornamento da zero (come nei metodi a priori zero) o semplicemente di appianare (come nei metodi a momento), CRAFT risolve un problema dei minimi quadrati vincolato ancorato a un riferimento:

$$\min_{g \in \mathbb{R}^d} \frac{1}{2} \|g - \hat{g}_t\|^2 \quad \text{s.t.} \quad U_t g = \rho_t$$

Dove:

• $\hat{g}_t$ è la direzione di riferimento, definita come l'aggiornamento globale normalizzato del round precedente ($\hat{g}_t = U(g_{t-1})$). Per il primo round, $\hat{g}_0 = 0$.
• $U_t$ è la matrice degli aggiornamenti locali normalizzati dei client attivi ($u_i = g_i / (\|g_i\| + \epsilon)$).
• $\rho_t$ è il vettore degli obiettivi di allineamento positivi, tipicamente derivati dalle proporzioni dei dati dei client ($\rho_i = |D_i| / \sum |D_j|$).
• Il vincolo $U_t g = \rho_t$ garantisce che l'aggiornamento globale $g$ abbia un prodotto scalare positivo con l'aggiornamento normalizzato di ogni client partecipante, garantendo così una direzione priva di conflitti.

2.2 Soluzione in Forma Chiusa

Il problema è sottodeterminato (dimensione del modello $d \gg$ numero di client $m$). CRAFT deriva una soluzione in forma chiusa utilizzando la pseudoinversa di Moore-Penrose, evitando l'overhead computazionale di solutori iterativi o programmazione quadratica. L'aggiornamento è calcolato come una correzione $\Delta_t$ al riferimento:

$$g_t = \hat{g}_t + \Delta_t, \quad \text{dove} \quad \Delta_t = U_t^\dagger (\rho_t - U_t \hat{g}_t)$$

Questa formulazione garantisce che se la direzione di riferimento soddisfa già i vincoli, non viene applicata alcuna correzione. Altrimenti, viene aggiunta la più piccola correzione euclidea per imporre l'allineamento.

2.3 Adattamento a Livello di Strato

Riconoscendo che le reti neurali profonde esibiscono dinamiche di ottimizzazione specifiche per strato (ad esempio, gli strati superficiali possono soffrire di spostamenti nella distribuzione degli input, mentre gli strati più profondi soffrono di skew delle etichette), CRAFT implementa un adattamento a livello di strato. Il problema di ottimizzazione viene scomposto in $Q$ sottoproblemi indipendenti per ogni strato $q$, risolvendo la correzione separatamente:
$$g^q_t = \hat{g}^q_t + (U^q_t)^\dagger (\rho_t - U^q_t \hat{g}^q_t)$$
Ciò previene che conflitti gravi in uno strato sopprimano componenti utili negli altri.

2.4 Proprietà Teoriche

Il documento fornisce un'analisi teorica che dimostra come CRAFT promuova una struttura di discesa comune. Imponendo un allineamento non negativo con tutti gli aggiornamenti dei client, il metodo mitiga i conflitti. Gli autori stabiliscono garanzie di convergenza in tempo finito per obiettivi non convessi sotto ipotesi standard di regolarità e gradiente limitato, dimostrando un tasso di convergenza di $O(1/\sqrt{T})$ paragonabile all'ottimizzazione non convessa standard, a condizione che il tasso di apprendimento locale decada in modo appropriato.

3. Contributi Chiave

1. Riformulazione del Problema: Gli autori propongono di riformulare l'aggregazione federata come un problema dei minimi quadrati vincolato ancorato a un riferimento, piuttosto che come una regola di media ponderata. Questo impone direttamente un allineamento positivo tra l'aggiornamento globale e ogni client.
2. Soluzione Efficiente in Forma Chiusa: A differenza dei metodi iterativi di risoluzione dei conflitti, CRAFT deriva una soluzione esplicita utilizzando la correzione di Moore-Penrose, mantenendo il calcolo lato server leggero ($O(dm^2 + Qm^3)$).
3. Riferimento Simile al Momento: L'uso dell'aggiornamento globale del round precedente come direzione di riferimento permette a CRAFT di preservare la coerenza temporale e stabilizzare gli aggiornamenti contro il rumore di campionamento, distinguendosi dai metodi che proiettano verso un vettore nullo.
4. Granularità a Livello di Strato: Il framework affronta i conflitti alla granularità degli strati del modello, rendendolo adatto alle reti neurali profonde dove i vincoli sui vettori globali potrebbero essere troppo grossolani.
5. Estensibilità Plug-in: CRAFT è progettato come un operatore di aggregazione generico che può sostituire la media ponderata nelle pipeline FL personalizzate esistenti (ad esempio, Ditto) senza modificare i meccanismi di adattamento locale.

4. Risultati Sperimentali

Sono stati condotti estesi esperimenti su benchmark eterogenei (FEMNIST, CIFAR-10, CIFAR-100) utilizzando vari modelli (MLP, CNN, ResNet-20/56/110) e popolazioni di client (fino a 1000 client).

• Prestazioni Globali: CRAFT ha costantemente superato le linee di base dello stato dell'arte nell'accuratezza media. Su CIFAR-10 con ResNet-20, ha ottenuto un miglioramento relativo del 53,5% rispetto a ConFIG e un miglioramento del 7,8% rispetto a FedAvgM su FEMNIST.
• Equità e Disparità: CRAFT ha ridotto significativamente la deviazione standard dell'accuratezza per client. Ha migliorato le prestazioni dei client "di coda" (peggiori 10%) senza sacrificare i client "di testa". Ad esempio, su CIFAR-10, ha migliorato l'accuratezza del peggior 10% del 221,5% rispetto a FedLF.
• Convergenza: CRAFT ha dimostrato una convergenza più rapida e un'accuratezza finale più elevata, in particolare su reti più profonde dove altri metodi spesso saturavano precocemente o soffrivano di deriva dei client.
• Integrazione FL Personalizzata: Quando integrato nel framework Ditto, CRAFT ha migliorato l'accuratezza di test media del 19,7% su CIFAR-10 e del 98,8% su CIFAR-100 rispetto a Ditto vanilla, dimostrando la sua capacità di migliorare le pipeline personalizzate.

5. Significato e Affermazioni

Il documento afferma che CRAFT offre una nuova prospettiva sulla progettazione dell'aggregazione, spostandosi dalla risoluzione euristica dei conflitti a un approccio basato su vincoli e principi geometrici. Il suo significato risiede in:

• Mitigazione dell'Eterogeneità: Affronta direttamente la causa radice dei problemi di equità nel FL (aggiornamenti conflittuali) piuttosto che limitarsi a regolare gli obiettivi o regolarizzare l'addestramento locale.
• Bilanciamento tra Accuratezza ed Equità: Raggiunge un'alta accuratezza media riducendo simultaneamente la disparità delle prestazioni, un duplice obiettivo spesso difficile da soddisfare con i metodi esistenti.
• Praticità: Il metodo è computazionalmente efficiente, non richiede comunicazioni aggiuntive ed è facilmente estendibile ai framework FL personalizzati esistenti.

Gli autori riconoscono le limitazioni, notando che la direzione di riferimento attuale è un semplice prior simile al momento e che gli obiettivi di allineamento sono basati sulle proporzioni dei dati. Suggeriscono che un lavoro futuro potrebbe esplorare riferimenti o obiettivi adattivi basati sui progressi dell'addestramento e sui requisiti di equità. Tuttavia, il lavoro attuale stabilisce CRAFT come un meccanismo di aggregazione robusto e privo di conflitti per l'addestramento federato eterogeneo.