Personalized Additive Modeling for Multi-level Federated Learning

Sintesi Tecnica: Modellazione Additiva Personalizzata per l'Apprendimento Federato Multi-livello

Problema
L'apprendimento federato (Federated Learning, FL) contemporaneo affronta una sfida critica: bilanciare la necessità di generalizzazione con la personalizzazione specifica dell'utente in presenza di dati dei client altamente eterogenei. Le assunzioni standard del FL su dati IID (Indipendenti e Identicamente Distribuiti) spesso non riescono a catturare i pattern non-IID complessi e strutturati presenti negli scenari del mondo reale. I metodi esistenti, inclusi il Clustered FL e il Personalized FL (PFL), sono tipicamente progettati per contesti di eterogeneità ristretti, come un numero fisso di cluster o una rigida struttura globale-più-locale. Questi approoli faticano quando le relazioni tra i client esibiscono strutture implicite e multi-granulari (ad esempio, somiglianze a livello di OS, pattern di sottogruppi applicativi e tratti di attività fine-grained), poiché richiedono una conoscenza preventiva dei confini dei task o si impegnano in una gerarchia fissa che potrebbe non corrispondere alla distribuzione sottostante dei dati.

Metodologia: Federated Multi-level Additive Modeling (FeMAM)
Gli autori propongono FeMAM, un framework flessibile che modella il FL da una prospettiva non-IID multi-livello. Invece di una gerarchia fissa, FeMAM apprende una gerarchia di modelli condivisibili attraverso molteplici granularità (dal globale al client-specific) e costruisce predittori personalizzati tramite composizione additiva.

• Architettura Additiva Multi-livello: Il sistema organizza la conoscenza in $L$ livelli. Ad ogni livello $l$, il server mantiene $K_l$ modelli che rappresentano la conoscenza a quella granularità. Il predittore personalizzato di un client è formato componendo additivamente un modello selezionato da ciascun livello:
  $$f_i(X_i) = \sum_{l=1}^{L} \sum_{k=1}^{K_l} r_{i,k}^{(l)} f(X_i; \Theta_{k}^{(l)})$$
  dove $r_{i,k}^{(l)}$ è un indicatore di assegnazione. Questa struttura permette un raffinamento da grossolano a fine (coarse-to-fine), dove i livelli superiori forniscono una struttura condivisa e i livelli inferiori agiscono come correzioni residue.

• Ottimizzazione di tipo Boosting: Per evitare il costo di ottimizzare congiuntamente tutti i livelli e la necessità di pre-specificare la profondità della gerarchia, FeMAM impiega una strategia di addestramento sequenziale di tipo boosting. Apprende i livelli uno alla volta, congelando i livelli precedentemente appresi e ottimizzando solo il livello corrente per minimizzare l'errore residuo. Ciò garantisce la stabilità dell'addestramento e consente al metodo di adattarsi ai dati senza impegnarsi in una struttura fissa preventivamente.

• Potatura della Struttura lato Client (Client-side Structure Pruning): Per garantire l'efficienza dei costi e prevenire l'overfitting, FeMAM implementa un meccanismo di potatura. Dopo l'addestramento di un nuovo livello, un client lo accetta solo se riduce l'errore di validazione. Ciò risulta in una profondità di personalizzazione "on-demand" dove i client con distribuzioni di dati più semplici possono fermarsi ai livelli precedenti, mentre quelli con eterogeneità complessa utilizzano gerarchie più profonde.

• Design Adattivo ai Costi: Nonostante mantenga molteplici modelli, FeMAM rimane efficiente nella comunicazione. Durante l'addestramento, viene comunicato solo il modello del livello corrente per client per round, mantenendo i costi di comunicazione comparabili al FL a modello singolo. In fase di inferenza, i client memorizzano solo i modelli che hanno accettato, che sono tipicamente meno della profondità massima della gerarchia grazie alla potatura.

Contributi Chiave

1. Formulazione: Il documento formula la personalizzazione federata sotto eterogeneità non-IID multi-livello, affrontando la complessità strutturale indotta dalle moderne necessità di personalizzazione dell'IA.
2. Meccanismo: Introduce un meccanismo di personalizzazione additiva multi-livello che costruisce i predittori dei client tramite una composizione in stile residuo attraverso i livelli, eliminando la necessità di confini espliciti dei task.
3. Algoritmo: Gli autori propongono una pipeline di addestramento "grow-and-prune" (cresci e pota) che espande progressivamente la gerarchia mentre pota i livelli non necessari per ogni client, ottenendo adattività senza una struttura fissa.
4. Teoria: Viene fornita un'analisi della convergenza, mostrando che la sequenza degli obiettivi è monotona non crescente, similmente al gradient boosting.
5. Validazione Empirica: Esperimenti estesi dimostrano che FeMAM supera costantemente i baseline rappresentativi di clustered e personalized FL in diversi setting non-IID.

Risultati Sperimentali
Gli autori hanno valutato FeMAM su dataset di classificazione di immagini (Tiny ImageNet, CIFAR-100) e su uno scenario di modello fondazionale su larga scala (Qwen3-4B con LoRA su task FLAN-T5).

• Performance: FeMAM ha costantemente ottenuto l'accuratezza di test e i punteggi Macro-F1 più elevati attraverso tre tipi di partizione non-IID: Cluster-wise, Client-wise e Multi-level. Ha superato forti baseline come FedAvg, Ditto, FeSEM, FedCAM e pFedMoE.
• Adattabilità: Nei setting non-IID multi-livello e client-wise, FeMAM ha utilizzato automaticamente gerarchie più profonde (fino a 5 livelli), mentre nei setting Cluster-wise ha potato verso meno livelli, dimostrando la sua capacità di adattarsi alla struttura sottostante dei dati.
• Modelli Fondazionali: Nello esperimento su larga scala, FeMoma ha ottenuto la perdita media più bassa e il punteggio ROUGE-1 più alto, superando i metodi che si affidano a semplici design global-local.
• Efficienza: Il metodo ha mostrato un tempo di esecuzione (wall-clock runtime) competitivo (più veloce di Ditto) e un'efficienza di comunicazione. La potatura ha garantito che il numero medio di modelli memorizzati per client rimanesse basso (ad esempio, ~2.4 nei setting Cluster-wise), riducendo i costi di archiviazione rispetto a metodi come FedEM.

Significatività e Rivendicazioni
Il paper sostiene che FeMAM offra una soluzione robusta per la "tensione tra generalizzazione e personalizzazione" nell'attuale FL. La sua principale significatività risiede nella capacità di approssimare strutture non-IID diverse e complesse senza richiedere la conoscenza preventiva del numero di cluster o della profondità della gerarchia. Trattando la profondità di personalizzazione come dipendente dal client e utilizzando un approccio additivo di tipo boosting, FeMAM si adatta ai dati invece di forzare i dati in una struttura di modello predefinita. Gli autori posizionano questo lavoro come un passo verso la gestione dell'eterogeneità strutturata inerente ai sistemi di IA su larga scala e multi-capacità, come i modelli fondazionali con adattamento lato client.

Limitazioni e Lavoro Futuro
Gli autori notano con modestia che la loro attuale valutazione dei componenti per livello è limitata a un'istanza rappresentativa (FedAvg, K-means clustering e fine-tuning locale). Riconoscono che uno studio sistematico di metodi alternativi per livello (ad esempio, IFCA, FedPer) e delle loro interazioni cross-level rimane una direzione aperta. Inoltre, sebbene siano stati condotti esperimenti sui modelli fondazionali, la scala era inferiore a quella di un deployment reale, suggerendo che il lavoro futuro dovrebbe valutare FeMAM su set di task sostanzialmente più grandi e diversificati.