Personalized Additive Modeling for Multi-level Federated Learning

Résumé Technique : Modélisation Additive Personnalisée pour l'Apprentissage Fédéré Multi-niveaux

Énoncé du Problème
L'apprentissage fédéré (FL) contemporain est confronté à un défi critique : équilibrer le besoin de généralisation avec la personnalisation spécifique à l'utilisateur en présence de données clients hautement hétérogènes. Les hypothèses standards du FL basées sur des données indépendantes et identiquement distribuées (IID) échouent souvent à capturer les motifs non-IID complexes et structurés présents dans les scénarios du monde réel. Les méthodes existantes, incluant le FL par grappes (Clustered FL) et le FL personnalisé (PFL), sont généralement conçues pour des contextes d'hétérogénéité restreints, tels qu'un nombre fixe de grappes ou une structure rigide global-plus-local. Ces approches peinent lorsque les relations entre clients présentent des structures implicites et multi-granulaires (par exemple, des similitudes grossières au niveau du système d'exploitation, des modèles d'applications de sous-groupes et des traits d'activité fins) car elles nécessitent une connaissance préalable des limites des tâches ou s'engagent dans une hiérarchie fixe qui peut ne pas correspondre à la distribution sous-jacente des données.

Méthodologie : Federated Multi-level Additive Modeling (FeMAM)
Les auteurs proposent FeMAM, un cadre flexible qui modélise le FL d'une perspective non-IID multi-niveaux. Au lieu d'une hiérarchie fixe, FeMAM apprend une hiérarchie de modèles partageables à travers plusieurs granularités (du global au spécifique au client) et construit des prédicteurs personnalisés via une composition additive.

• Architecture Additive Multi-niveaux : Le système organise la connaissance en $L$ niveaux. À chaque niveau $l$, le serveur maintient $K_l$ modèles représentant la connaissance à cette granularité. Le prédicteur personnalisé d'un client est formé par la composition additive d'un modèle sélectionné de chaque niveau :
  $$f_i(X_i) = \sum_{l=1}^{L} \sum_{k=1}^{K_l} r_{i,k}^{(l)} f(X_i; \Theta_{k}^{(l)})$$
  où $r_{i,k}^{(l)}$ est un indicateur d'assignation. Cette structure permet un raffinement du grossier vers le fin, où les niveaux supérieurs fournissent une structure partagée et les niveaux inférieurs agissent comme des corrections résiduelles.

• Optimisation de type Boosting : Pour éviter le coût de l'optimisation conjointe de tous les niveaux et la nécessité de pré-spécifier la profondeur de la hiérarchie, FeMAM emploie une stratégie d'entraînement séquentielle de type boosting. Il apprend les niveaux un par un, en figeant les niveaux précédemment appris et en optimisant uniquement le niveau actuel pour minimiser l'erreur résiduelle. Cela garantit la stabilité de l'entraînement et permet à la méthode de s'adapter aux données sans s'engager dans une structure fixe au préalable.

• Élagage de la Structure côté Client : Pour assurer l'efficacité des coûts et prévenir le surapprentissage, FeMAM implémente un mécanisme d'élagage. Après l'entraînement d'un nouveau niveau, un client ne l'accepte que s'il réduit l'erreur de validation. Cela résulte en une profondeur de personnalisation "à la demande" où les clients ayant des distributions de données plus simples peuvent s'arrêter à des niveaux plus précoces, tandis que ceux possédant une hétérogénéité complexe utilisent des hiérarchies plus profondes.

• Conception Adaptative aux Coûts : Malgré le maintien de plusieurs modèles, FeMAM reste efficace en termes de communication. Pendant l'entraînement, seul le modèle du niveau actuel est communiqué par client et par round, maintenant les coûts de communication comparables à ceux d'un FL à modèle unique. À l'inférence, les clients ne stockent que les modèles qu'ils ont acceptés, ce qui est généralement inférieur à la profondeur maximale de la hiérarchie grâce à l'élagage.

Contributions Clés

1. Formulation : L'article formule la personnalisation fédérée sous une hétérogénéité non-IID multi-niveaux, traitant la complexité structurelle induite par les besoins modernes de personnalisation de l'IA.
2. Mécanisme : Il introduit un mécanisme de personnalisation additive multi-niveaux qui construit les prédicteurs clients via une composition de style résiduel à travers les niveaux, éliminant le besoin de limites de tâches explicites.
3. Algorithme : Les auteurs proposent un pipeline d'entraînement "croissance et élagage" (grow-and-prune) qui étend progressivement la hiérarchie tout en élagant les niveaux inutiles par client, atteignant l'adaptativité sans structure fixe.
4. Théorie : Une analyse de convergence est fournie, montrant que la séquence des objectifs est monotone non croissante, de manière similaire au gradient boosting.
5. Validation Empirique : Des expériences approfondies démontrent que FeMAM surpasse systématiquement les bases de comparaison représentatives du FL par grappes et personnalisé à travers diverses configurations non-IID.

Résultats Expérimentaux
Les auteurs ont évalué FeMAM sur des jeux de données de classification d'images (Tiny ImageNet, CIFAR-100) et sur un scénario de modèle de fond à grande échelle (Qwen3-4B avec LoRA sur des tâches FLAN-T5).

• Performance : FeMAM a systématiquement obtenu les scores de précision de test et de Macro-F1 les plus élevés à travers trois types de partitions non-IID : par grappe (Cluster-wise), par client (Client-wise) et multi-niveaux. Il a surpassé des bases solides comme FedAvg, Ditto, FeSEM, FedCAM et pFedMoE.
• Adaptabilité : Dans les configurations non-IID multi-niveaux et par client, FeMemann a automatiquement utilisé des hiérarchies plus profondes (jusqu'à 5 niveaux), alors que dans les configurations par grappes, il a élagué pour revenir à moins de niveaux, démontrant sa capacité à correspondre à la structure des données.
• Modèles de Fond : Dans l'expérience à grande échelle, FeMAM a obtenu la perte moyenne la plus faible et le score ROUGE-1 le plus élevé, surpassant les méthodes qui reposent sur des conceptions simples global-local.
• Efficacité : La méthode a montré un temps d'exécution (wall-clock runtime) compétitif (plus rapide que Ditto) et une efficacité de communication. L'élagage a permis de garantir que le nombre moyen de modèles stockés par client restait faible (par exemple, ~2,4 dans les configurations par grappes), réduisant ainsi les coûts de stockage par rapport à des méthodes comme FedEM.

Signification et Revendications
L'article affirme que FeMAM offre une solution robuste pour la "tension entre généralisation et personnalisation" dans le FL moderne. Sa principale signification réside dans sa capacité à approximer des structures non-IID diverses et complexes sans nécessiter de connaissance préalable du nombre de grappes ou de la profondeur de la hiérarchie. En traitant la profondeur de personnalisation comme dépendante du client et en utilisant une approche additive de type boosting, FeMAM s'adapte aux données plutôt que de forcer les données dans une structure de modèle prédéfinie. Les auteurs positionnent cela comme une étape vers la gestion de l'hétérogénéité structurée inhérente aux systèmes d'IA à grande échelle, tels que les modèles de fond avec adaptation côté client.

Limites et Travaux Futurs
Les auteurs notent modestement que leur évaluation actuelle des composants par niveau est limitée à une instanciation représentative (FedAvg, K-means clustering, et fine-tuning local). Ils reconnaissent qu'une étude systématique d'alternatives aux méthodes par niveau (par exemple, IFCA, FedPer) et de leurs interactions inter-niveaux reste une direction ouverte. De plus, bien que des expériences sur les modèles de fond aient été menées, l'échelle était plus petite que des déploiements réels, suggérant que les travaux futurs devraient évaluer FeMAM sur des ensembles de tâches substantiellement plus grands et plus diversifiés.