🤖 machine learning

GLAM: Efficient Continual Learning at Scale via Grouped LoRA Adapter Merging

GLAM est un cadre d'apprentissage continu efficace qui entraîne des adaptateurs LoRA légers avec des scalaires d'importance pour chaque tâche, puis les élague, les redimensionne et les fusionne en modules groupés afin d'atteindre une précision de pointe sur de longues séquences de tâches tout en réduisant considérablement les paramètres entraînables et le temps d'entraînement.

Auteurs originaux : Irene Testa, Luigi Quarantiello, Eric Nuertey Coleman, Samrat Mukherjee, Julio Hurtado, Vincenzo Lomonaco

Publié 2026-08-12

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Irene Testa, Luigi Quarantiello, Eric Nuertey Coleman, Samrat Mukherjee, Julio Hurtado, Vincenzo Lomonaco

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous enseigniez à un robot brillant et super intelligent à reconnaître tout ce qui existe dans le monde, de votre chat domestique à un oiseau rare, puis à un type spécifique de voiture. Le robot commence avec un cerveau massif, pré-chargé, qui sait déjà beaucoup de choses. Mais voici la partie délicate : chaque fois que vous lui apprenez quelque chose de nouveau, il a tendance à devenir un peu « oublieux », effaçant accidentellement les souvenirs de ce qu'il a appris la veille. C'est un problème célèbre en informatique appelé « oubli catastrophique ». Habituellement, pour corriger cela, vous devriez réentraîner tout le cerveau du robot à partir de zéro, ce qui prend une éternité et coûte une fortune en électricité. Les scientifiques essaient de trouver un moyen d'enseigner de nouveaux tours à ces robots sans qu'ils oublient les anciens, dans l'espoir de construire des machines capables d'apprendre continuellement, tout comme les humains, sans avoir besoin d'une mise à niveau massive de la mémoire chaque jour.

Entrez en scène GLAM, une nouvelle méthode qui agit comme un bibliothécaire ingénieux et organisé pour le cerveau de ce robot. Au lieu de bourrer chaque nouvelle leçon dans un livre séparé et encombrant qui prend un espace de rangement infini, GLAM apprend au robot à écrire de petites notes légères (appelées « adaptateurs ») pour chaque nouvelle tâche. Mais voici le tour de magie : au lieu de garder des milliers de ces notes, GLAM regroupe les notes similaires, élague les gribouillis désordonnés et sans importance, et les fusionne en un résumé unique et soigné. C'est comme prendre une pile de 50 journaux de voyage différents, les lire et les condenser en un seul guide de voyage parfait qui contient tous les meilleurs conseils sans être lourd.

Les chercheurs ont découvert que cette approche est incroyablement efficace. Lorsqu'ils ont testé GLAM sur une séquence allant jusqu'à 50 tâches différentes (comme la reconnaissance de 50 ensembles d'images différents), il n'a pas seulement bien appris ; il a appris vite. En fait, il était environ trois fois plus rapide à entraîner que les meilleures méthodes concurrentes et n'utilisait que 20 % de la « puissance cérébrale entraînable » (paramètres) dont les autres avaient besoin. Alors que d'autres méthodes peinaient à suivre le rythme à mesure que le nombre de tâches augmentait, GLAM est resté affûté, atteignant la plus haute précision sur tous les tests effectués. Il a prouvé que l'on peut faire apprendre de nouvelles choses à un robot sur une longue période sans qu'il oublie le passé ou sans avoir besoin d'un superordinateur pour faire les calculs.

Le Problème : La Mémoire Courte du Robot

Considérez un modèle d'IA moderne comme un cerveau géant, pré-entraîné, qui a déjà lu l'intégralité d'Internet. Il est incroyable, mais il a un défaut : si vous essayez de lui apprendre quelque chose de nouveau, comme la reconnaissance d'une race spécifique de chien, il se confond souvent et oublie comment reconnaître le chat qu'il connaissait auparavant. C'est le problème de « l'oubli ».

Pour stopper cela, les scientifiques essaient généralement de figer les parties principales du cerveau et de ne laisser qu'une petite section spéciale apprendre les nouveautés. C'est ce qu'on appelle LoRA (Low-Rank Adaptation). Imaginez que le cerveau est une immense bibliothèque, et que LoRA est comme l'ajout d'un petit post-it sur une étagère spécifique plutôt que de réécrire tout le livre. C'est efficace, mais si vous avez 50 tâches différentes, vous vous retrouvez avec 50 post-its différents. Gérer 50 notes est désordonné, et si vous essayez de toutes les lire à la fois, cela ralentit le robot.

La Solution GLAM : Le Jeu de Groupement

GLAM (Grouped LoRA Adapter Merging) change la donne en organisant ces post-its en équipes. Voici comment cela fonctionne, étape par étape :

La Nouvelle Leçon : Quand le robot apprend une nouvelle tâche, GLAM crée une petite note légère (un adaptateur) juste pour ce travail. Il lui donne également un « score d'importance » pour dire à quel point elle compte.
Le Groupement : Au lieu de garder chaque note séparée, GLAM assigne aléatoirement la nouvelle note à l'un de quelques « groupes » (comme placer un nouveau livre sur l'une de cinq étagères spécifiques).
Le Nettoyage (Élagage) : Avant que la note ne soit ajoutée au groupe, GLAM effectue un nettoyage rapide. Il examine la note et jette les parties faibles et sans importance (le « bruit »), ne gardant que les informations fortes et claires. Cela empêche les notes de devenir désordonnées ou de s'interférer les unes avec les autres.
La Fusion : La nouvelle note, une fois nettoyée, est ensuite doucement mélangée au résumé existant du groupe. Le résumé du groupe est mis à jour pour inclure la nouvelle information, mais il reste une seule et même note.
Le Résultat Final : À la fin, tous les résumés de groupe sont combinés en un seul module super efficace. Le robot n'a pas besoin de regarder 50 notes ; il regarde simplement un résumé compact qui contient tout ce qu'il a appris.

Pourquoi c'est une Grande Chose

Les chercheurs ont testé cela sur trois ensembles de données d'images : CIFAR-100 (100 types d'objets), CUB-200 (200 types d'oiseaux) et ImageNet-R (200 types d'images artistiques). Ils ont fait apprendre au robot des séquences allant jusqu'à 50 tâches, ce qui est bien plus long que les tests habituels de 10 tâches utilisés par la plupart des scientifiques.

Les résultats ont été impressionnants :

Vitesse : GLAM a été entraîné environ 3 fois plus vite que la meilleure méthode concurrente (CL-LoRA).
Taille : Il n'a utilisé que 16 à 19 % des paramètres entraînables de la meilleure base de référence.
Précision : Il a obtenu les scores les plus élevés sur les trois ensembles de données. Par exemple, sur l'ensemble de données d'oiseaux CUB-200, il a atteint une précision de 70,96 %, battant la méthode suivante de manière significative.
Oubli : Il a moins oublié que les autres. Alors que certaines méthodes ont oublié environ 33 % de ce qu'elles avaient appris, GLAM n'a oublié que 20 % sur ce même ensemble de données.

L'article suggère que cette stratégie de « groupement et de fusion » est la clé pour permettre à l'IA d'apprendre continuellement sans être entravée. En gardant le nombre de notes actives bas et en les nettoyant au fur et à mesure, GLAM permet au robot d'apprendre une longue séquence de tâches efficacement, sans avoir besoin de se souvenir de chaque détail séparément. C'est une étape vers des machines qui peuvent véritablement apprendre et évoluer au fil du temps, tout comme nous.

=== RÉSUMÉ ===

Résumé Technique : GLAM – Apprentissage continu efficace à grande échelle via le regroupement de fusion d'adaptateurs LoRA

Énoncé du Problème

L'apprentissage continu (CL - Continual Learning) vise à permettre aux modèles d'apprendre de manière incrémentale à partir de séquences de tâches tout en conservant les connaissances acquises précédemment, répondant ainsi au problème persistant de l'oubli catastrophique. Bien que les grands modèles pré-entraînés (Foundation Models) offrent des représentations riches qui atténuent partiellement l'oubli, ils peinent à s'adapter efficacement à l'évolution des distributions de données sans engendrer des coûts computationnels prohibitifs.

Les méthodes existantes de réglage fin efficace en paramètres (PEFT), particulièrement LoRA (Low-Rank Adaptation), sont généralement conçues pour des scénarios statiques et mono-tâche. L'application de LoRA à l'apprentissage continu présente trois défis clés :

Oubli Catastrophique : Empêcher la perte de connaissances des tâches précédentes.
Transfert de Connaissances : Permettre un transfert efficace entre des tâches liées.
Scalabilité : Allouer efficacement les paramètres à mesure que le nombre de tâches augmente.

Les approches actuelles de CL basées sur LoRA stockent souvent des adaptateurs distincts pour chaque tâche (nécessitant des identifiants de tâche lors de l'inférence) ou emploient des stratégies d'isolation complexes qui limitent le transfert de connaissances. Alternativement, les méthodes de fusion post-hoc consolident les adaptateurs uniquement après l'entraînement, ce qui limite le transfert pendant la phase d'apprentissage et repose souvent sur des coefficients manuellement ajustés et sous-optimaux. De plus, de nombreuses méthodes existantes traitent les adaptateurs de manière indépendante, ne parvenant pas à supporter l'apprentissage partagé ou la réutilisation adaptative, et entraînent des coûts d'entraînement élevés à mesure que les séquences de tâches s'allongent.

Méthodologie : GLAM

Les auteurs proposent GLAM (Grouped LoRA Adapter Merging), un cadre conçu pour l'apprentissage continu incrémental de classes qui regroupe et fusionne dynamiquement les adaptateurs au fur et à mesure du déroulement des tâches, sans nécessiter l'accès aux échantillons des tâches précédentes. La méthode opère via un pipeline à trois étapes :

1. Entraînement de LoRA spécifique à la tâche

Pour chaque nouvelle tâche $T_i$ , GLAM entraîne un adaptateur LoRA léger et spécifique à la tâche $\Delta W_i = B_i A_i$ aux côtés d'un scalaire d'importance associé $\alpha_i$ .

Optimisation : L'adaptateur $\Delta W_i$ et son scalaire $\alpha_i$ sont optimisés sur le jeu de données actuel $D_i$ .
Gel (Freezing) : Les poids pré-entraînés de base $W_0$ et les adaptateurs de groupe précédemment appris $\{\Delta W_{G_j}\}$ sont maintenus gelés.
Mise à l'échelle dynamique : Les facteurs de mise à l'échelle des adaptateurs de groupe existants $\{\alpha_{G_j}\}$ sont mis à jour pendant l'entraînement de la nouvelle tâche pour maintenir un équilibre des importances relatives.
Masquage du Classificateur : Les logits pour les classes en dehors de la tâche actuelle sont masqués afin d'optimiser uniquement les paramètres du classificateur pertinents.

2. Regroupement d'Adaptateurs (Adapter Grouping)

Pour éviter une croissance illimitée des paramètres, GLAM emploie une stratégie de regroupement dynamique plutôt que de conserver un module distinct pour chaque tâche.

Association de Groupe : Une fois l'entraînement de la tâche $T_i$ terminé, le nouvel adaptateur est assigné à un groupe $G_j$ via une stratégie d'échantillonnage aléatoire à partir d'un ensemble de créneaux de groupe disponibles (jusqu'à un maximum $G_{max}$ ). Si le créneau est vide, un nouveau groupe est initialisé ; sinon, l'adaptateur rejoint un groupe existant.
Agrégation d'Importance : Chaque groupe maintient un facteur de mise à l'échelle unique $\alpha_{G_j}$ , mis à jour comme une moyenne mobile des facteurs d'importance de tous les adaptateurs qui lui sont assignés.
Élagage basé sur la Magnitude : Avant la fusion, l'adaptateur entrant subit un élagage basé sur la magnitude. Seuls les $k\%$ de poids supérieurs (en valeur absolue) dans les matrices $B_i$ et $A_i$ sont conservés. Cette étape réduit l'interférence des composants faibles ou redondants sans le coût computationnel élevé des critères basés sur Fisher.
Fusion Intra-Groupe : L'adaptateur élagué est fusionné linéairement avec l'adaptateur de groupe actuel $\Delta W_{G_j}$ en utilisant une moyenne pondérée basée sur la taille du groupe. Cela consolide plusieurs mises à jour spécifiques aux tâches en une seule représentation de niveau groupe.

3. Alignement du Classificateur et Concatenation Finale

Alignement du Classificateur : Pour atténuer le biais envers les classes récemment apprises, une étape d'alignement du classificateur est effectuée. Des caractéristiques synthétiques sont échantillonnées à partir de statistiques gaussiennes stockées (moyenne et variance) des caractéristiques de classe de toutes les tâches vues. Le classificateur linéaire final est ré-entraîné sur ces caractéristiques synthétiques tandis que l'extracteur de caractéristiques reste gelé.
Concatenation Finale : Lors de l'inférence, tous les adaptateurs de groupe sont combinés en un seul module unifié. Ceci est réalisé en mettant chaque adaptateur de groupe à l'échelle par son facteur d'importance $\alpha_{G_j}$ et en les concaténant le long de la dimension du rang. Le modèle résultant possède un adaptateur compact unique $\Delta W_{final}$ , garantissant un coût de calcul constant quel que soit le nombre de tâches.

Contributions Clés

Méthodologie de CL Scalable : Une approche novatrice pour les modèles de fondation qui exploite les techniques PEFT, combinant l'adaptation spécifique à la tâche avec un mécanisme pour apprendre conjointement les modules LoRA et leurs coefficients d'importance.
Pipeline de Fusion Progressive : Une stratégie qui consolide les adaptateurs spécifiques aux tâches dans un ensemble limité d'adaptateurs de groupe. Cela contrôle la croissance des paramètres et atténue l'interférence de fusion sur de longues séquences de tâches grâce au regroupement séquentiel et à l'élagage basé sur la magnitude.
Validation Empirique : Des expériences approfondies sur divers benchmarks (CIFAR-100, CUB-200, ImageNet-R) démontrant des performances de pointe dans des scénarios de CL dynamique avec de longues séquences de tâches (jusqu'à 50 tâches), tout en réduisant considérablement le temps d'entraînement et les paramètres entraînables par rapport aux bases solides.

Résultats Expérimentaux

Les auteurs ont évalué GLAM sur des benchmarks standards utilisant des séquences allant jusqu'à 50 tâches, un cadre nettement plus exigeant que les protocoles typiques de 10 tâches trouvés dans la littérature récente.

Précision et Oubli : GLAM a obtenu la précision moyenne la plus élevée sur les trois benchmarks. Comparé à la base de référence la plus performante (qui varie selon le jeu de données et la métrique, par exemple CL-LoRA sur CIFAR-100, SEMA sur ImageNet-R), GLAM a réalisé une augmentation moyenne de 6 % de la précision et une réduction de 8 % de l'oubli. Par exemple, sur CIFAR-100, GLAM (84,73 %) a nettement surpassé CL-LoRA (77,56 %), tandis que sur CUB-200, GLAM (70,96 %) a dépassé CL-LoRA (61,49 %).
Efficacité : GLAM a démontré une efficacité computationnelle supérieure. Il a atteint environ une accélération de l'entraînement de 3× par rapport à la base de référence la plus performante tout en n'utilisant que 16–19 % des paramètres entraînables utilisés par cette base (par exemple, ~3,6M de paramètres pour GLAM contre ~19,2M pour CL-LoRA sur CIFAR-100).
Scalabilité : À mesure que le nombre de tâches passait de 10 à 50, GLAM a maintenu des performances robustes avec une dégradation minimale, alors que les méthodes concurrentes présentaient des chutes de précision notables.
Études d'Ablation : Les analyses ont confirmé l'efficacité de la stratégie de fusion séquentielle en deux phases. Le regroupement aléatoire s'est avéré aussi efficace que les stratégies de clustering plus complexes, et l'élagage basé sur la magnitude s'est révélé efficace pour réduire l'interférence.

Signification et Revendications

Le papier positionne GLAM comme une étape significative vers l'apprentissage à vie (lifelong learning) dans les modèles de fondation. En abordant le goulot d'étranglement de la scalabilité des méthodes CL basées sur le PEFT, GLAM permet l'ajout continu de nouvelles connaissances sans l'explosion linéaire des paramètres ou du coût computationnel.

Les auteurs affirment que GLAM offre une solution pratique pour les scénarios réels où les modèles doivent s'adapter à de longues séquences de tâches sous des contraintes de temps et de ressources. La méthode équilibre avec succès le compromis stabilité-plasticité, préservant les connaissances des tâches antérieures tout en intégrant efficacement les nouvelles informations, tout en maintenant un coût d'inférence constant grâce à la concaténation finale des adaptateurs. Le travail suggère que le regroupement et la fusion dynamiques, plutôt que l'isolation statique ou la consolidation post-hoc, constituent une voie viable pour un apprentissage continu efficace et à grande échelle.