🤖 machine learning

Unlocking the Potential of Continual Model Merging: An ODE Perspective

Ce papier propose ODE-M, un nouveau cadre de fusion de modèles continus qui exploite une perspective d'équations différentielles ordinaires pour retracer des trajectoires à faible perte dans l'espace des paramètres, atténuant ainsi efficacement l'oubli catastrophique et surpassant les méthodes existantes sur des benchmarks de tâches hétérogènes.

Auteurs originaux : Lihong Lin, Haidong Kang

Publié 2026-05-20

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Lihong Lin, Haidong Kang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un chef étoilé qui a appris à préparer un plat de pâtes italien parfait. Ensuite, vous engagez un deuxième chef, maître du sushi japonais. Enfin, vous engagez un troisième chef spécialisé dans les tacos mexicains.

Le Problème :
Dans le monde de l'IA, nous avons souvent des « modèles de base » (comme nos chefs étoilés) qui sont bons dans de nombreux domaines. Lorsqu'une nouvelle tâche se présente (comme apprendre à préparer des sushis), nous devons généralement réentraîner le chef entier à partir de zéro ou tenter de forcer les nouvelles connaissances par-dessus les anciennes.

L'article traite du Fusionnement Continu de Modèles. Cela revient à essayer de combiner les compétences du chef italien, du chef de sushis et du chef de tacos en un seul « Super-Chef » capable de maîtriser parfaitement les trois, sans jamais avoir à les réentraîner à partir de zéro.

L'Ancienne Méthode (La Méthode du « Saut ») :
Les méthodes précédentes tentaient de fusionner ces chefs en prenant une instantanée du cerveau du chef italien et du cerveau du chef de sushis, puis en les moyennant simplement.

Le Défaut : Imaginez que le cerveau du chef italien se trouve dans une vallée (faible perte/bonne performance) et celui du chef de sushis dans une autre vallée. Si vous tracez simplement une ligne droite entre eux, vous pourriez devoir gravir une montagne raide et rocailleuse au milieu.
Le Résultat : Lorsque l'IA tente de parcourir cette ligne droite, elle heurte une « barrière de perte » (la montagne). Elle oublie comment faire des pâtes car elle reste bloquée sur la montagne en essayant d'apprendre les sushis. C'est ce qu'on appelle l'oubli catastrophique. Plus vous ajoutez de chefs, plus le Super-Chef oublie les compétences initiales.

La Nouvelle Idée (La Méthode « ODE ») :
Les auteurs proposent une nouvelle approche appelée ODE-M (Fusionnement piloté par les Équations Différentielles Ordinaires). Au lieu de sauter d'un chef à l'autre, ils imaginent un chemin continu ou une route fluide reliant les deux cerveaux.

Voici comment ils procèdent, en utilisant des métaphores simples :

La Route Fluide (Connectivité des Modes) :
L'article suppose que, même si les chefs semblent différents, il existe une route cachée, fluide et basse reliant leurs cerveaux, où ils peuvent tous deux continuer à bien cuisiner. L'objectif est de trouver cette route, et non la ligne droite au-dessus de la montagne.
Le GPS avec Limitation de Vitesse (Le Champ de Vitesse) :
Les auteurs créent un « champ de vitesse », comparable à un GPS guidant le Super-Chef du style italien vers le style sushi.
- Le Problème : Parfois, le GPS tente de conduire la voiture vers le haut d'une colline raide (ce qui augmente la « perte » ou détériore la cuisine).
- La Solution : Le système vérifie le terrain en temps réel. Si la route devant commence à monter une colline (augmentation de la perte), le système applique un « frein » ou un « amortisseur » à cette direction spécifique. Il ralentit la partie du mouvement qui cause l'oubli, tout en laissant la voiture avancer vers la nouvelle compétence.
Le « Panneau Stop » (Point de Fonctionnement) :
Vous n'avez pas toujours besoin de conduire jusqu'à la destination (le cerveau du nouveau chef). Parfois, vous ne voulez apprendre que certaines compétences en sushi sans perdre vos compétences en pâtes.
- Le système vous permet d'arrêter la voiture à n'importe quel point le long de la route fluide.
- Si la nouvelle tâche est très importante, vous conduisez plus loin (plus près du nouveau chef).
- Si les anciennes tâches sont plus importantes, vous vous arrêtez plus tôt (en conservant davantage de connaissances anciennes).
- Cela est contrôlé par un « calendrier temporel », qui agit comme un cadran décidant combien de la nouvelle compétence absorber par rapport à la quantité de compétence ancienne à conserver.

Pourquoi est-ce mieux ?

Pas d'Escalade de Montagne : En suivant le chemin fluide à faible perte, l'IA n'a pas à gravir la « montagne » qui lui fait oublier les anciennes compétences.
Contrôle : Cela donne à l'utilisateur un cadran pour décider exactement combien de nouvelles connaissances ajouter sans briser les connaissances anciennes.
Résultats : Dans leurs tests (utilisant des modèles d'IA reconnaissant des images comme des voitures, des fleurs et des panneaux de signalisation), cette méthode a créé un « Super-Chef » meilleur pour se souvenir de toutes les tâches que n'importe quelle méthode précédente. Il a conservé les compétences en pâtes tout en apprenant les sushis, même lors de l'ajout de nombreuses nouvelles recettes une par une.

En Résumé :
Au lieu de forcer deux cerveaux d'IA différents ensemble avec un instrument brut (ce qui brise les choses), cet article utilise un chemin fluide et guidé pour les fusionner. Il agit comme un navigateur prudent qui guide l'IA autour des « zones dangereuses » (où elle oublierait des choses) et vous permet de décider exactement jusqu'où parcourir ce chemin pour équilibrer les compétences anciennes et nouvelles.

Formulation du problème

L'article aborde la fusion de modèles continus (Continual Model Merging - CMM), un contexte où des modèles adaptés à des tâches arrivent de manière séquentielle, et où un seul modèle déployé doit être mis à jour de manière itérative pour intégrer de nouvelles capacités sans accès aux données d'entraînement originales. Alors que la fusion de modèles standard combine plusieurs modèles simultanément, le CMM fait face au défi de l'oubli catastrophique et d'une allocation incohérente des performances.

Les méthodes CMM existantes traitent généralement chaque fusion comme une opération algébrique fixe (par exemple, la moyenne des poids ou l'arithmétique des vecteurs de tâche) mapant directement un modèle courant $\Psi_k$ et un modèle entrant $\psi_{k+1}$ vers un nouvel état final $\Psi_{k+1}$ . Les auteurs soutiennent que cette vision « état final uniquement » souffre de deux lacunes critiques :

Absence de contrôle du chemin : Elle ignore la trajectoire parcourue dans l'espace des paramètres. Si la mise à jour traverse des régions à forte perte (barrières de perte), le modèle résultant peut subir une dégradation fonctionnelle ou une interférence avec les comportements appris précédemment.
Compromis stabilité-plasticité inflexible : Elle offre un contrôle limité sur la quantité de connaissances historiques préservées par rapport à l'adoption de nouvelles expertises de tâche. Ceci est particulièrement problématique dans les scénarios d'utilité hétérogène, où les tâches ont des fréquences ou des poids d'importance différents ; des règles fixes échouent souvent à allouer la capacité de manière appropriée, conduisant à des performances systémiques sous-optimales.

Méthodologie : Fusion pilotée par les EDO (ODE-M)

Motivés par la connectivité des modes — l'observation que des modèles entraînés indépendamment peuvent souvent être connectés par des chemins à faible perte — les auteurs proposent de considérer la fusion continue non pas comme un saut discret, mais comme une transition continue contrôlée dans l'espace des paramètres. Ils introduisent ODE-M, un cadre qui génère un chemin de connexion via un champ de vitesse dépendant du temps.

1. Perspective de trajectoire et barrières de perte

Au lieu d'une interpolation linéaire, ODE-M construit un chemin continu $\theta(t)$ du modèle courant $\theta_0$ vers le modèle entrant $\theta_1$ . L'objectif est de minimiser la barrière de perte le long de ce chemin, définie comme le maximum de perte excédentaire rencontrée par rapport à l'interpolation linéaire des pertes des états finals.

2. Champ de vitesse rectifié

Le mécanisme central est la construction d'un champ de vitesse conscient des barrières.

Champ de base : Un champ vectoriel de base $u_t(\theta) = \alpha(t)(\theta_1 - \theta)$ est défini pour diriger le modèle vers la cible.
Décomposition du gradient : À chaque étape, la vitesse est décomposée en une composante alignée avec le gradient de perte ( $u_\parallel$ ) et une composante orthogonale à celui-ci ( $u_\perp$ ).
Rectification adaptative : Un facteur adaptatif $\gamma(\theta, t) \in [0, 1]$ $γ (θ, t) \in [0, 1]$ module la composante alignée avec le gradient :
- Si le mouvement vers la cible diminue ou maintient la perte ( $\langle g_t, u_t \rangle \le 0$ ), la vitesse complète est appliquée ( $\gamma=1$ ).
- Si le mouvement augmente la perte ( $\langle g_t, u_t \rangle > 0$ ), la composante est amortie pour garantir que l'augmentation de perte reste dans un budget prescrit ( $\Delta L = L(\theta_1) - L(\theta_0)$ ). Plus précisément, $\gamma = \text{clip}(\frac{\Delta L}{\langle g_t, u_t \rangle}, 0, 1)$ .
Intégration : La trajectoire est générée en intégrant le champ de vitesse rectifié $v_t(\theta) = u_\perp + \gamma u_\parallel$ en utilisant l'intégration d'Euler sur un petit ensemble de calibration.

3. Planification temporelle consciente de l'utilité

Pour contrôler le compromis stabilité-plasticité, la méthode sélectionne un temps de fonctionnement $t_k$ le long de la trajectoire plutôt que d'intégrer jusqu'à l'état final complet ( $t=1$ ). Le temps $t_k$ est déterminé par l'utilité relative de la tâche entrante :
$t_k = \frac{w_k}{\sum_{i=1}^k w_i}$
où $w_k$ est le poids d'utilité de la $k$ -ième tâche. Dans un contexte uniforme, cela se réduit à $t_k = 1/k$ , diminuant naturellement la contribution des nouvelles tâches à mesure que le flux grandit, préservant ainsi davantage de connaissances historiques.

Contributions clés

Formulation de trajectoire : L'article reformule le CMM comme un problème de recherche de chemin, étendant le concept de barrières de perte de l'interpolation linéaire aux chemins de connexion généraux.
Dynamiques conscientes des barrières : Il propose une nouvelle stratégie de fusion pilotée par les EDO utilisant un champ de vitesse rectifié qui régule le mouvement augmentant la perte via une rétroaction du premier ordre légère, évitant les régions à forte perte sans nécessiter de réentraînement complet.
Contrôle explicite : En sélectionnant des points de fonctionnement le long de la trajectoire basés sur les poids d'utilité, la méthode fournit un mécanisme explicite pour équilibrer les connaissances historiques conservées et l'expertise des tâches entrantes.

Résultats expérimentaux

Les auteurs ont évalué ODE-M sur des backbones CLIP ViT (ViT-B/32, ViT-B/16, ViT-L/14) à travers des flux de tâches de longueurs 8, 14 et 20, en utilisant des ensembles de données de la suite FusionBench.

Performance : ODE-M a atteint des performances de l'état de l'art par rapport à des bases de référence solides (y compris Continual Task Arithmetic, Continual Ties-Merging et OPCM) en termes de précision moyenne (ACC) et de transfert rétrograde (BWT). Par exemple, sur ViT-B/32 avec 8 tâches, ODE-M a amélioré l'ACC de 75,5 (OPCM) à 79,6.
Utilité hétérogène : Dans des conditions d'importance de tâche non uniforme, ODE-M a constamment atteint la plus haute précision pondérée par l'utilité ( $ACC_w$ ), démontrant sa capacité à optimiser pour des priorités de tâches spécifiques mieux que des méthodes optimisées pour des moyennes macro uniformes.
Robustesse : Des études d'ablation ont montré que la méthode est robuste à la taille de l'ensemble de calibration (performant bien avec aussi peu que 512 échantillons) et à la taille du pas d'intégration numérique.
Efficacité : La surcharge computationnelle par fusion est pratique (par exemple, ~124s pour ViT-B/32), dominée par l'intégration numérique et les calculs de gradient sur l'ensemble de calibration, ce qui est négligeable par rapport au réentraînement complet.

Signification et affirmations

L'article affirme que ODE-M débloque le potentiel de la fusion de modèles continus en changeant le paradigme des mises à jour algébriques fixes vers des transitions continues contrôlées. En construisant explicitement des chemins qui respectent le paysage de perte et en régulant la vitesse d'intégration en fonction de l'utilité de la tâche, ODE-M atténue efficacement l'oubli et gère l'importance hétérogène des tâches.

Les auteurs positionnent ce travail comme une étape vers une personnalisation de modèles plus évolutive et contrôlable, réduisant la charge technique et computationnelle de la maintenance des systèmes multi-tâches. Ils reconnaissent des limitations, telles que la nécessité d'un ensemble de calibration pour calculer les gradients et l'accent actuel sur les tâches de classification visuelle, notant que les travaux futurs exploreront les grands modèles de langage et des stratégies d'intégration plus efficaces.