🤖 machine learning

Resolving Interference (RI): Disentangling Models for Improved Model Merging

L'article propose la méthode Resolving Interference (RI), un cadre d'adaptation léger qui utilise des données auxiliaires non étiquetées pour orthogonaliser fonctionnellement les modèles experts et réduire les interférences croisées, améliorant ainsi significativement les performances et la généralisation du fusionnement de modèles.

Auteurs originaux : Pratik Ramesh, George Stoica, Arun Iyer, Leshem Choshen, Judy Hoffman

Publié 2026-03-17

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Pratik Ramesh, George Stoica, Arun Iyer, Leshem Choshen, Judy Hoffman

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🧠 Le Problème : La "Cuisine des Chefs"

Imaginez que vous avez plusieurs chefs cuisiniers experts, chacun spécialisé dans un domaine précis :

Le Chef A est un génie pour faire des pizzas.
Le Chef B est un magicien pour préparer des sushis.
Le Chef C est un artiste pour les gâteaux.

Chacun a son propre carnet de recettes (ses paramètres) et travaille dans sa propre cuisine. Tout va bien tant qu'ils travaillent séparément.

Maintenant, imaginez que vous voulez créer un super-chef unique capable de faire les trois plats à la fois. La méthode habituelle consiste à prendre les carnets de recettes de chacun, à les mélanger (à les "fusionner") et à espérer que le résultat fonctionne.

Le problème ? C'est un désastre culinaire.
Quand vous mélangez les recettes, les ingrédients du Chef A (la farine pour la pizza) entrent en conflit avec ceux du Chef B (le riz pour les sushis). Le résultat est un plat bizarre qui ne ressemble ni à une pizza, ni à un sushi, ni à un gâteau. C'est ce que les chercheurs appellent l'"interférence entre tâches". Le mélange gâche la spécialité de chacun.

💡 La Solution : La Méthode "RI" (Résoudre les Interférences)

Les auteurs de cet article ont inventé une astuce géniale appelée RI (Resolving Interference). Voici comment ça marche, sans utiliser de mathématiques compliquées :

1. Le Secret : On n'a pas besoin des vrais ingrédients

Habituellement, pour apprendre à un chef à ne pas mélanger ses recettes, il faudrait lui faire pratiquer avec de vrais clients (des données étiquetées). Mais souvent, on n'a pas ces clients, ou les données sont secrètes.

L'astuce de RI, c'est d'utiliser un carnet de croquis vide (des données auxiliaires non étiquetées, comme des images aléatoires d'arbres, de voitures ou de nuages). On n'a pas besoin de savoir ce que c'est, juste de voir des formes.

2. L'Entraînement : La "Danse des Ombres"

Avant de fusionner les chefs, on leur fait faire un petit exercice d'entraînement avec ce carnet de croquis :

Le Chef Pizza regarde une image de croquis. Il doit s'assurer que s'il utilise sa recette de pizza, il produit un résultat cohérent (comme s'il cuisinait vraiment).
Mais surtout, on lui dit : "Si tu utilises ta recette de pizza sur cette image, ne change absolument rien à la façon dont tu ferais un gâteau ou un sushi !".
En gros, on force le Chef Pizza à désapprendre à interférer avec les autres métiers. On lui apprend à garder sa spécialité "Pizza" bien isolée dans un coin de son cerveau, sans toucher aux zones "Sushi" ou "Gâteau".

C'est comme si on apprenait à chaque chef à danser dans sa propre zone de la piste de danse, sans piétiner les pieds des autres.

3. La Fusion : Le Mariage Parfait

Une fois que chaque chef a appris à rester dans sa propre "bulle" fonctionnelle (à être orthogonal aux autres), on peut enfin mélanger leurs carnets de recettes.

Comme ils ne se marchent plus dessus, le mélange fonctionne ! Le nouveau super-chef peut faire une pizza, un sushi et un gâteau, car les recettes ne se sont pas "effacées" les unes les autres pendant le mélange.

🚀 Pourquoi c'est génial ?

Pas besoin de données secrètes : Vous n'avez pas besoin d'avoir les vraies données de formation (les clients réels). Un tas d'images aléatoires suffit.
Peu coûteux : C'est rapide et léger. On ne réentraîne pas tout le modèle, juste un petit ajustement avant le mélange.
Résultats impressionnants : Dans les tests, cette méthode a permis d'améliorer la performance des modèles mélangés de 3,8 % et de les rendre plus robustes face à des situations nouvelles (comme voir une pizza dans un style de dessin animé au lieu d'une photo réelle).

🎯 En résumé

Imaginez que vous essayez de fusionner trois langues différentes en une seule. Sans RI, vous obtenez un mélange incompréhensible où les mots se contredisent. Avec RI, vous apprenez d'abord à chaque langue à ne pas "casser" les autres langues, en utilisant un dictionnaire neutre. Ensuite, quand vous les fusionnez, elles cohabitent parfaitement.

C'est une méthode simple, élégante et très efficace pour créer des intelligences artificielles polyvalentes sans avoir besoin de tout réapprendre depuis zéro.

1. Problématique : L'Interférence Inter-Tâches

Le fusionnement de modèles (Model Merging) est une technique prometteuse permettant de créer des modèles multitâches en combinant directement les paramètres de plusieurs modèles experts, chacun spécialisé dans une tâche spécifique. Cependant, une limitation majeure persiste : les modèles entraînés indépendamment sur des tâches distinctes souffrent souvent d'interférence inter-tâches (Cross-Task Interference).

Définition du problème : Lorsque l'on fusionne des modèles, les paramètres appris pour une tâche peuvent "écraser" ou déformer les caractéristiques nécessaires à une autre tâche. Cela entraîne une dérive des représentations de sortie du modèle fusionné par rapport à celles de ses modèles constitutifs, dégradant ainsi les performances sur chaque tâche individuelle.
Limites des méthodes existantes :
- Les approches sans gradient (basées sur l'ajustement direct des paramètres) ignorent l'interaction avec les données d'entrée, limitant leur capacité à capturer les conflits réels.
- Les approches basées sur le gradient nécessitent souvent l'accès aux données d'entraînement originales de chaque tâche, ce qui est irréaliste dans des scénarios de données rares ou propriétaires.
- Les méthodes de routage ajoutent de la capacité et des coûts d'inférence.

L'objectif est de trouver une méthode légère, basée sur le gradient, capable de réduire cette interférence sans accéder aux données des tâches spécifiques et sans augmenter le coût d'inférence.

2. Méthodologie : Resolving Interference (RI)

Les auteurs proposent Resolving Interference (RI), un cadre d'adaptation léger qui "désenchevêtre" les modèles experts pour les rendre fonctionnellement orthogonaux avant leur fusion.

A. Formalisation de l'Interférence

Les auteurs définissent formellement l'interférence inter-tâches ( $\xi$ ) comme la déviation entre les représentations du modèle fusionné et celles de chaque modèle expert, évaluées sur leur tâche respective. L'objectif est de minimiser cette déviation.

B. Le Principe d'Orthogonalité Fonctionnelle

L'idée centrale de RI est d'adapter chaque vecteur de tâche ( $\tau_i$ ) en un vecteur adapté ( $\tau^*_i$ ) tel que :

Préservation de la tâche : $\tau^*_i$ conserve l'efficacité du modèle original sur sa propre tâche ( $D_i$ ).
Réduction de l'interférence : $\tau^*_i$ n'a aucune influence sur les représentations de sortie des autres tâches ( $D_j, j \neq i$ ).

C. Implémentation avec des Données Auxiliaires Non Étiquetées

Puisque les données des tâches ( $D_i$ ) ne sont pas disponibles, RI utilise des données auxiliaires non étiquetées ( $D_{aux}$ ) arbitraires (par exemple, des images ImageNet non étiquetées).

Le processus d'optimisation minimise une fonction de perte ( $L_{RI}$ ) composée de deux termes :

$L_1$ (Préservation de la tâche) : Assure que la sortie du modèle adapté sur $D_{aux}$ via l'en-tête de sa tâche ( $h_i$ ) reste proche de celle du modèle original.
$L_2$ (Réduction de l'interférence) : Force la sortie du modèle adapté sur $D_{aux}$ via les en-têtes des autres tâches ( $h_j$ ) à correspondre à celle du modèle de base pré-entraîné (sans adaptation), garantissant ainsi que l'adaptation n'affecte pas les autres tâches.

La perte totale est : $L_{RI} = L_1 + \frac{\alpha}{N-1} L_2$ .
Une fois les vecteurs de tâche adaptés individuellement, ils sont fusionnés en utilisant n'importe quelle méthode de fusion standard (moyenne pondérée, TIES, etc.).

3. Contributions Clés

Formalisation de l'interférence : Introduction d'une métrique quantitative pour mesurer l'interférence, servant à la fois d'objectif d'optimisation et d'outil de diagnostic.
Cadre RI : Proposition d'une méthode d'adaptation légère qui ne nécessite aucune donnée de tâche (ni pour l'entraînement, ni pour la validation), utilisant uniquement des données auxiliaires non étiquetées.
Amélioration des performances : Démonstration que RI améliore systématiquement les méthodes de fusion de l'état de l'art (SOTA).
Robustesse : Mise en évidence que les modèles adaptés par RI sont beaucoup moins sensibles au réglage des hyperparamètres de fusion.

4. Résultats Expérimentaux

Les expériences ont été menées sur des modèles CLIP (ViT-B/32, ViT-B/16, ViT-L/14) avec des ensembles de tâches de 8, 14 et 20 tâches de vision par ordinateur.

Performance In-Domain :
- RI améliore les méthodes de fusion existantes de manière constante.
- Gain maximal observé : +3,8 % par rapport aux méthodes SOTA (par exemple, amélioration de TSV-M et Iso-CTS).
- Les gains sont particulièrement importants lorsque le nombre de tâches fusionnées augmente, confirmant que l'interférence est le facteur limitant principal à grande échelle.
Généralisation Hors Distribution (DomainNet) :
- Sur le benchmark DomainNet (6 domaines différents), RI améliore la robustesse hors distribution jusqu'à +2,3 %.
- Cela suggère que la réduction de l'interférence favorise un espace de représentation partagé plus sain, facilitant le transfert positif.
Analyse des Composantes :
- Données Auxiliaires : RI fonctionne avec n'importe quelle donnée auxiliaire visuellement diverse (ImageNet, MSCOCO, même des formes synthétiques), bien que des données proches de la distribution cible donnent les meilleurs résultats.
- Métrique de Distance : La Divergence de Kullback-Leibler (KL) s'est révélée être la métrique la plus efficace pour optimiser la perte RI.
- Coût Computationnel : La méthode est très efficace. L'adaptation d'un expert prend environ 7 à 9 minutes sur un GPU A40, avec une utilisation de mémoire constante (4,8 Go) quel que soit le nombre de tâches, car l'adaptation est parallélisable.

5. Signification et Impact

Ce travail apporte une solution élégante au problème critique de l'interférence dans le fusionnement de modèles, en contournant la contrainte majeure de l'accès aux données d'entraînement originales.

Praticité : En ne nécessitant que des données non étiquetées, RI rend le fusionnement de modèles viable dans des contextes réels où les données sont privées, rares ou indisponibles.
Stabilité : La réduction de la sensibilité aux hyperparamètres de fusion simplifie considérablement le déploiement, éliminant le besoin de jeux de données de validation spécifiques aux tâches pour le réglage fin.
Généralité : RI agit comme une couche pré-traitement universelle qui peut être appliquée à n'importe quelle méthode de fusion existante, améliorant ainsi l'ensemble de l'écosystème du fusionnement de modèles.

En résumé, Resolving Interference transforme le fusionnement de modèles d'un processus souvent instable et dépendant des données en une méthode robuste, efficace et applicable à grande échelle.