🤖 machine learning

WARP: Weight-Space Analysis for Recovering Training Data Portfolios

L'article présente WARP, un cadre qui récupère les poids de mélange de domaines spécifiques utilisés pour entraîner les modèles de fondation en analysant les caractéristiques géométriques dans leur espace de poids, surmontant ainsi les limites des méthodes antérieures qui ne peuvent détecter que des échantillons de données individuels.

Auteurs originaux : Tzu-Heng Huang, Aditya Goyal, John Cooper, Frederic Sala

Publié 2026-07-03

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Tzu-Heng Huang, Aditya Goyal, John Cooper, Frederic Sala

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous achetiez un gâteau délicieux et complexe dans une pâtisserie célèbre. La pâtisserie vous donne le gâteau fini, mais elle refuse de vous donner la recette : quelle quantité de farine, de sucre ou de vanille a été utilisée, ou quelles sont leurs proportions. Ils disent simplement : « Voici le gâteau ; profitez-en. »

Dans le monde de l'IA, ces « gâteaux » sont les Modèles de Fondation (comme les chatbots ou les générateurs de texte que vous voyez en ligne). La « recette » est le mélange de données — le mélange spécifique de différents types d'informations (comme des actualités, du code, des articles scientifiques ou des publications sur les réseaux sociaux) utilisé pour entraîner le modèle. Généralement, cette recette est secrète.

Cela crée un problème : les chercheurs peuvent étudier le gâteau (le modèle), mais ils ne peuvent pas voir les ingrédients (les données) qui l'ont composé. Cela rend difficile de savoir si le modèle a appris à partir de bonnes sources ou s'il a accidentellement « mangé » quelque chose qu'il n'aurait pas dû.

Le Problème : Le Chemin Manquant

D'habitude, pour découvrir une recette, il faudrait regarder le boulanger mélanger les ingrédients étape par étape. En termes d'IA, cela signifie voir la trajectoire d'entraînement — le registre de la façon dont le « cerveau » du modèle change au fur et à mesure qu'il apprend. Mais pour la plupart des modèles publiés, nous n'obtenons que deux instantanés :

Le Modèle de Base : La pâte brute, non entraînée.
Le Modèle Fine-Tuné (Ajusté) : Le gâteau fini.

Le chemin entre les deux est perdu. Les méthodes précédentes tentaient de deviner la recette en observant des « miettes » individuelles (des points de données spécifiques) pour voir si elles étaient présentes dans le mélange, mais c'est comme essayer de deviner la recette complète d'un gâteau en goûtant une seule pincée de sucre. Cela ne donne pas une vision d'ensemble.

La Solution : WARP (Le Gâteau de « Voyage dans le Temps »)

Les auteurs présentent un nouvel outil appelé WARP (Weight-Space Analysis for Recovering Training Data Portfolios). Voici comment il fonctionne, en utilisant des analogies simples :

1. Reconstruire le Chemin Manquant (Simuler la Trajectoire)
Puisque nous ne pouvons pas voir le vrai chemin emprunté par le boulanger, WARP crée un faux chemin en utilisant une technique appelée « fusion de modèles » (model merging). Imaginez que vous avez la pâte brute et le gâteau fini. WARP crée une série de « pseudo-gâteaux » entre les deux en mélangeant mathématiquement la pâte et le gâteau en petites étapes.

Étape 1 : 90 % de pâte, 10 % de gâteau.
Étape 2 : 80 % de pâte, 20 % de gâteau.
...et ainsi de suite, jusqu'à atteindre 100 % de gâteau.

Ces étapes fictives servent de substitut au véritable processus d'entraînement, offrant aux chercheurs une « feuille de route » à étudier.

2. Prendre une « Empreinte » Géométrique (Le Score de Mimétisme)
Maintenant, WARP prend un petit ensemble connu d'ingrédients de test (un « jeu de données de sondage ») et demande : « Si nous ajoutions cet ingrédient spécifique à notre faux chemin, à quel point pousserait-il le gâteau vers le résultat final ? »

Il mesure l'alignement. Si le gâteau final a été fait principalement de données de type « Actualités », alors les ingrédients de type « Actualités » pousseront fortement le faux chemin vers le gâteau final. Les ingrédients de type « Science » pourraient pousser faiblement ou dans la mauvaise direction. Cela crée une empreinte géométrique — une forme unique dans le « cerveau » du modèle qui révèle quels ingrédients étaient dominants.

3. Lire la Recette (Le Décodeur)
Enfin, WARP regarde cette empreinte et la traduit en une recette. Il dispose de deux méthodes pour cela :

La Devinette Rapide (Non supervisée) : Il utilise une formule mathématique simple (softmax) pour observer la forme et dire : « Cela ressemble à 40 % d'actualités, 30 % de code, 30 % de science. »
L'Expert Formé (Supervisé) : Il utilise une petite IA (un MLP) qui a été préalablement entraînée sur des faux gâteaux avec des recettes connues. Cette IA regarde l'empreinte et dit : « D'après ce que j'ai appris, c'est définitivement 40 % d'actualités, 30 % de code, 30 % de science. »

Les Résultats : À quel point cela a-t-il fonctionné ?

Les chercheurs ont testé cela sur deux « pâtisseries » différentes (BERT et GPT-2) en utilisant divers types de données (actualités, avis, etc.).

C'est bien meilleur que de deviner : Le hasard ou l'observation de miettes isolées (méthodes précédentes) étaient souvent erronés.
C'est étonnamment précis : WARP a deviné la recette avec une très haute précision. Pour le modèle BERT, l'erreur moyenne était de seulement 0,046 (ce qui signifie qu'il était presque parfaitement exact). Pour GPT-2, l'erreur était de 0,104.
Cela fonctionne même si le boulanger s'est arrêté tôt ou a trop cuit : Que le modèle ait été entraîné juste assez, parfaitement, ou qu'il ait été sur-entraîné, WARP pouvait toujours identifier la recette.
Le faux chemin était meilleur que le vrai : Étonnamment, utiliser le faux chemin (les modèles fusionnés) fonctionnait en réalité mieux que les vraies étapes d'entraînement (si on les avait possédées). C'est parce que le vrai chemin d'entraînement peut être « bruité » et désordonné, tandis que le faux chemin est lisse et propre, ce qui rend la recette plus facile à lire.

L'Essentiel

WARP prouve que même si vous ne possédez que le modèle d'IA fini et le modèle de base original, vous pouvez rétro-concevoir la « recette » des données utilisées pour l'entraîner. En créant un voyage fictif entre les deux et en mesurant la forme géométrique de ce voyage, vous pouvez découvrir les proportions cachées des données qui ont construit le modèle, apportant une transparence indispensable à la manière dont ces outils puissants sont fabriqués.

Résumé Technique : WARP – Analyse de l'espace des poids pour la récupération des portefeuilles de données d'entraînement

Énoncé du Problème

Les modèles de fondation sont de plus en plus rendus publics, pourtant les « recettes de données » spécifiques — particulièrement les poids de mélange de domaines déterminant comment diverses sources (ex: texte web, code, littérature scientifique) sont échantillonnées lors de l'entraînement — restent propriétaires et opaques. Cela crée une asymétrie d'accès significative : les chercheurs peuvent étudier les poids du modèle résultant mais manquent de visibilité sur la distribution d'entraînement qui l'a produit.

Les approches existantes pour inférer les données d'entraînement, telles que l'inférence d'appartenance (Membership Inference - MI), opèrent au niveau d'échantillons individuels pour détecter si un point de donnée spécifique était présent dans l'ensemble d'entraînement. Cependant, la MI ne peut caractériser la composition globale ou les proportions de domaines du corpus d'entraînement. De plus, les méthodes antérieures pour récupérer les trajectoires d'entraînement nécessitent souvent l'accès à des points de contrôle (checkpoints) intermédiaires, qui sont rarement disponibles pour les modèles publiés (où seuls le modèle de base et les poids finaux après ajustement sont typiquement publics). Le défi central adressé par ce travail est le problème inverse : étant donné uniquement le modèle de base publié ( $\theta_{base}$ ), le modèle ajusté ( $\theta_{ref}$ ), et un petit jeu de données de sondage, comment peut-on récupérer les proportions de mélange de domaines inconnues ( $\pi^*$ ) utilisées pour entraîner le modèle, sans accès à la véritable trajectoire d'entraînement ou aux points de contrôle intermédiaires ?

Méthodologie : Le Cadre WARP

Les auteurs proposent WARP (Weight-space Analysis for Recovering Training Data Portfolios), un cadre qui récupère les mélanges de domaines directement à partir des poids du modèle en exploitant la structure géométrique de l'espace des poids. La méthodologie se déroule en trois étapes :

1. Simulation de la Trajectoire d'Entraînement

Puisque le chemin réel de $\theta_{base}$ vers $\theta_{ref}$ est inobservé, WARP utilise des techniques de fusion de modèles (model merging) pour interpoler entre les deux extrémités. En appliquant des opérateurs de fusion (tels que l'interpolation linéaire/LERP, l'interpolation sphérique/SLERP, ou TIES) avec un calendrier de coefficients de mélange $\alpha_t \in (0,1)$ , le cadre génère une séquence de pseudo-checkpoints ( $\tilde{\theta}_t$ ). Ces pseudo-checkpoints servent de substituts à l'évolution inobservée des paramètres, reconstruisant efficacement une trajectoire d'entraînement « simulée ».

2. Distillation des Empreintes Géométriques

À partir de ces checkpoints simulés, WARP extrait un signal de niveau domaine en utilisant une métrique adaptée du Mimic Score. Pour chaque pseudo-checkpoint $\tilde{\theta}_t$ , la méthode définit un vecteur de direction $v_t = \theta_{ref} - \tilde{\theta}_t$ pointant vers le modèle cible.

Alignement d'Échantillons : Pour un petit jeu de données de sondage $D_{probe}$ (échantillonné à partir des mêmes domaines sources que les données d'entraînement), la méthode calcule le gradient négatif de chaque échantillon à $\tilde{\theta}_t$ .
Projection : Le Mimic Score ( $m_{i,t}$ ) est calculé comme la projection de ce gradient négatif sur le vecteur unitaire de $v_t$ . Ce score mesure la force avec laquelle un échantillon s'aligne avec la direction que le modèle a réellement prise lors de l'ajustement (fine-tuning).
Agrégation (Pooling) : Ces scores sont normalisés et moyennés au sein de chaque domaine $k$ à chaque étape $t$ , résultant en une matrice de caractéristiques $M \in \mathbb{R}^{K \times T}$ . Cette matrice représente l'« empreinte géométrique » des données d'entraînement, traçant la force d'alignement de chaque domaine avec la direction de l'ajustement au fur et à mesure que le modèle évolue.

3. Cartographie de la Géométrie vers le Mélange

La dernière étape traduit l'empreinte géométrique $M$ en un mélange de domaines prédit $\hat{\pi}$ . Les auteurs proposent deux variantes :

Lecture non supervisée (Unsupervised Readout) : Une approche sans paramètres qui moyenne les scores agrégés à travers les étapes temporelles et applique une fonction softmax pour estimer le mélange.
Projection supervisée : Un projecteur MLP entraîné sur des données synthétiques. Les auteurs génèrent des paires synthétiques en ajustant des modèles de base sur des mélanges aléatoires pour créer des étiquettes de vérité terrain, puis entraînent le MLP pour mapper la empreinte géométrique $M$ vers le mélange connu $\pi$ . Cela permet au modèle d'apprendre comment pondérer les différentes étapes de la trajectoire simulée de manière adaptative.

Contributions Clés

Combler l'asymétrie d'accès : WARP formalise la récupération du mélange de domaines d'un modèle ajusté en utilisant uniquement les artefacts disponibles pour la plupart des modèles publiés (poids de base et finaux), contournant ainsi le besoin de données propriétaires ou de checkpoints intermédiaires.
Trajectoires d'entraînement simulées : Le cadre introduit une utilisation novatrice de la fusion de modèles, non pas pour la fusion de capacités, mais pour simuler des chemins d'entraînement inobservés afin d'exposer une structure géométrique exploitable.
Performance Empirique Forte : Dans des expériences contrôlées, WARP surpasse les bases d'inférence d'appartenance au niveau de l'échantillon et même une variante « oracle » ayant accès aux véritables checkpoints intermédiaires.
Robustesse : La méthode reste précise à travers différents régimes d'entraînement, incluant les checkpoints arrêtés précocement, convergés ou sur-entraînés.

Résultats Expérimentaux

Le cadre a été évalué sur des modèles BERT et GPT-2 ajustés sur quatre jeux de données textuels (SNLI, AGNews, Yelp, Yahoo) avec des mélanges de vérité terrain connus.

Précision : WARP a atteint une erreur absolue moyenne (MAE) aussi basse que 0,046 sur BERT et 0,104 sur GPT-2 (en utilisant la variante MLP supervisée avec la fusion TIES).
Comparaison : Ces résultats ont nettement surpassé :
- Les bases de Guess Aléatoire et de Guess de Centroïde.
- L'Inférence d'Appartenance (MI) au niveau de l'échantillon, qui présentait des erreurs plus élevées (ex: 0,063 MAE sur BERT contre 0,046 pour WARP).
- Les Variantes Oracle : Étonnamment, WARP utilisant des trajectoires simulées (LERP/TIES) a souvent surpassé la variante utilisant les réels checkpoints intermédiaires. Les auteurs attribuent cela à l'« écart de lissage » (smoothness gap) : les chemins d'entraînement réels contiennent du bruit (mini-lots stochastiques, montée en puissance du taux d'apprentissage), tandis que les chemins interpolés fournissent une trajectoire plus propre et monotone qui rend l'empreinte géométrique plus facile à décoder.
Non supervisé vs Supervisé : La lecture softmax non supervisée, sans paramètres, était compétitive, surpassant toutes les bases et comblant la majeure partie de l'écart avec la variante supervisée, démontant que le signal géométrique est fort même sans projecteurs appris.

Signification et Revendications

L'article affirme que WARP démontre la faisabilité de l'ingénierie inverse de la distribution d'entraînement d'un modèle uniquement à partir de la géométrie de son espace des poids. En montrant que le « chemin » entre un modèle de base et un modèle ajusté encode une empreinte de distribution des données d'entraînement, ce travail offre un nouvel outil pour :

L'audit : Détecter la contamination des données ou vérifier la provenance de l'entraînement d'un modèle.
L'interprétabilité : Comprendre pourquoi les modèles présentent certains comportements spécifiques basés sur leurs mélanges d'entraînement.
La transparence : Répondre à l'opacité du développement des modèles de pointe où les poids sont partagés mais les recettes de données ne le sont pas.

Les auteurs soulignent que cette approche brise le paradigme traditionnel de l'optimisation de mélange de domaines uniquement vers l'avant, fournissant une méthode pratique pour inférer les « ingrédients » d'un modèle lorsqu'uniquement le « plat final » (les poids) est disponible.