🤖 machine learning

How Faithful Is Trajectory-Based Data Attribution? Error Sources, Remedies, and Practical Guidelines

Cet article fournit la première analyse systématique des sources d'erreur dans l'attribution de données basée sur les trajectoires, identifiant le décalage de l'optimiseur comme un problème dominant et proposant AdamW-influence, un proxy d'erreur sous forme close, ainsi qu'un cadre de prévision à K étapes pour améliorer considérablement la précision de l'attribution et offrir des lignes directrices pratiques pour une sélection de données fiable.

Auteurs originaux : Junwei Deng, Pingbang Hu, Suliang Jin, Hao Lu, Jiachen T. Wang, Shichang Zhang, Jiaqi W. Ma

Publié 2026-05-20

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Junwei Deng, Pingbang Hu, Suliang Jin, Hao Lu, Jiachen T. Wang, Shichang Zhang, Jiaqi W. Ma

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous préparez un gâteau géant (l'entraînement d'un modèle d'IA moderne) en utilisant un immense bol d'ingrédients (les données d'entraînement). Parfois, vous voulez savoir : « Quel œuf précis ou quelle pincée de sucre a réellement rendu le gâteau meilleur ou pire ? » C'est ce qu'on appelle l'attribution de données.

Pendant longtemps, les scientifiques ont utilisé une méthode appelée « Attribution basée sur la trajectoire » pour y répondre. Ils tentaient de « rembobiner » le processus de cuisson étape par étape pour voir comment le retrait d'un ingrédient modifierait le résultat final.

Cependant, cet article soutient que la manière actuelle d'effectuer ce « rembobinage » est souvent défaillante, conduisant à des réponses erronées. Les auteurs agissent comme des mécaniciens qui ont ouvert le moteur pour identifier exactement où les engrenages grincent et comment les réparer.

Voici une explication simple de leurs découvertes et de leurs correctifs :

1. Le Problème : La « Mauvaise Carte » (Erreur au niveau de la configuration)

L'Analogie : Imaginez que vous essayez de vous déplacer dans une ville en utilisant une carte conçue pour un vélo, alors que vous conduisez en réalité un camion lourd doté d'un moteur turbo. Même si vous suivez la carte parfaitement, vous vous perdrez, car la carte ne comprend pas comment votre camion gère les virages ou l'accélération.

La Réalité : La plupart des modèles d'IA modernes sont entraînés à l'aide d'un « moteur » sophistiqué appelé AdamW. Cependant, les outils d'attribution de données populaires ont été construits en supposant que les modèles étaient entraînés avec un moteur plus ancien et plus simple appelé SGD.

Le Résultat : Les outils utilisaient la « carte vélo » pour le « camion turbo ». Cela a provoqué des erreurs massives dans la détermination des points de données utiles.
Le Correctif : Les auteurs ont créé un nouvel outil appelé AdamW-influence. C'est une carte spécifiquement conçue pour le camion turbo.
Le Résultat : En utilisant la bonne carte, ils ont amélioré la précision de leurs prédictions de 10 % à plus de 300 % sur différents types de modèles d'IA (des classificateurs d'images simples aux grands modèles de langage comme Llama).

2. Le Deuxième Problème : L'« Ébauche Grossière » (Erreur au niveau de l'algorithme)

L'Analogie : Même avec la bonne carte, si vous essayez de prédire l'avenir en traçant une ligne droite sur une route sinueuse, vous finirez par dévier de votre trajectoire. Plus la route que vous essayez de prédire est longue, plus l'erreur est grande.

La Réalité : Pour rendre les calculs rapides, ces outils utilisent une « approximation du premier ordre ». Pensez-y comme à l'approximation d'une route sinueuse par une ligne droite.

Les Coupables : Les auteurs ont identifié deux facteurs principaux qui rendent cette hypothèse de « ligne droite » moins précise :
1. La Pente (Taux d'apprentissage) : Si les étapes prises pendant l'entraînement sont énormes (taux d'apprentissage élevé), l'hypothèse de la ligne droite échoue rapidement.
2. La Distance (Longueur de la trajectoire) : Plus vous essayez de regarder loin dans le passé, plus la « ligne droite » s'éloigne de la trajectoire réelle sinueuse.
Le Correctif : Ils ont créé un « Proxy d'erreur ». C'est comme un voyant d'avertissement sur le tableau de bord qui vous dit : « Hé, l'hypothèse de la ligne droite devient peu fiable en ce moment », sans avoir besoin de refaire cuire tout le gâteau pour vérifier. Cela aide les utilisateurs à savoir quand faire confiance aux scores de données et quand être sceptiques.

3. Le Guide Pratique : Comment Choisir les Ingrédients (Sélection de données)

L'Analogie : Imaginez que vous êtes un chef choisissant des ingrédients pour une soupe pendant que vous la cuisinez.

Stratégie Hors Ligne (Offline) : Vous attendez que la soupe soit terminée, la goûtez, puis dites : « Si j'avais choisi ces carottes spécifiques au lieu de celles-là, elle aurait été meilleure. » (C'est lent et coûteux).
Stratégie En Ligne (Online) : Vous choisissez les ingrédients au fur et à mesure, en devinant comment ils affecteront la soupe dans les prochaines minutes.

Le Nouveau Code : Les auteurs ont unifié ces deux stratégies dans un cadre unique appelé « Regard en avant de K étapes ».

K représente la distance vers le futur que vous regardez.
L'Insight : Vous n'avez pas besoin de regarder jusqu'à la fin de la soupe (Hors Ligne). Regarder seulement quelques étapes en avant (En Ligne) est souvent tout aussi bon, à condition d'utiliser les bons outils.
Le Point Doux :
- Si vous faites de petites étapes (faible taux d'apprentissage), vous pouvez regarder plus loin dans le futur (K plus grand) sans commettre d'erreurs.
- Si vous faites de grosses étapes (taux d'apprentissage élevé), vous ne devriez regarder que sur une courte distance (K plus petit) pour éviter que les erreurs ne s'accumulent.

Résumé de la « Recette » pour les Praticiens

L'article fournit une recette claire pour toute personne utilisant ces outils :

Arrêtez d'utiliser les anciens outils « SGD » si vous entraînez avec AdamW (ce qui est le cas de presque tout le monde). Utilisez à la place le nouvel outil AdamW-influence.
Ne regardez pas trop loin dans le futur lors de la sélection de données en ligne. Si vous regardez trop loin dans le futur, l'hypothèse de la « ligne droite » devient trop bruyante.
Ajustez votre horizon (K) avec votre taux d'apprentissage. Si vous faites de petites étapes, vous pouvez regarder plus loin. Si vous faites de grosses étapes, gardez votre regard court.

En réparant la « carte » et en comprenant les limites de la « ligne droite », les auteurs ont transformé l'attribution de données d'une boîte noire en un outil fiable et exploitable pour améliorer les modèles d'IA.

Résumé Technique : Dans quelle mesure l'attribution de données basée sur la trajectoire est-elle fidèle ?

1. Énoncé du Problème

Les méthodes d'attribution de données basées sur la trajectoire (par exemple, SGD-influence, TracIn, SOURCE) estiment l'influence d'échantillons d'entraînement individuels sur les prédictions du modèle en déroulant la trajectoire d'entraînement. Bien qu'elles soient largement utilisées pour la sélection de données, l'évaluation de leur valeur et le diagnostic de modèles, ces méthodes manquent d'une analyse d'erreur complète. Les praticiens font face à des incertitudes fondamentales concernant l'ampleur et l'origine des erreurs d'attribution, notamment pour savoir si ces erreurs proviennent de décalages entre la formule d'attribution et la dynamique réelle d'entraînement (par exemple, un décalage d'optimiseur) ou d'approximations algorithmiques inhérentes (par exemple, des développements de Taylor d'ordre un). Cette incertitude entrave le déploiement fiable de ces méthodes dans les pipelines d'apprentissage profond modernes, qui utilisent principalement des optimiseurs comme AdamW plutôt que l'SGD supposé par les dérivations théoriques existantes.

2. Méthodologie et Taxonomie

Les auteurs proposent la première analyse d'erreur systématique de l'attribution basée sur la trajectoire, organisant l'erreur totale en trois catégories distinctes :

Erreur de niveau Configuration : Elle survient lorsque la formule d'attribution ne reflète pas fidèlement la procédure d'entraînement réelle. La source dominante identifiée est le décalage d'optimiseur, où les méthodes supposent une dynamique de Descente de Gradient Stochastique (SGD) alors que les modèles sont entraînés avec AdamW.
Erreur de niveau Algorithme : Elle provient d'approximations d'efficacité, spécifiquement le développement de Taylor d'ordre un utilisé pour linéariser la trajectoire des paramètres.
Erreur de niveau Système : Erreurs irréductibles dues à la précision flottante et au non-déterminisme des GPU, qui affectent même le réentraînement de vérité terrain.

Pour y remédier, l'article introduit :

AdamW-influence : Un nouvel algorithme qui déroule la dynamique réelle d'optimisation AdamW (incluant les états de momentum et la mise à l'échelle adaptative par coordonnée) plutôt que de supposer un SGD. Il injecte des perturbations au niveau du gradient pour gérer correctement la non-linéarité des mises à jour du second moment d'AdamW.
Proxy d'Erreur : Une expression sous forme close pour estimer l'erreur de niveau algorithme par échantillon (erreur d'estimation de mise à jour) le long de la trajectoire originale sans réentraînement.
Cadre de Regard en Avant à K Étapes : Un cadre théorique unifié pour la sélection de données qui traite les stratégies hors ligne et en ligne comme des cas limites d'un paramètre d'horizon $K$ , permettant l'analyse du compromis entre l'information de regard en avant et l'erreur d'approximation accumulée.

3. Contributions Clés

A. Correction de l'Erreur de Niveau Configuration (Décalage d'Optimiseur)

Les auteurs démontrent que les méthodes existantes dérivent l'attribution sous l'hypothèse d'un SGD, créant des déviations systématiques lorsqu'elles sont appliquées à des modèles entraînés avec AdamW. Ils proposent AdamW-influence, qui prend correctement en compte le momentum et la mise à l'échelle adaptative d'AdamW.

Résultat : Sur quatre configurations (MLP, CNN, GPT-2 et Llama 3.2-1B), AdamW-influence améliore la corrélation de Spearman entre l'influence estimée et l'influence de vérité terrain (TSLOO) de 10 % à plus de 300 % par rapport à la base de référence SGD.
Implication : L'alignement de l'optimiseur est une condition préalable nécessaire pour isoler et analyser les erreurs de niveau algorithme restantes.

B. Dissection de l'Erreur de Niveau Algorithme

Une fois l'erreur de niveau configuration corrigée, les auteurs isolent l'erreur provenant du développement de Taylor d'ordre un. Ils identifient deux facteurs directeurs :

Taux d'Apprentissage ( $\eta$ ) : Des taux d'apprentissage plus élevés augmentent l'erreur de linéarisation par étape.
Longueur de la Trajectoire ( $T - t^*$ ) : Des trajectoires restantes plus longues permettent aux erreurs de s'accumuler.

Résultat : L'ampleur de l'erreur est inversement proportionnelle au taux d'apprentissage et directement proportionnelle à la longueur de la trajectoire restante.
Contribution : Les auteurs dérivent un proxy d'erreur sous forme close (Équation 4) qui estime les normes d'erreur par échantillon en utilisant des quantités déjà maintenues par l'optimiseur. Ce proxy corrèle fortement ( $\rho \in [0.83, 0.89]$ ) avec les normes d'erreur de vérité terrain obtenues par réentraînement leave-one-out, permettant des décisions conscientes de l'erreur sans réentraînement.

C. Directives Pratiques pour la Sélection de Données

L'article unifie les stratégies de sélection de données hors ligne et en ligne sous un cadre de regard en avant à K étapes, où $K$ représente le nombre d'étapes dans le futur que la décision de sélection prend en compte.

Constats :
- Alignement de l'Optimiseur : La sélection en ligne utilisant AdamW-influence surpasse systématiquement la sélection en ligne SGD-influence, transférant les gains de fidélité aux performances de sélection en aval.
- Horizon vs Erreur : La sélection hors ligne correspond à l'horizon le plus long ( $K = T-t$ ) et accumule l'erreur d'approximation la plus importante. La sélection en ligne avec un horizon court à modéré correspond souvent ou dépasse les performances hors ligne.
- Réglage de $K$ : L'horizon optimal $K$ augmente à mesure que le taux d'apprentissage diminue. Des taux d'apprentissage plus faibles permettent à la somme à $K$ étapes de s'étendre plus loin avant que l'erreur d'approximation ne domine.
Directive : Les praticiens devraient régler $K$ conjointement avec le taux d'apprentissage plutôt que de le fixer, et la sélection en ligne à horizon court avec des optimiseurs alignés constitue une recette fiable et actionnable.

4. Résultats Expérimentaux

Les auteurs ont évalué leurs méthodes sur :

Modèles : MLP, CNN, GPT-2 et Llama 3.2-1B.
Ensembles de données : MNIST, WikiText-2, Alpaca et Tulu3.
Métriques : Corrélation de rang de Spearman par rapport à la vérité terrain TSLOO (pour la fidélité) et taux d'erreur de validation/test ou perplexité (pour la qualité de la sélection de données).

Résultats Clés :

Fidélité : AdamW-influence surpasse significativement SGD-influence sur tous les taux d'apprentissage et architectures. Par exemple, sur MNIST+CNN avec $lr=10^{-3}$ , la corrélation est passée de 0,015 à 0,090 (+500 %).
Qualité de Sélection : Dans les tâches de sélection de données, AdamW-influence en ligne a systématiquement atteint des taux d'erreur plus faibles (sur MNIST) et une perplexité plus faible (sur Llama 3.2) par rapport à la fois à SGD-influence en ligne et à AdamW-influence hors ligne.
Proxy d'Erreur : Le proxy dérivé a suivi avec succès les normes d'erreur de vérité terrain avec une forte corrélation de Spearman ( $\rho \approx 0.85$ ), validant son utilisation comme signal pratique pour des décisions conscientes de la trajectoire.

5. Signification et Revendications

L'article revendique fournir la première analyse d'erreur systématique de l'attribution de données basée sur la trajectoire, faisant passer le domaine du traitement de ces méthodes comme des « fonctions de scoring boîte noire » à celui d'« estimateurs diagnostiquables ».

Impact Théorique : En catégorisant les erreurs en niveaux configuration, algorithme et système, le travail clarifie les sources d'infidélité dans les contextes d'apprentissage profond modernes.
Impact Pratique : L'introduction d'AdamW-influence et du cadre à K étapes offre des remèdes concrets et actionnables pour les praticiens. Il démontre que l'alignement de la formule d'attribution avec l'optimiseur réel (AdamW) et le réglage minutieux de l'horizon de regard en avant peuvent améliorer considérablement la fiabilité de la sélection de données et du diagnostic de modèles.
Évolutivité : Les méthodes proposées maintiennent une complexité $O(T)$ (avec une surcharge constante d'environ 3x par rapport à SGD-influence due au stockage de l'état augmenté), les rendant réalisables pour des modèles à grande échelle lorsqu'elles sont combinées à des techniques de masquage aléatoire.

Les auteurs reconnaissent les limites, notant que leur analyse est restreinte aux méthodes basées sur le développement de Taylor d'ordre un et aux modèles jusqu'à Llama 3.2-1B en raison des contraintes de calcul, et que la généralisation à d'autres régimes (par exemple, l'apprentissage par renforcement, les modèles de diffusion) reste une direction ouverte.