Bayesian Influence Functions for Hessian-Free Data Attribution

Les auteurs proposent la fonction d'influence bayésienne locale (BIF), une méthode sans Hessien qui utilise des statistiques du paysage de perte estimées par échantillonnage MCMC pour attribuer efficacement l'influence des données dans des réseaux de neurones profonds à grande échelle.

L'essentiel

Imaginez que vous avez construit un géant très intelligent, un robot capable de répondre à toutes vos questions ou de reconnaître des images. Ce robot a appris en lisant des milliards de pages de livres ou en regardant des millions de photos.

Maintenant, posez-vous cette question : Si ce robot fait une erreur spécifique, quel est le "mauvais" livre ou la "mauvaise" photo qui l'a trompé ? Ou inversement, quelle est la "bonne" photo qui lui a appris à reconnaître un chien ?

C'est ce qu'on appelle l'attribution des données : faire le lien entre une décision du robot et les données qui l'ont entraîné.

Le Problème : La Recette de Cuisine Trop Complexe

Jusqu'à présent, les scientifiques utilisaient une méthode appelée "Fonctions d'Influence" (IF) pour répondre à cette question. Imaginez que le robot est un chef cuisinier et que sa recette est une équation mathématique géante.

Pour savoir quel ingrédient (donnée) a le plus d'impact sur le goût du plat, les anciens méthodes demandaient de calculer l'inverse de la recette entière.

• Le problème : Pour les robots modernes (les réseaux de neurones profonds), la recette est si complexe, avec des milliards de paramètres, que calculer cet "inverse" est impossible. C'est comme essayer de résoudre un puzzle de 10 milliards de pièces en regardant une seule pièce à la fois. De plus, la "recette" de ces robots modernes a des trous et des irrégularités (elle est "singulière"), ce qui rend le calcul mathématique classique totalement bloqué.

La Solution : La "Boussole Bayésienne" (BIF)

Les auteurs de cet article proposent une nouvelle méthode appelée Fonction d'Influence Bayésienne Locale (BIF). Au lieu de forcer le calcul de l'inverse de la recette (ce qui est impossible), ils changent de stratégie.

Voici l'analogie pour comprendre leur approche :

1. Au lieu de regarder un point fixe, on regarde une "zone de flou"

Les anciennes méthodes regardaient le robot comme une statue fixe, parfaitement figée.
La nouvelle méthode (BIF) dit : "Attends, le robot n'est pas une statue. Il a un peu de doute. Il a appris de manière un peu floue."
Au lieu de chercher un point unique, ils imaginent que le robot peut être dans des milliers de versions légèrement différentes autour de son état actuel. C'est comme si on regardait le robot à travers une caméra avec un léger flou artistique, plutôt qu'une photo nette.

2. La méthode du "Sondage par Échantillonnage" (SGLD)

Comment étudier ces milliers de versions sans calculer l'impossible ?
Les auteurs utilisent une technique appelée SGLD (Stochastic Gradient Langevin Dynamics).

• L'analogie : Imaginez que vous voulez savoir quel ingrédient rend un gâteau trop sucré. Au lieu de faire une analyse chimique parfaite du gâteau entier (impossible), vous faites mille petits tests.
• Vous prenez une petite cuillère de gâteau, vous goûtez, puis vous changez très légèrement la recette, vous goûtez à nouveau, et vous répétez cela des milliers de fois.
• En observant comment le goût change à travers toutes ces petites variations, vous pouvez déduire : "Ah, quand je change la vanille, le goût change beaucoup. Donc la vanille est très influente."

C'est exactement ce que fait la BIF : elle "goûte" le modèle des milliers de fois avec de légères variations pour voir quelles données (les ingrédients) font bouger le robot le plus.

Pourquoi c'est génial ? (Les Avantages)

1. Pas besoin de "casser" le robot : Contrairement aux anciennes méthodes qui exigeaient de calculer des mathématiques impossibles (l'inverse de la matrice Hessian), cette méthode fonctionne même si la recette du robot est bizarre, cassée ou très complexe. Elle est "sans Hessian" (Hessian-free).
2. Détails microscopiques : Avec les anciennes méthodes, il était très difficile de savoir quelle lettre exacte d'un mot a influencé la réponse. La nouvelle méthode permet de voir l'influence mot par mot (ou même lettre par lettre).
   • Exemple : Si le robot dit "Paris", la méthode peut dire : "C'est le mot 'France' dans le livre d'histoire qui a aidé, et c'est le mot 'tour' qui a été inutile."
3. Évolutivité : Cette méthode fonctionne aussi bien sur un petit robot que sur un géant de plusieurs milliards de paramètres. Elle ne s'effondre pas quand le robot grandit.

En Résumé

Imaginez que vous essayez de comprendre pourquoi un élève a réussi un examen.

• L'ancienne méthode disait : "Analysons mathématiquement chaque page de son cahier pour trouver l'erreur exacte." (C'était trop long et impossible pour les gros cahiers).
• La nouvelle méthode (BIF) dit : "Regardons comment l'élève réagirait s'il avait lu un tout petit peu moins de pages, ou s'il avait lu un livre différent. En simulant des milliers de scénarios légèrement différents, on peut dire avec certitude : 'Ah, c'est bien le chapitre sur les révolutions qui l'a aidé'."

Cette nouvelle approche permet enfin de comprendre comment les géants de l'intelligence artificielle apprennent, sans avoir à résoudre des équations mathématiques impossibles. C'est une étape cruciale pour rendre l'IA plus transparente et plus sûre.

Résumé technique

1. Problématique : Les limites des fonctions d'influence classiques

L'attribution des données d'entraînement (Training Data Attribution - TDA) vise à comprendre comment des points de données spécifiques façonnent le comportement des réseaux de neurones profonds (DNN). La méthode de référence historique est la fonction d'influence classique (IF), introduite par Cook (1977).

Cependant, l'application des IF classiques aux DNN modernes se heurte à deux obstacles majeurs :

1. Inversion du Hessien : La formule des IF classiques repose sur l'inverse de la matrice Hessienne ($H^{-1}$) de la fonction de perte. Or, les DNN possèdent des paysages de perte dégénérés (non convexes, avec de nombreux minima plats), rendant le Hessien singulier et non inversible.
2. Complexité computationnelle : Même avec des approximations, le calcul de l'inverse du Hessien ou de produits vecteur-Hessien est prohibitif pour des modèles contenant des milliards de paramètres. Les méthodes d'approximation actuelles (comme EK-FAC) nécessitent des phases d'ajustement coûteuses et introduisent des biais structurels (ex: décomposition Kronecker) qui limitent leur applicabilité à certaines architectures (ex: elles excluent souvent les couches d'attention).

2. Méthodologie : La Fonction d'Influence Bayésienne Locale (BIF)

Les auteurs proposent une alternative fondée sur la robustesse bayésienne, remplaçant l'inversion du Hessien par une estimation de la covariance sur le paysage de perte local.

A. Fondements Théoriques

Au lieu de considérer un estimateur ponctuel des paramètres $w^*$, la méthode adopte une perspective distributionnelle. L'influence bayésienne (BIF) d'un échantillon $z_i$ sur une observable $\phi$ est définie comme la dérivée de l'espérance de $\phi$ par rapport au poids de l'échantillon dans la distribution de perte.
Sous des conditions de régularité, cela se simplifie en une covariance négative :
$$\text{BIF}(z_i, \phi) = -\text{Cov}(\ell_i(w), \phi(w))$$
où la covariance est prise par rapport à la distribution a posteriori tempérée.

B. Localisation et Approximation

Pour les DNN, le calcul de la distribution a posteriori globale est impossible. Les auteurs introduisent une BIF locale :

1. Postérieur Localisé : Ils définissent un postérieur centré sur un checkpoint spécifique $w^*$ du modèle entraîné, en ajoutant un potentiel de localisation isotrope (un terme de régularisation $\ell_2$) :
   $$p_\gamma(w | D_{train}, w^*) \propto \exp\left(-\sum \ell_i(w) - \frac{\gamma}{2}\|w - w^*\|^2\right)$$
2. Estimation par SGLD : Pour estimer cette covariance sans calculer le Hessien, ils utilisent la Dynamique de Langevin à Gradient Stochastique (SGLD). L'algorithme génère des échantillons de paramètres en effectuant des mises à jour basées sur des gradients de mini-lots, explorant ainsi le paysage de perte local.
3. Calcul de la Covariance : La covariance est estimée empiriquement à partir des trajectoires des pertes et des observables collectées lors de l'échantillonnage SGLD.

C. Avantages Clés

• Sans Hessien (Hessian-Free) : Pas besoin d'inverser de matrice ni de calculer des dérivées secondes.
• Indépendance de l'architecture : La méthode fonctionne sur n'importe quel modèle différentiable (y compris les Transformers avec attention), contrairement aux méthodes basées sur EK-FAC.
• Géométrie d'ordre supérieur : Contrairement aux IF classiques (linéaires) ou aux approximations de Hessien (quadratiques), la BIF capture les interactions d'ordre supérieur via l'échantillonnage de la distribution complète.

3. Contributions Principales

1. Extension Théorique Locale : Une formulation théorique permettant d'appliquer les fonctions d'influence bayésiennes à des checkpoints individuels de réseaux de neurones, généralisant naturellement les IF classiques (qui sont retrouvées comme terme dominant de premier ordre dans le cas non singulier).
2. Estimateur Pratique Échelle : Un estimateur basé sur SGLD capable de calculer des influences par lots (batched) pour des modèles de plusieurs milliards de paramètres, sans phase d'ajustement préalable coûteuse.
3. Validation Empirique : Démonstration que la BIF locale atteint des performances de pointe (State-of-the-Art) dans la prédiction des résultats de ré-entraînement, tout en offrant une meilleure évolutivité computationnelle pour les tâches d'attribution fine (ex: par token).

4. Résultats Expérimentaux

Les auteurs ont évalué la méthode sur des modèles de vision (Inception-v1) et de langage (Pythia-2.8B, Pythia-14M) en comparaison avec l'état de l'art (EK-FAC, TRAK, GradSim).

• Qualitatif :

  • Vision : La BIF identifie des images d'entraînement similaires (sémantiquement et visuellement) aux images requêtes, montrant une validité convergente forte avec EK-FAC.
  • Langage (Par Token) : La BIF permet de calculer efficacement des influences par token. Elle détecte des relations sémantiques fines (traductions, synonymes, orthographes alternatives) entre les tokens d'entraînement et ceux de la requête, ce que les méthodes classiques peinent à faire de manière aussi granulaire sans coûts prohibitifs.

• Quantitatif (Expériences de Ré-entraînement) :

  • L'évaluation utilise le Linear Datamodelling Score (LDS), qui mesure la corrélation entre les scores d'influence prédits et les pertes réelles observées après ré-entraînement sur des sous-ensembles de données.
  • Petits modèles / Petits jeux de données : La BIF surpasse souvent EK-FAC, suggérant une meilleure sensibilité aux effets d'ordre supérieur dans des régimes à forte variance.
  • Grands modèles : La BIF maintient des performances comparables à EK-FAC tout en évitant les biais structurels.

• Analyse de l'Évolutivité (Scaling) :

  • Temps : Pour les très grands modèles (ex: Pythia-2.8B et au-delà), la BIF est deux ordres de grandeur plus rapide que EK-FAC. EK-FAC souffre d'un coût initial élevé (fitting du Hessien approximatif) qui ne s'amortit que si un nombre immense de requêtes est traité. La BIF, n'ayant pas de phase de "fit", est plus efficace pour des tâches ciblées ou des analyses fines.
  • Mémoire : La BIF utilise principalement de la mémoire pour stocker les traces de pertes, évitant le stockage massif des facteurs de Kronecker requis par EK-FAC.

5. Signification et Perspectives

Ce travail marque un changement de paradigme dans l'interprétabilité des modèles profonds :

• Dépassement des limites géométriques : En abandonnant l'hypothèse d'un Hessien inversible, la BIF rend l'attribution de données applicable aux modèles singuliers modernes (LLMs) sans approximations structurelles biaisées.
• Interprétabilité fine : La capacité à calculer des influences par token de manière scalable ouvre la voie à une compréhension plus profonde de la formation des représentations sémantiques dans les LLMs.
• Limites et Futur : La précision de la BIF dépend de la qualité de l'échantillonnage SGLD (choix des hyperparamètres comme la température inverse $\beta$ et la force de localisation $\gamma$). Les auteurs identifient l'amélioration des échantillonneurs et la compréhension de ces hyperparamètres comme des axes de recherche prioritaires.

En conclusion, la BIF locale offre une approche robuste, scalable et théoriquement fondée pour l'attribution de données, comblant le fossé entre la théorie bayésienne et la pratique des grands modèles de deep learning.