🤖 machine learning

On the importance of multiple training seeds for evaluating machine unlearning

Cet article soutient que l'évaluation des algorithmes de désapprentissage machine en utilisant une seule graine d'entraînement peut produire des résultats non représentatifs en raison de la sensibilité à l'initialisation de l'entraînement, et démontre qu'augmenter le nombre de graines de désapprentissage ne peut compenser cette limitation, nécessitant ainsi l'utilisation de plusieurs graines d'entraînement pour une évaluation empirique robuste.

Auteurs originaux : Jamie Lanyon, Axel Finke, Petros Andreou, Georgina Cosma

Publié 2026-06-08

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jamie Lanyon, Axel Finke, Petros Andreou, Georgina Cosma

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La vue d'ensemble : La recette « oubliée »

Imaginez que vous avez un grand chef (le Modèle d'Apprentissage Automatique) qui a appris à cuisiner un plat complexe en utilisant un immense livre de cuisine (Données d'Entraînement). Soudain, un client exige qu'un ingrédient spécifique (un Point de Donnée spécifique) soit retiré de la recette parce qu'il est périmé ou offensant.

L'objectif de l'Oubli Machine (Machine Unlearning) est de faire « oublier » cet ingrédient au chef pour qu'il ne puisse plus l'utiliser, sans avoir à jeter tout le livre de cuisine et à recommencer la cuisine depuis le début (ce qui est trop coûteux et lent).

Le problème ? La plupart des astuces d'« oubli » ne sont que des approximations. Elles tentent de modifier légèrement la recette pour retirer le mauvais ingrédient, mais nous ne sommes pas sûrs à 100 % si cela a réellement fonctionné ou si le chef a simplement eu de la chance. Pour en être sûr, les scientifiques testent ces astuces de nombreuses fois pour voir si elles fonctionnent de manière cohérente.

L'erreur : Ne jouer les dés qu'une seule fois

L'article soutient que les scientifiques ont commis une erreur critique dans la manière de tester ces astuces d'« oubli ».

L'ancienne méthode (Le test défectueux) :
Imaginez que vous vouliez tester si une nouvelle technique d'« oubli » fonctionne.

Vous cuisez un seul gâteau en utilisant un ensemble spécifique d'ingrédients aléatoires et une température de four spécifique (ceci est la Graine d'Entraînement / Training Seed).
Vous essayez ensuite de « décuire » ou de retirer une saveur spécifique de ce gâteau dix fois différentes en utilisant dix baguettes magiques aléatoires différentes (ce sont les Graines d'Oubli / Unlearning Seeds).
Vous faites la moyenne des résultats de ces dix baguettes et vous dites : « Regardez, la technique fonctionne ! »

La conclusion de l'article :
Les auteurs affirrent que c'est comme juger un ticket de loterie en achetant dix tickets le même jour avec les mêmes numéros chanceux. Si le tirage de ce jour-là était un coup de chance, vos dix tickets auront tous l'air excellents, mais ils ne vous disent pas si la loterie est réellement équitable.

L'article montre que le point de départ (le gâteau que vous avez cuit en premier) importe beaucoup plus que l'outil que vous utilisez pour retirer la saveur.

Si vous cuisez le gâteau avec une température de four légèrement différente ou un lot de farine différent (une Graine d'Entraînement différente), la technique d'« oubli » pourrait échouer complètement, même si elle a parfaitement fonctionné sur le premier gâteau.
En ne testant que sur un seul gâteau de départ, les chercheurs obtiennent un résultat « non représentatif ». Ils pourraient penser qu'une méthode est excellente alors qu'elle est simplement chanceuse.

L'analogie : Le jardinier et le sol

Considérez la Graine d'Entraînement comme le sol et la Graine d'Oubli comme l'outil du jardinier.

L'ancienne pratique : Un jardinier teste un nouvel outil « désherbant » sur une seule parcelle de terre spécifique. Il utilise l'outil 10 fois sur cette même parcelle. Si les mauvaises herbes sont retirées, il déclare l'outil couronné de succès.
La réalité : Et si cette parcelle de terre spécifique était exceptionnellement meuble ? L'outil pourrait échouer lamentablement sur une parcelle d'argile dure.
Le conseil de l'article : Pour savoir si l'outil fonctionne vraiment, vous devez le tester sur plusieurs parcelles de terre différentes (plusieurs Graines d'Entraînement). Même si vous n'utilisez l'outil qu'une seule fois sur chaque parcelle, vous obtenez une image bien plus fidèle de sa performance qu'en l'utilisant 100 fois sur une seule parcelle.

Pourquoi ne pouvons-nous pas simplement utiliser plus de « baguettes » ?

Vous pourriez demander : « Si je ne peux pas cuire 75 gâteaux différents, ne puis-je pas simplement utiliser 75 baguettes différentes sur le gâteau que j'ai déjà ? »

L'article répond non.

Les « ondulations » ou variations causées par l'utilisation de différentes baguettes (Graines d'Oubli) sont généralement minuscules.
Les « ondulations » causées par l'utilisation de différents gâteaux de départ (Graines d'Entraînement) sont énormes.
Si vous n'avez qu'un seul gâteau, aucun nombre de manipulations avec différentes baguettes ne corrigera le fait que le gâteau lui-même peut être un coup de chance. Vous avez besoin de plus de gâteaux (Graines d'Entraînement) pour obtenir une véritable réponse.

La solution : Comment dépenser votre temps intelligemment

Les auteurs fournissent un guide sur la manière de dépenser votre temps de calcul (budget) judicieusement :

Ne pas passer tout votre temps à exécuter la technique d'oubli 10 fois sur un seul modèle.
Dépenser plutôt votre temps à entraîner 10 modèles différents (avec des graines de départ différentes) et à exécuter la technique d'oubli une seule fois ou deux sur chacun d'eux.

Cette approche donne une réponse beaucoup plus honnête et fiable sur la question de savoir si le modèle d'apprentissage automatique a véritablement oublié les données.

Cela s'applique-t-il partout ?

L'article a testé cette idée dans trois mondes différents :

Classification d'images : Reconnaître des images (comme les chats vs les chiens).
Apprentissage fédéré de classement (Federated Learning-to-Rank) : Trier les résultats de recherche basés sur les clics des utilisateurs.
Grands Modèles de Langage (LLM) : Des chatbots qui écrivent du texte.

Dans ces trois cas, le résultat est le même : la graine de départ importe plus que la graine d'oubli. Que vous appreniez à un robot à voir, à classer des résultats de recherche ou à écrire une histoire, vous ne pouvez pas faire confiance aux résultats si vous ne testez que sur un seul modèle de départ.

Résumé

Pour savoir si un modèle d'apprentissage automatique a véritablement « oublié » quelque chose, vous ne pouvez pas simplement tester la technique d'oubli sur une version spécifique du modèle. Vous devez la tester sur de nombreuses versions différentes du modèle. Sinon, vous risquez de célébrer un succès qui n'était qu'un coup de chance.

Résumé technique : Sur l'importance de la multiplicité des graines d'entraînement pour l'évaluation de l'oubli machine

Énoncé du problème

L'oubli machine (machine unlearning) vise à supprimer l'influence de points de données spécifiques d'un modèle entraîné sans le coût prohibitif d'un réentraînement complet. Bien que l'oubli exact (réentraînement à partir de zéro) soit la « référence », il est souvent irréalisable. Par conséquent, les chercheurs s'appuient sur des algorithmes d'oubli approximatifs (par exemple, Random Labels, UNSIR, Bad Teacher, SSD, LFSSD). Comme ces algorithmes sont souvent difficiles à analyser mathématiquement, leurs performances doivent être évaluées empiriquement.

Une pratique courante dans la littérature consiste à évaluer ces méthodes d'oubli en exécutant l'algorithme d'oubli plusieurs fois de manière indépendante (en utilisant plusieurs graines d'oubli ou unlearning seeds) en partant d'un seul modèle pré-entraîné (utilisant une seule graine d'entraînement ou training seed). Cet article soutient que cette stratégie d'évaluation est erronée. Plus précisément, la performance de l'oubli peut être très sensible à la graine d'entraînement initiale. S'appuyer sur une seule graine d'entraînement peut produire des résultats non représentatifs, conduisant à des conclusions peu fiables sur l'efficacité ou la robustesse d'un algorithme. Ce problème est particulièrement aigu pour les méthodes d'oubli déterministes, qui produisent des résultats identiques lorsqu'elles sont démarrées à partir du même modèle, rendant ainsi redondantes les multiples graines d'oubli dans ces cas précis.

Méthodologie

Les auteurs proposent un cadre d'évaluation empirique rigoureux qui tient compte de la variabilité tant dans la phase d'entraînement que dans la phase d'oubli.

1. Procédure d'évaluation générique

L'article formalise une procédure d'évaluation (Algorithme 1) impliquant :

$I$ Graines d'entraînement : Entraîner $I$ modèles indépendants à partir de zéro en utilisant des graines aléatoires distinctes.
$J$ Graines d'oubli : Pour chaque modèle entraîné, exécuter l'algorithme d'oubli $J$ fois en utilisant des graines d'oubli distinctes.
Agrégation des métriques : Calculer la valeur moyenne des métriques d'oubli (par exemple, la précision de l'oubli, la précision de la rétention) sur l'ensemble des $I \times J$ modèles résultants.

2. Analyse de la décomposition de la variance

La contribution théorique centrale est une décomposition de la variance de la métrique d'oubli $Z$ :
$\text{Var}[Z] = \frac{1}{I} \left( \sigma^2_{\text{train}} + \frac{1}{J} \sigma^2_{\text{unlearn}} \right)$
Où :

$\sigma^2_{\text{train}}$ est la variance attribuable au choix de la graine d'entraînement.
$\sigma^2_{\text{unlearn}}$ est la variance attribuable au choix de la graine d'oubli.
$ICC$ (Coefficient de corrélation intraclasse) est défini comme $\sigma^2_{\text{train}} / \sigma^2_{\text{overall}}$ .

L'analyse démontre que si $\sigma^2_{\text{train}} > 0$ (c'est-à-dire si $ICC > 0$), augmenter le nombre de graines d'oubli ( $J$ ) ne permet pas d'estimer de manière cohérente la performance de l'oubli ; il est nécessaire d'augmenter le nombre de graines d'entraînement ( $I$ ). L'article dérive des stratégies d'allocation optimales pour les budgets de calcul afin de minimiser la variance ou d'atteindre une largeur d'intervalle de confiance cible, montrant qu'il est généralement plus efficace de prioriser $I$ plutôt que $J$ lorsque la variance d'entraînement est significative.

3. Corrections d'implémentation

Les auteurs ont identifié et corrigé un problème d'implémentation dans le code de référence pour SSD et LFSSD. L'implémentation originale utilisait une moyenne par lot avant le carré, ce qui biaisait les scores d'importance des paramètres et introduisait un non-déterminisme entre les graines d'oubli. Les auteurs ont introduit une version « déterministe » (det.) qui utilise le calcul d'importance non biaisé au niveau de l'échantillon, garantissant que ces méthodes produisent des résultats identiques pour une graine d'entraînement fixe.

Résultats expérimentaux

Les auteurs ont mené des expériences approfondies dans trois domaines : la classification d'images, l'apprentissage fédéré de classement en ligne (Federated Online Learning-to-Rank - FOLTR) et les grands modèles de langage (LLM).

Classification d'images (CIFAR-100, CIFAR-20)

Analyse de la variance : En utilisant 75 graines d'entraînement et 10 graines d'oubli, l'étude a constaté que pour la plupart des méthodes (y compris SSD, LFSSD, Bad Teacher et UNSIR), la variance attribuable aux graines d'entraînement ( $\sigma^2_{\text{train}}$ ) était nettement supérieure à la variance provenant des graines d'oubli ( $\sigma^2_{\text{unlearn}}$ ).
Méthodes déterministes : Pour les implémentations corrigées de SSD (det.) et LFSSD (det.), $\sigma^2_{\text{unlearn}}$ était effectivement nul, confirmant que de multiples graines d'oubli n'apportent aucune information supplémentaire si la graine d'entraînement est fixée.
Intervalles de confiance : Les calculs basés sur l'Équation 2 indiquent que l'obtention d'intervalles de confiance étroits (par exemple, largeur $W=1$ ) nécessite souvent des centaines ou des milliers de graines d'entraînement, tandis que l'augmentation des graines d'oubli offre des rendements décroissants.

Apprentissage de classement fédéré (FOLTR)

Les expériences sur le jeu de données MQ2007 avec 10 clients ont montré que l'évaluation avec une seule graine d'entraînement ( $I=1, J=10$ ) produisait des trajectoires qui n'étaient pas représentatives de la véritable variabilité inter-graines.
L'évaluation sur plusieurs graines d'entraînement ( $I=10, J=1$ ) a révélé une variance substantiellement plus grande dans la performance post-oubli, confirmant que le problème s'étend aux tâches de classement fédéré.

Grands modèles de langage (LLM)

En utilisant Llama-3.2-1B-Instruct sur le jeu de données TOFU, l'étude a observé une variance inter-graines substantielle tant pour l'utilité du modèle que pour la qualité de l'oubli pour des méthodes telles que GradAscent et Runlearning.
Les graines d'entraînement individuelles couvraient presque toute la gamme des résultats possibles, renforçant l'idée que les évaluations à graine unique sont insuffisantes pour caractériser le comportement d'oubli des LLM.

Contributions clés

Démonstration empirique de la sensibilité à la graine d'entraînement : L'article démontre numériquement que les évaluations à graine d'entraînement unique peuvent produire des résultats non représentatifs en classification d'images, un constat qui s'étend au FOLTR et aux LLM.
Justification théorique : Il fournit une analyse de décomposition de la variance prouvant que l'augmentation des graines d'oubli ne peut compenser l'absence de graines d'entraînement lorsque $\sigma^2_{\text{train}} > 0$ .
Orientation pratique : Les auteurs fournissent des formules et des tableaux (Tableaux 1 et 2) pour guider les chercheurs sur l'allocation des ressources de calcul entre les répétitions d'entraînement et d'oubli afin d'atteindre la confiance statistique souhaitée.
Corrections d'implémentation : L'article corrige le comportement non déterministe des implémentations de référence de SSD et LFSSD, en distinguant les versions originales (« orig. ») des versions déterministes mises à jour (« det. »).

Signification et affirmations

L'article affirme que la pratique courante consistant à utiliser une seule graine d'entraînement avec plusieurs graines d'oubli conduit à des évaluations peu fiables des méthodes d'oubli machine. Les auteurs soutiennent que :

Fiabilité : Une évaluation précise nécessite de faire la moyenne sur plusieurs graines d'entraînement, car la variabilité introduite par l'initialisation de l'entraînement domine souvent la variabilité introduite par le processus d'oubli.
Généralisabilité : Cette limitation n'est pas spécifique à la classification d'images mais est une propriété générale du cadre d'évaluation, observée dans l'apprentissage fédéré et les LLM.
Faisabilité : Malgré le coût élevé de l'entraînement, l'utilisation de plusieurs graines d'entraînement reste réalisable, même pour les LLM (par exemple, l'entraînement d'un modèle Llama-3.2-1B prend environ dix minutes), rendant l'évaluation rigoureuse proposée pratique.

Ce travail étend les découvertes précédentes (par exemple, Cadet et al., Triantafillou et al.) en augmentant l'échelle des graines d'entraînement utilisées (75 contre 10), en expliquant explicitement pourquoi de multiples graines d'oubli ne parviennent pas à compenser les graines d'entraînement uniques, et en fournissant des directives concrètes pour la conception expérimentale.