💬 NLP

Position: The Term "Machine Unlearning" Is Overused in LLMs

Ce document de position soutient que le terme « machine unlearning » est actuellement surutilisé dans la recherche sur les LLM pour décrire des tâches diverses telles que le refus ou la suppression, et appelle à réserver ce terme strictement à la suppression définie par le jeu de données avec des garanties d'équivalence de réentraînement afin d'éviter des évaluations trompeuses et d'assurer une terminologie appropriée pour différents objectifs.

Auteurs originaux : Sangyeon Yoon, Yeachan Jun, Albert No

Publié 2026-06-29

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Sangyeon Yoon, Yeachan Jun, Albert No

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

L'idée principale : L'« oubli » est mal utilisé

Imaginez que vous avez un étudiant qui a étudié une bibliothèque massive de livres pour devenir un expert. Maintenant, imaginez que l'un de ces livres a été volé, ou que l'auteur exige qu'il soit retiré de l'esprit de l'étudiant.

L'article soutient que les chercheurs utilisent le terme « Machine Unlearning » (ou désapprentissage machine) de manière trop imprécise. Ils appellent beaucoup de choses différentes « unlearning », mais ils font en réalité des tâches très différentes.

Les auteurs affirment que nous devons cesser de faire cette confusion. Nous devons réserver le terme strict de « Machine Unlearning » pour un travail spécifique et très difficile, et utiliser des noms différents pour les autres tâches, plus faciles.

1. La définition stricte : « La Gomme »

Ce que cela signifie réellement :
Le véritable « Machine Unlearning » est comme utiliser une gomme magique sur une peinture. Vous voulez retirer un ensemble spécifique de coups de pinceau (l'ensemble à oublier) si parfaitement que la peinture semble exactement la même que si l'artiste n'avait jamais peint ces coups de pinceau à l'origine.

Le standard d'excellence : Pour prouver que vous avez bien fait votre travail, vous devez comparer votre peinture « effacée » à une nouvelle peinture réalisée par un artiste qui a commencé de zéro avec les livres restants, sans jamais avoir vu le livre volé.
L'objectif : Les deux peintures doivent être indiscernables. Si l'étudiant est toujours capable de résoudre un problème de mathématiques qu'il a appris uniquement grâce au livre volé, alors il n'a pas vraiment « oublié », même s'il refuse de répondre à la question spécifique à son sujet.

2. La confusion : Ce que les gens font réellement

Actuellement, de nombreux chercheurs disent qu'ils font de l'« unlearning » alors qu'ils font en réalité l'une de ces autres choses :

Le « Refus » (Le chien de garde) : Le modèle est entraîné pour dire « Je ne sais pas » ou « Je ne peux pas répondre à cela » lorsqu'on l'interroge sur le sujet interdit.
- Analogie : C'est comme un chien de garde qui aboie et vous empêche d'entrer dans la pièce. Le chien sait toujours que la pièce existe, mais il ne vous laisse pas entrer. Le chien n'a pas oublié la pièce ; il a juste été entraîné pour vous bloquer.
La « Suppression » (Le bouton Muet) : Le modèle est ajusté pour qu'il soit très peu probable qu'il prononce les mots spécifiques associés au sujet interdit.
- Analogie : C'est comme mettre un bouton de sourdine sur un mot spécifique. Le mot est toujours dans le dictionnaire, mais l'orateur est entraîné à l'ignorer.
L'« Édition » (La Réécriture) : On apprend au modèle un nouveau fait pour remplacer l'ancien.
- Analogie : Au lieu d'effacer le souvenir de « Paris est la capitale de la France », vous le remplacez par « Londres est la capitale ». L'ancien souvenir peut encore être là, simplement enfoui sous un nouveau.

Le Problème : Les chercheurs prétendent souvent avoir « oublié » quelque chose parce que le modèle ne répond plus aux questions (le Chien de Garde a aboyé). Mais les auteurs disent que c'est un tour de passe-passe. Le modèle pourrait encore connaître l'information au fond de lui ; il fait simplement semblant de ne pas savoir.

3. Le danger caché : Les « Capacités Dérivées »

C'est la partie la plus critique de l'article. Parfois, apprendre une chose spécifique vous donne un superpouvoir qui va au-delà de ce simple fait.

L'analogie : Imaginez qu'un étudiant apprenne à résoudre un type spécifique de problème mathématique en utilisant un manuel volé. Même si vous lui faites « oublier » les réponses spécifiques du livre, il se peut qu'il ait tout de même appris la logique ou la capacité de raisonnement en lisant ce livre.
Le risque : Si vous vérifiez simplement s'il peut réciter les réponses (Échec de l'Output), il pourrait échouer au test. Mais si vous lui posez un nouveau problème de mathématiques utilisant la même logique, il pourrait encore le résoudre parfaitement.
Le point de l'article : Le véritable « unlearning » signifie supprimer ce superpouvoir aussi. Si le livre volé lui a donné une compétence, et que vous lui faites « oublier », il devrait perdre cette compétence, même si cela le rend légèrement moins bon en mathématiques de manière générale. S'il conserve la compétence, il n'a pas vraiment oublié l'influence de ce livre.

4. Pourquoi les tests actuels échouent

L'article souligne que la plupart des tests actuels sont comme des QCM (Questions à Choix Multiples).

Test actuel : « Le modèle peut-il répondre à la Question A ? » Si le modèle dit « Je ne sais pas », le test conclut : « Super ! Tu as oublié ! »
La faille : Cela teste seulement si le modèle cache la réponse. Cela ne teste pas si le modèle a supprimé la connaissance.
La solution : Nous devons comparer le modèle « désappris » à un modèle « réentraîné » (celui qui n'a jamais vu les mauvaises données). Si le modèle désappris est toujours meilleur que le modèle réentraîné pour une tâche spécifique, cela signifie que les « mauvaises données » l'influencent encore.

5. La solution des auteurs : Un nouveau code de conduite

Les auteurs proposent trois changements principaux pour corriger ce désordre :

Cesser d'utiliser « Unlearning » comme un terme générique.
- Si vous faites simplement en sorte que le modèle refuse de répondre, appelez cela du « Refus » ou de la « Suppression ».
- Si vous supprimez réellement l'influence de l'entraînement pour correspondre à un modèle réentraîné, alors appelez cela du « Machine Unlearning ».
Utiliser un « Modèle de Référence » pour la comparaison.
- Vous ne pouvez pas simplement dire « Le modèle a oublié ». Vous devez dire : « Le modèle se comporte exactement comme un modèle qui a été entraîné sans ces données ».
- (Les auteurs admettent que réentraîner de gros modèles est coûteux, mais ils disent que nous devons utiliser le meilleur proxy possible ou admettre que nous ne faisons pas du vrai unlearning).
Tester les « Superpouvoirs » (Capacités Dérivées).
- Ne posez pas seulement au modèle les questions sur lesquelles il a été entraîné. Posez-lui de nouvelles questions qui nécessitent les compétences qu'il aurait pu apprendre des mauvaises données. S'il est toujours capable de réaliser ces nouvelles tâches, l'unlearning a échoué.

Résumé

L'article est un plaidoyer pour l'honnêteté scientifique.

Ne pas appeler un « Refus » (dire « Je ne sais pas ») un « Unlearning » (effacer la mémoire).
Ne pas penser que parce qu'un modèle ne répond pas à une question, il a oublié la connaissance. Il joue peut-être simplement à cache-cache.
Comparer vos résultats à un modèle qui n'a jamais vu les mauvaises données dès le départ.
Vérifier si le modèle possède toujours les « superpouvoirs » qu'il a obtenus grâce aux mauvaises données.

Si nous ne corrigeons pas cette terminologie, nous pourrions croire que nous sommes en sécurité et conformes, alors que nous ne faisons que cacher la vérité.

Résumé technique : « Le terme "Machine Unlearning" est surutilisé dans les LLM »

Énoncé du problème
Les grands modèles de langage (LLM) font face à une pression réglementaire et commerciale croissante pour « oublier » des données d'entraînement spécifiques, sous l'impulsion des droits à la vie privée (ex. : le droit à l'oubli), des litiges relatifs au droit d'auteur et des politiques de sécurité. Cependant, le terme « machine unlearning » (désapprentissage automatique) est devenu terminologiquement surchargé dans la recherche sur les LLM. Actuellement, il est appliqué largement à des objectifs divers incluant le refus de comportements nuisibles, la suppression d'entités, la suppression de connaissances et l'obscurcissement de sorties.

Le problème central identifié est que ces objectifs distincts sont souvent évalués à l'aide des mêmes métriques et de référence (benchmarks), bien qu'ils poursuivent des buts fondamentalement différents. De nombreuses méthodes étiquetées comme « unlearning » visent simplement à supprimer certaines sorties ou à refuser certaines requêtes (contrôle de comportement piloté par une politique) plutôt qu'à supprimer l'influence de l'entraînement d'un sous-ensemble spécifique de données. Cette confusion conduit à des évaluations qui récompensent la non-divulgation superficielle (ex. : de faibles scores ROUGE ou l'incapacité à répondre à des questions spécifiques) tout en échouant à vérifier si le modèle est véritablement indiscernable d'un modèle réentraîné sans ces données. Par conséquent, les capacités dérivées — compétences généralisables ou schémas de raisonnement appris à partir de l'ensemble à oublier — peuvent persister même lorsque la mémorisation directe est supprimée.

Méthodologie et cadre
Ce papier de position ne propose pas de nouvel algorithme ou de nouveau cadre expérimental. Il propose plutôt un cadre conceptuel et une taxonomie pour clarifier le domaine :

Définition formelle du Machine Unlearning : Les auteurs définissent le véritable « machine unlearning » strictement comme un problème de suppression définie par un jeu de données. Étant donné un ensemble d'entraînement $D$ et un ensemble à oublier $F \subset D$ , l'objectif est de produire un modèle mis à jour $\Theta'$ qui est (approximativement) indiscernable d'un modèle contrefactuel $\Theta_R$ réentraîné à partir de $D \setminus F$ . Le succès est mesuré par la divergence entre les distributions de $\Theta'$ et $\Theta_R$ (ex. : via l'indiscernabilité $(\epsilon, \delta)$ ou d'autres mesures de divergence), et non simplement par l'échec de sortie sur des invites spécifiques.
Taxonomie de l'« Unlearning » par intention : Le papier catégorise d'autres usages courants du terme dans la littérature sur les LLM en catégories distinctes basées sur leurs garanties réelles :
- Suppression de la probabilité de sortie : Méthodes (ex. : Gradient Ascent, NPO) qui réduisent la probabilité de certains jetons ou réponses sans garantir l'équivalence de réentraînement.
- Obscurcissement de la représentation interne : Techniques qui induisent une entropie élevée ou une faible confiance sur des entrées ciblées, déformant les activations internes plutôt que de supprimer l'influence des données.
- Édition de connaissances (Knowledge Editing) : Approches qui réécrivent des faits ou des associations spécifiques (ex. : via un fine-tuning contrefactuel) pour rediriger les sorties, plutôt que de supprimer l'influence de l'entraînement des données originales.
- Refus comportemental : Stratégies qui entraînent les modèles à s'abstenir ou à dire « je ne sais pas » à des requêtes spécifiques, fonctionnant comme un alignement de politique plutôt que comme une suppression de données.
- Interventions au moment de l'inférence : Filtres externes ou contraintes de décodage qui empêchent la divulgation sans modifier les poids du modèle.
Capacités dérivées : Le papier introduit le concept de « capacités dérivées » — comportements ou compétences (ex. : raisonnement mathématique) qui se généralisent au-delà des exemples spécifiques de l'ensemble à oublier. Il soutient que si l'entraînement sur $F$ contribue à une telle capacité, un modèle qui pratique un véritable unlearning de $F$ doit perdre cette capacité, tout comme un modèle réentraîné sur $D \setminus F$ le ferait.

Contributions clés

Clarification terminologique : Le papier soutient qu'il faut réserver le terme « machine unlearning » exclusivement à la garantie d'indiscernabilité de réentraînement. Il pose que les tâches d'« oubli » liées à la sécurité ou aux politiques devraient être étiquetées et évaluées comme des problèmes distincts (ex. : suppression, alignement ou édition).
Critique des benchmarks actuels : Les auteurs analysent les principaux benchmarks (TOFU, MUSE, RWKU, WMDP) et démontrent comment beaucoup se sont éloignés des références de réentraînement pour se concentrer sur des métriques d'échec de sortie. Ils montrent que des métriques comme ROUGE ou la précision QA sur les invites à oublier mesurent souvent le contrôle de la sortie plutôt que le retrait de l'influence de l'entraînement, permettant à des méthodes de paraître efficaces tout en conservant une connaissance latente.
Recommandations de protocole d'évaluation : Le papier propose un standard d'évaluation rigoureux pour les affirmations de machine unlearning :
- Évaluation basée sur une référence : Les affirmations doivent être ancrées à un modèle de référence explicite (idéalement un modèle réentraîné sur $D \setminus F$ ou un proxy clairement énoncé).
- Sondes de capacités dérivées : Les évaluations doivent inclure des tests pour les capacités transférables (ex. : tâches de raisonnement hors distribution) et des tests de récupération basés sur l'intervention (ex. : vérifier si la connaissance « oubliée » peut être récupérée via un fine-tuning bénin) pour s'assurer que l'influence de l'entraînement est réellement supprimée.

Résultats et preuves
En tant que papier de position, ce travail ne présente pas de nouveaux résultats expérimentaux. Au lieu de cela, il synthétise les preuves issues de la littérature existante pour soutenir ses arguments :

Il cite des travaux antérieurs montrant que des méthodes paraissant efficaces sous des protocoles de prompting fixes échouent souvent dans des conditions adverses (paraphrase, jailbreaks) ou lors de post-traitements bénins (quantification, fine-tuning), indiquant que la connaissance a été supprimée plutôt qu'oubliée.
Il souligne des cas où les méthodes d'« unlearning » échouent à supprimer les comportements induits dans des scénarios d'empoisonnement de données, démontrant davantage l'écart entre la suppression de sortie et le retrait de l'influence.
Il démontre que les benchmarks actuels manquent souvent de la base de référence de réentraînement nécessaire pour distinguer un modèle qui a véritablement oublié des données d'un modèle qui a simplement appris à refuser des requêtes spécifiques.

Signification et revendications
Le papier affirme que la confusion terminologique actuelle n'est pas seulement cosmétique, mais qu'elle a des conséquences pratiques et scientifiques importantes. En confondant le contrôle de comportement piloté par une politique avec la suppression définie par un jeu de données, le domaine risque de :

Induire des benchmarks trompeurs : Récompenser la non-divulgation superficielle tout en ignorant la persistance de l'influence de l'entraînement et des capacités dérivées.
Rendre les comparaisons incompatibles : Rendre impossible la comparaison de méthodes qui revendiquent des garanties différentes sous une même étiquette.
Risques de conformité : Ne pas répondre aux exigences strictes de la suppression réglementaire (qui nécessite souvent le retrait de l'influence, et non seulement la suppression de la sortie).

Les auteurs concluent que la résolution de cette confusion nécessite une terminologie plus stricte liée à des garanties et des modèles de référence explicites. Ils préconisent des évaluations qui correspondent à l'objectif revendiqué : si l'objectif est le machine unlearning, l'évaluation doit démontrer l'indiscernabilité d'un modèle réentraîné, incluant la perte de toute capacité dérivée attribuable à l'ensemble à oublier. Si l'objectif est la conformité de politique ou la suppression de sortie, ceux-ci doivent être formulés et évalués comme des objectifs distincts.