💻 computer science

Consistency-Aware Editing for Entity-level Unlearning in Language Models

Cet article introduit la Consistency-Aware Editing (CAE), un nouveau cadre qui adapte les techniques d'édition de modèles pour un désapprentissage au niveau des entités efficace et robuste en optimisant conjointement les mises à jour de bas rang à travers diverses invites liées aux entités afin de garantir une suppression complète des connaissances tout en préservant les capacités du modèle.

Auteurs originaux : Xiaoqi Han, Víctor Gutiérrez-Basulto, Ru Li, Xiaoli Li, Jiye Liang, Jeff Z. Pan

Publié 2026-01-15

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Xiaoqi Han, Víctor Gutiérrez-Basulto, Ru Li, Xiaoli Li, Jiye Liang, Jeff Z. Pan

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Gros Problème : Le Dilemme de l'« Amnésie Numérique »

Imaginez un Grand Modèle de Langage (LLM) comme une super-encyclopédie qui a lu presque tout ce qui se trouve sur Internet. Parfois, cette encyclopédie mémorise accidentellement des choses qu'elle ne devrait pas, comme l'adresse personnelle d'une célébrité, des chapitres de livres protégés par le droit d'auteur ou des stéréotypes nuisibles.

Nous voulons apprendre à l'encyclopédie à oublier ces choses spécifiques. Cependant, il y a un piès :

Nous ne voulons pas brûler toute la bibliothèque. Nous voulons seulement supprimer les pages spécifiques concernant « Jackie Chan », et non les pages sur les « Arts Martiaux » ou les « Films » en général.
Nous ne pouvons pas simplement effacer une phrase. Si vous demandez : « Où est né Jackie Chan ? », le modèle doit dire : « Je ne sais pas. » Mais si vous demandez : « Qui est l'acteur de Rush Hour ? », il devrait aussi dire : « Je ne sais pas. »

Le Défi : Les méthodes existantes sont comme essayer d'effacer un nom sur une liste en barrant une ligne spécifique. Si quelqu'un pose la question d'une manière légèrement différente (une « paraphrase »), le modèle pourrait encore se souvenir de la réponse car il n'a oublié que la phrase spécifique, pas le concept.

La Solution : CAE (Consistency-Aware Editing)

Les auteurs proposent une nouvelle méthode appelée CAE. Voyez cela comme un Gommeur Maître qui fonctionne différemment des anciens.

1. L'Ancienne Méthode : Le « Gommeur Aléatoire »

Imaginez que vous avez un tableau blanc avec 100 façons différentes de poser des questions sur « Jackie Chan » (ex : « Où est-il né ? », « Quelle est sa date de naissance ? », « Qui est le gars de Rush Hour ? »).

L'Ancienne Méthode : Vous prenez une gomme séparée pour chaque question. Vous effacez la réponse à la Question n°1, puis la Question n°2, puis la Question n°3.
Le Problème : Comme vous effacez les unes après les autres sans plan, vous pourriez accidentellement effacer la réponse à la Question n°1 en essayant de corriger la Question n°2. Ou bien, vous pourriez laisser la Question n°5 intacte parce que votre gomme a glissé. Le résultat est désordonné : le modèle oublie certaines choses mais en retient d'autres, ou il s'embrouille et commence à halluciner.

2. La Nouvelle Méthode (CAE) : L'« Équipe Synchronisée »

Le CAE change la stratégie. Au lieu d'effacer un par un, il traite les 100 questions comme une seule et même équipe.

La Stratégie : Il rassemble toutes les différentes manières de poser des questions sur « Jackie Chan ».
La Règle de la « Cohérence » : Il force toutes les gommes à bouger dans la même direction exacte. C'est comme une équipe de natation synchronisée ; chaque nageur bouge son bras avec exactement le même angle et la même vitesse.
Le Résultat : Au lieu de faire 100 petites griffures désordonnées, l'équipe effectue un seul grand coup de propre, un mouvement unifié qui supprime l'intégralité du concept de Jackie Chan du cerveau du modèle, peu importe la façon dont la question est formulée.

Comment ça marche (La Mécanique « Sous le Capot »)

L'article approfondit la manière dont le modèle « réfléchit » pour trouver le meilleur endroit où appliquer cette gomme.

Trouver la Mémoire : Les chercheurs ont découvert que le modèle stocke les faits sur des personnes spécifiques (comme Jackie Chan) dans une partie spécifique de son cerveau appelée les couches MLP (considérez cela comme les classeurs de l'encyclopédie).
La Sélection de la « Clé » : Ils ne saisissent pas des questions au hasard. Ils utilisent un outil mathématique (SVD) pour choisir les 70 questions les plus importantes qui représentent le mieux le concept de « Jackie Chan ». C'est comme choisir les 70 photos les plus représentatives d'une personne pour s'assurer de la reconnaître sous n'importe quel angle.
La Mise à Jour « Low-Rank » : Au lieu de réécrire toute l'encyclopédie (ce qui prend un temps infini et coûte très cher), ils effectuent un ajustement minuscule et précis sur le classeur. C'est comme changer une seule étiquette sur une étagère plutôt que de reconstruire tout l'entrepôt.

Ce qu'ils ont trouvé (Les Résultats)

L'équipe a testé cela sur deux benchmarks majeurs (RWKU et ToFU) et l'a comparé à d'autres méthodes.

Meilleur Oubli : Le CAE est bien meilleur pour faire dire « Je ne sais pas » au modèle face à n'importe quelle question sur l'entité cible, même les questions piégeuses où le nom n'est pas mentionné directement.
Moins de Dommages Collatéraux : Comme les « gommes » bougent en synchronisation, elles n'effacent pas accidentellement les connaissances sur des sujets connexes. Par exemple, le modèle sait toujours parler de films ou d'acteurs ; il ne connaît juste plus les détails spécifiques sur Jackie Chan.
Efficacité : C'est incroyablement rapide. Alors que d'autres méthodes pourraient nécessiter de réentraîner tout le modèle (comme étudier pour un tout nouveau diplôme), le CAE effectue une édition ciblée et rapide. Il peut le faire avec seulement quelques dizaines d'exemples.
Stabilité : L'article montre que même si vous mélangez l'ordre des questions ou utilisez différents modèles, le CAE fonctionne de manière cohérente. Il est robuste.

L'Essentiel à Retenir

L'article soutient que pour véritablement « désapprendre » une personne ou une entité spécifique d'une IA, on ne peut pas simplement colmater des brèches individuelles. Il faut une approche coordonnée et cohérente qui comprenne comment l'IA stocke cette information.

Le CAE est comme un laser de précision qui cible l'intégralité du dossier « Jackie Chan » dans la mémoire du modèle et le supprime proprement, laissant la bibliothèque intacte et parfaite. Il résout le problème du modèle qui se souvient de la réponse lorsque vous posez la question d'une nouvelle manière, ce qui était la plus grande faiblesse des méthodes précédentes.

Résumé technique : Édition sensible à la cohérence pour l'oubli au niveau de l'entité dans les modèles de langage

1. Énoncé du problème

Les grands modèles de langage (LLM) mémorisent par inadvertance des informations sensibles, protégées par des droits d'auteur ou nuisibles, ce qui pose des risques pour la confidentialité et la sécurité. Bien que l'oubli de connaissances (knowledge unlearning) vise à supprimer des connaissances spécifiques indésirables, les méthodes existantes présentent des limites significatives lorsqu'elles sont appliquées à l'oubli au niveau de l'entité.

Les approches actuelles se concentrent principalement sur l'oubli au niveau de l'instance, qui cible la suppression de faits ou d'expressions spécifiques à partir d'un ensemble d'oubli curaté. Cependant, l'oubli au niveau de l'entité nécessite l'élimination complète de toutes les informations associées à une entité spécifique (par exemple, « Jackie Chan »), quels que soient le phrasé ou le contexte. Les techniques existantes échouent souvent dans ce domaine car :

Surapprentissage des formes de surface : Elles ont tendance à surapprendre la forme de surface spécifique des invites d'entraînement, peinant à se généraliser à travers diverses réalisations linguistiques (paraphrases) de la même entité.
Incohérence de l'édition : Les méthodes d'édition de modèles basées sur la localisation, qui modifient les paramètres pour des faits spécifiques, traitent généralement chaque entrée indépendamment. Appliquées à de multiples invites liées à la même entité, ces optimisations indépendantes entraînent des directions d'édition incohérentes. Les mises à jour pour différents faits peuvent entrer en conflit ou n'effacer que partiellement la connaissance cible, ce qui conduit à des « fuites » où le modèle répond toujours correctement à certaines requêtes paraphrasées.
Dommages collatéraux : L'élargissement de l'ensemble d'oubli pour améliorer la couverture entraîne souvent une dégradation substantielle des performances du modèle sur des faits non liés ou des entités étroitement liées.

2. Méthodologie : Édition sensible à la cohérence (CAE)

Les auteurs proposent l'Édition Sensible à la Cohérence (CAE), un cadre qui adapte les techniques d'édition de modèles pour un oubli efficace au niveau de l'entité. L'idée centrale est que la connaissance au niveau de l'entité est stockée dans les modules MLP (Perceptron Multicouche) du transformer, spécifiquement dans les poids de sortie ( $W_{out}$ ). CAE traite le problème d'incohérence en optimisant conjointement les mises à jour à travers diverses invites associées à une entité cible.

Composants clés :

Agrégation et sélection de données :
- La méthode extrait un ensemble diversifié de faits concernant une entité cible à partir de Wikidata, en les convertissant en invites en langage naturel ( $T_e$ ).
- Ces invites sont ensuite augmentées via la paraphrase à l'aide d'un modèle de génération de texte pour créer un ensemble augmenté ( $T_g$ ).
- Sélection basée sur la SVD : Pour éviter la redondance et les mises à jour conflictuelles, les vecteurs clés ( $K_f$ ) dérivés de ces invites sont traités via la Décomposition en Valeurs Singulières (SVD). La méthode sélectionne les vecteurs clés de rang supérieur qui capturent l'énergie de projection la plus significative, garantissant un sous-ensemble compact et informatif pour l'édition.
Optimisation sensible à la cohérence :
- Au lieu d'éditer chaque invite indépendamment, CAE introduit une contrainte de cohérence.
- Pour chaque invite $x_j$ , un vecteur résiduel $\delta_j$ est optimisé pour supprimer les associations factuelles de l'entité.
- Une perte de cohérence ( $L_{Cons}$ ) est ajoutée à la fonction objectif, laquelle minimise la variance des états cachés mis à jour ( $h_j^L + \delta_j$ ) à travers l'ensemble des invites. Cela force tous les résidus à s'aligner dans une direction commune, garantissant que la mise à jour des paramètres est cohérente à travers toutes les paraphrases de l'entité.
- L'objectif final combine la perte de log-vraisemblance négative (pour induire l'incertitude, ex: « Je ne sais pas ») avec le régularisateur de cohérence.
Propagation multi-couches :
- Les résidus optimisés sont distribués à travers les couches suivantes pour assurer la propagation de l'effet de suppression à travers le réseau.
- Une mise à jour de faible rang (modification de rang un) est appliquée aux matrices $W_{out}$ des couches MLP, supprimant efficacement la connaissance de l'entité sans réentraîner l'ensemble du modèle.

3. Contributions clés

Identification des limites : L'article révèle que les méthodes d'édition basées sur la localisation échouent à l'oubli au niveau de l'entité en raison de l'incohérence introduite par l'édition indépendante de multiples invites associées à la même entité. Il identifie également que la connaissance au niveau de l'entité est principalement stockée dans les modules MLP.
Cadre novateur (CAE) : Les auteurs introduisent un cadre d'édition sensible à la cohérence qui optimise conjointement les faits de valeur sous une contrainte de cohérence. Cela permet un oubli cohérent et complet d'une entité entière.
Sélection de faits basée sur la SVD : Une stratégie est proposée pour sélectionner les faits les plus précieux pour une entité en utilisant la SVD, réduisant le nombre d'invites nécessaires tout en maximisant l'efficacité de l'oubli.
Validation empirique : La méthode est rigoureusement évaluée sur deux benchmarks exigeants, RWKU (100 entités) et ToFU (20 entités), démontrant une performance supérieure aux bases de comparaison d'oubli et d'édition existantes.

4. Résultats expérimentaux

Les auteurs ont évalué CAE sur LLaMA3-Instruct (8B) et LLaMA3.1-Instruct (8B), le comparant aux méthodes basées sur le gradient (GA, DPO, NPO), aux méthodes basées sur les invites (ICU, RepE) et aux méthodes basées sur l'édition (MEMIT, EMMET, AlphaEdit).

Performance d'oubli : CAE a obtenu les scores les plus bas sur les ensembles d'oubli (indiquant une suppression réussie des connaissances) à travers les sondes de type Texte à trous (FB), Question-Réponse (QA) et Attaque Adversaire (AA). Par exemple, sur RWKU avec LLaMA3, CAE a obtenu un score d'oubli « All » de 15,9, surpassant la méthode d'édition la plus performante suivante (EMMET à 29,0) ainsi que les méthodes basées sur l'entraînement.
Robustesse et généralisation : CAE a maintenu des performances élevées sur les Ensembles Voisins (faits sémantiquement proches mais non liés) et les Ensembles d'Utilité (capacités générales comme MMLU, TruthfulQA). Il a obtenu le Mean FN le plus élevé (une métrique équilibrant l'oubli et la préservation des voisins), indiquant un compromis supérieur entre l'effacement de la connaissance cible et la rétention du contexte utile.
Efficacité : CAE nécessite nettement moins d'exemples (dès 100, souvent moins) et moins de ressources de calcul (un seul GPU 40 Go) par rapport aux approches de fine-tuning complet.
Oubli séquentiel : La méthode a démontré une stabilité lors de la suppression de plusieurs entités de manière séquentielle, sans dégrader la performance d'oubli des entités précédemment oubliées.
Études d'ablation :
- Sélection de jetons : L'édition du Dernier Jeton Sujet (LST) s'est avérée plus efficace et stable que l'édition du Dernier Jeton (LT).
- Poids de cohérence : La méthode est restée robuste à travers différents poids pour la contrainte de cohérence.
- Source de données : La méthode s'est bien généralisée lors de l'utilisation de données synthétiques générées par LLM au lieu de Wikidata.

5. Signification et affirmations

L'article affirme que l'Édition Sensible à la Cohérence représente une avancée significative dans le domaine de l'oubli de connaissances en comblant le fossé entre l'édition au niveau de l'instance et l'exigence plus complexe de l'oubli au niveau de l'entité.

Scalabilité : CAE offre une solution évolutive pour supprimer des entités en utilisant seulement des dizaines d'invites soigneusement sélectionnées, évitant le coût de calcul d'un réentraînement complet.
Précision : En alignant les directions d'édition via une contrainte de cohérence, CAE empêche l'« oubli partiel » et la fuite de connaissances communes aux approches d'édition indépendantes.
Insight : Ce travail apporte des éclairages sur la manière dont la connaissance au niveau de l'entité est représentée en interne dans les LLM (principalement dans les MLP) et comment elle peut être systématiquement supprimée.

Les auteurs concluent que CAE offre un compromis plus favorable et plus stable entre l'oubli et la rétention, ce qui en fait une direction prometteuse pour le déploiement sûr et responsable des LLM où des entités spécifiques doivent être intégralement oubliées.