🤖 machine learning

Inference-Time Machine Unlearning via Gated Activation Redirection

GUARD-IT est une méthode novatrice d'oubli machine sans entraînement qui utilise une redirection d'activation à portes dépendante de l'entrée au moment de l'inférence pour éliminer efficacement les données mémorisées tout en préservant l'utilité et la robustesse du modèle dans des scénarios de quantification et d'apprentissage continu, surpassant ainsi les approches traditionnelles basées sur le gradient.

Auteurs originaux : Vinícius Conte Turani, Otávio Parraga, João Vitor Boer Abitante, Kristen K. Arguello, Joana Pasquali, Ramiro N. Barros, Flavio du Pin Calmon, Christian Mattjie, Rodrigo C. Barros, Lucas S. Kupssinskü

Publié 2026-05-14

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Vinícius Conte Turani, Otávio Parraga, João Vitor Boer Abitante, Kristen K. Arguello, Joana Pasquali, Ramiro N. Barros, Flavio du Pin Calmon, Christian Mattjie, Rodrigo C. Barros, Lucas S. Kupssinskü

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez une bibliothécaire très intelligente et bien informée (le modèle d'IA) qui a mémorisé des millions de livres. Parfois, vous devez demander à cette bibliothécaire d'« oublier » des histoires spécifiques — peut-être parce qu'elles contiennent des informations privées, du matériel protégé par le droit d'auteur, ou simplement des faits que vous souhaitez supprimer.

La méthode traditionnelle pour y parvenir consiste à prendre le cerveau entier de la bibliothécaire, à pratiquer une chirurgie à cœur ouvert, et à tenter de retirer chirurgicalement les neurones spécifiques qui retiennent ces souvenirs. C'est risqué, coûteux, et cela laisse souvent la bibliothécaire confuse, incapable de se souvenir de rien d'autre, ou parlant dans un charabia incompréhensible.

Ce papier présente une nouvelle méthode appelée GUARD-IT. Au lieu de découper des parties du cerveau, elle agit comme un directeur de circulation intelligent au bureau de la bibliothécaire.

Voici comment cela fonctionne, en utilisant des analogies simples :

1. Le problème de la « direction globale »

Les tentatives précédentes d'« ingénierie des activations » (modifier la façon dont l'IA pense sans la réentraîner) étaient comme placer un panneau « Ne pas dire » sur le bureau de la bibliothécaire qui s'appliquait à tout le monde. Si vous disiez à la bibliothécaire : « Ne parlez pas de l'Auteur X », elle arrêterait de parler de l'Auteur X, mais elle pourrait aussi accidentellement arrêter de parler de n'importe qui qui ressemble ne serait-ce qu'un peu à l'Auteur X. Elle pourrait aussi commencer à parler d'une manière étrange et robotique parce que le panneau « Ne pas dire » était trop lourd et brutal.

2. La solution GUARD-IT : La « Porte intelligente »

GUARD-IT est différent car il n'utilise pas un seul immense panneau pour tout le monde. Au lieu de cela, il utilise une Porte intelligente (la « Passerelle de similarité »).

Étape 1 : Regroupement des souvenirs (Phase hors ligne)
Avant que la bibliothécaire ne commence à travailler, l'équipe prend tous les livres qu'elle souhaite supprimer et les trie en différents tas selon leurs sujets (par exemple, « Tas A : Poètes français », « Tas B : Biographies du XIXe siècle »). Ils créent une instruction spécifique « anti-souvenir » pour chaque tas. Imaginez-les comme des cartes spécifiques « Ne pas parler de » pour chaque sujet.
Étape 2 : La vérification de la circulation (Phase en ligne)
Lorsqu'un utilisateur pose une question, la Porte intelligente vérifie d'abord la question.
- Si la question porte sur un sujet aléatoire (comme « Quel temps fait-il ? »), la porte dit : « Aucune correspondance », et la bibliothécaire répond normalement. Les cartes « Ne pas parler de » ne sont jamais touchées.
- Si la question porte sur un sujet spécifique (comme « Racontez-moi l'Auteur X »), la porte reconnaît le sujet, saisit la carte « Ne pas parler de » spécifique pour ce tas, et l'applique.

3. La « Rotation magique » (Rotation préservant la norme)

Une fois que la porte sélectionne la bonne carte « Ne pas parler de », GUARD-IT ne pousse pas simplement le cerveau de la bibliothécaire dans une nouvelle direction. Au lieu de cela, il effectue une rotation parfaite.

Imaginez que les pensées de la bibliothécaire sont un toupie.

Les anciennes méthodes essayaient de pousser la toupie pour la faire tomber, ce qui la faisait souvent vaciller et tomber (provoquant chez l'IA la production de non-sens ou de « charabia »).
GUARD-IT fait tourner doucement la toupie pour qu'elle pointe dans une nouvelle direction, mais conserve exactement la même vitesse de rotation. Cela garantit que la bibliothécaire reste équilibrée et fluide, parlant simplement de choses différentes.

4. Pourquoi c'est important

L'article affirme que GUARD-IT résout trois maux de tête majeurs que les autres méthodes ont :

Pas de « chirurgie du cerveau » nécessaire : Il ne nécessite pas de réentraîner le modèle ni de modifier ses poids permanents. C'est comme donner à la bibliothécaire un ensemble d'instructions temporaires plutôt que de recâbler son cerveau.
Il résiste à la « compression » : Dans le monde réel, les modèles d'IA sont souvent réduits (quantifiés) pour fonctionner plus rapidement sur des téléphones ou des serveurs moins chers. Les méthodes traditionnelles échouent souvent lorsque le modèle est réduit, comme une sculpture délicate qui s'effrite lorsqu'elle est emballée serrée. GUARD-IT fonctionne parfaitement même lorsque le modèle est compressé car il opère sur le flux d'information, et non sur les poids lourds et statiques.
Il gère les demandes « continues » : Si vous devez supprimer un nouveau livre la semaine prochaine, vous n'avez pas besoin de refaire toute la chirurgie. Vous ajoutez simplement une nouvelle carte « Ne pas parler de » au tas. La bibliothécaire peut gérer un flux infini de demandes de suppression sans se confondre ni oublier des faits sans rapport.

Résumé

En bref, GUARD-IT est une méthode sans entraînement, sans gradient pour faire « oublier » des choses spécifiques à une IA. Elle le fait en :

Triant les choses à oublier par catégories.
Vérifiant si la question d'un utilisateur correspond à une catégorie.
Si c'est le cas, appliquant une « rotation » douce et précise aux pensées de l'IA pour l'écarter du sujet interdit.
Si ce n'est pas le cas, laissant l'IA répondre normalement.

Cela maintient l'IA intelligente, fluide et sûre, sans le risque de briser son cerveau ni de nécessiter un réentraînement coûteux.

Résumé technique : Désapprentissage machine au moment de l'inférence par redirection d'activation à porte (GUARD-IT)

Énoncé du problème

Les grands modèles de langage (LLM) mémorisent souvent les données d'entraînement, créant des risques significatifs en matière de vie privée, de violation du droit d'auteur et de sécurité. Le désapprentissage machine (MU) vise à éliminer l'influence d'un ensemble spécifique d'« oubli » ( $D_f$ ) tout en préservant les performances sur un ensemble de « rétention » ( $D_r$ ), en visant idéalement à approximer un modèle réentraîné à partir de zéro sans $D_f$ .

Les approches MU existantes reposent principalement sur des mises à jour de paramètres basées sur le gradient, coûteuses en calcul. Ces méthodes font face à plusieurs limitations critiques :

Coût computationnel : Elles nécessitent l'accès à la totalité du pipeline de fine-tuning et des ressources importantes.
Irréversibilité et instabilité : Les mises à jour de poids sont irréversibles et peuvent entraîner un « effondrement catastrophique », où le modèle perd sa capacité de généralisation et produit des sorties incohérentes.
Fragilité face à la quantification : Les effets du désapprentissage sont souvent compromis ou annulés lorsque les modèles sont quantifiés pour le déploiement, car l'arrondi de faible précision efface les ajustements de poids fins.
Problèmes de désapprentissage continu : Dans les scénarios avec des demandes d'oubli séquentielles, les mises à jour de paramètres répétées accumulent des interférences, dégradant les connaissances non liées au fil du temps.
Limites du pilotage d'activation naïf : Bien que l'ingénierie des activations offre une alternative sans entraînement, l'application d'un seul vecteur de pilotage global à toutes les entrées échoue lorsque le corpus d'oubli couvre des directions sémantiques conflictuelles, entraînant des changements de comportement non intentionnels sur des entrées non liées.

Méthodologie : GUARD-IT

L'article présente GUARD-IT (Désapprentissage au moment de l'inférence par redirection d'activation à porte), une méthode sans entraînement et sans gradient qui effectue le désapprentissage entièrement dans l'espace des activations pendant l'inférence. La méthode opère sur l'hypothèse de la représentation linéaire, traitant le désapprentissage comme une transformation géométrique contrôlée des états cachés.

Composants principaux

Clustering sémantique (Phase hors ligne) :
- Le corpus d'oubli $D_f$ est encodé à l'aide d'un Sentence-Transformer et partitionné en clusters sémantiques via K-Means. Le nombre de clusters ( $k$ ) est sélectionné automatiquement en maximisant le score de silhouette.
- Pour chaque cluster, un Vecteur de Pilotage de Prototype (PSV) est calculé en moyennant les activations d'états cachés à une couche cible spécifique $\ell$ (généralement le premier quart de la pile de transformateurs).
- Un vecteur de référence $\bar{h}_r$ est calculé à partir du corpus de rétention pour s'assurer que le pilotage n'interfère pas avec les connaissances conservées.
Porte de similarité (Phase en ligne) :
- Au moment de l'inférence, une requête utilisateur $x$ est encodée et comparée aux centroïdes des clusters d'oubli.
- Une Porte de Similarité (SG) sélectionne uniquement les clusters dont les centroïdes dépassent un seuil de similarité $T$ . Cela garantit que le pilotage n'est appliqué qu'aux entrées sémantiquement liées à l'ensemble d'oubli, préservant l'utilité pour les requêtes non liées.
Rotation préservant la norme :
- Les PSV actifs sont agrégés en une direction d'oubli dépendante de l'entrée $p(x)$ .
- Cette direction est projetée orthogonalement au vecteur de référence de rétention $\bar{h}_r$ pour éliminer les composantes partagées.
- Le vecteur de pilotage résultant est redimensionné pour correspondre à la norme d'activation moyenne des états cachés.
- Enfin, l'intervention est appliquée comme une rotation pure dans le flux résiduel : l'état caché est tourné loin de la direction d'oubli tout en préservant strictement sa norme originale. Cela empêche la déstabilisation de la normalisation de couche et de l'échelle de l'attention.

Contributions clés

Formulation sans entraînement et sans gradient : L'article reformule le désapprentissage comme un problème de pilotage dépendant de l'entrée dans l'espace des activations, éliminant le besoin de mises à jour de paramètres, de réentraînement ou d'accès au pipeline d'entraînement.
Pilotage dépendant de l'entrée via le clustering : En partitionnant le corpus d'oubli et en utilisant une porte de similarité, GUARD-IT permet un désapprentissage localisé et compositionnel. Il évite les modes d'échec du pilotage global naïf en adaptant l'intervention au contenu sémantique de chaque requête.
Robustesse à la quantification et au désapprentissage continu : La méthode prend naturellement en charge le désapprentissage continu (en ajoutant de nouveaux PSV sans modifier les existants) et reste efficace sous quantification du modèle (4 bits et 8 bits), un scénario où les méthodes basées sur le gradient se dégradent généralement ou échouent.

Résultats expérimentaux

Les auteurs ont évalué GUARD-IT sur les benchmarks TOFU et MUSE à travers trois échelles de modèles (Llama-3.2-1B, 3B et Llama-3.1-8B).

Performance par rapport aux références : GUARD-IT égale ou dépasse 12 références basées sur le gradient à toutes les échelles de modèles. Il obtient les scores moyens les plus élevés (moyenne harmonique de l'utilité et de la suppression de la mémorisation) sur les splits TOFU forget01 et forget05.
Évitement de l'effondrement catastrophique : Contrairement à de nombreuses méthodes basées sur le gradient (par exemple PDU, RMU) qui souffrent d'effondrement catastrophique (faible utilité et taux élevés de charabia) à mesure que la force d'oubli augmente, GUARD-IT maintient une haute cohérence (taux de charabia > 0,80) tout en supprimant efficacement la mémorisation.
Robustesse à la quantification : Dans les expériences avec quantification 4 bits et 8 bits, GUARD-IT maintient son profil de performance. En revanche, les méthodes basées sur le gradient montrent une dégradation significative de l'utilité et de la suppression de la mémorisation lors de la quantification, car les perturbations de poids fines sont perdues.
Désapprentissage continu : Dans les scénarios d'oubli séquentiel, GUARD-IT maintient constamment le compromis entre utilité et mémorisation, tandis que les méthodes basées sur le gradient souffrent d'interférences entre les mises à jour successives, entraînant une dégradation progressive du modèle.

Importance et revendications

L'article revendique que GUARD-IT adresse les limitations structurelles inhérentes aux méthodes de mise à jour de paramètres. En codant le désapprentissage comme un ensemble externe et versionnable de vecteurs de pilotage plutôt que comme des réécritures destructrices de poids, la méthode offre :

Flexibilité de déploiement : La force d'oubli devient un bouton continu au moment de l'inférence (contrôlé par le coefficient de pilotage $\alpha$ ) plutôt qu'un engagement fixe au moment de l'entraînement.
Auditabilité et réversibilité : Les demandes d'oubli peuvent être inspectées, mises à jour ou annulées en modifiant le stockage vectoriel sans réentraîner le modèle.
Stabilité : La rotation préservant la norme garantit que l'intervention ne perturbe pas les mécanismes de normalisation interne du modèle, empêchant les sorties incohérentes courantes dans le pilotage d'activation agressif.

Les auteurs concluent que cette approche recadre la suppression de $D_f$ comme un problème de routage sur une bibliothèque précalculée de directions d'activation, offrant une solution pratique pour la conformité à la vie privée (par exemple, RGPD, Loi européenne sur l'IA) dans les LLM déployés, en particulier dans des environnements contraints en ressources ou quantifiés.

Limitations

L'article reconnaît que la méthode repose sur l'hypothèse de représentation linéaire, supposant que les concepts à oublier sont encodés le long de directions approximativement linéaires dans le flux résiduel. Cela peut ne pas être vrai pour les concepts encodés de manière non linéaire ou distribués sur de nombreuses directions de faible magnitude. De plus, l'évaluation se concentre actuellement sur les associations factuelles au niveau des entités (TOFU, MUSE), et la transférabilité aux connaissances procédurales, aux chaînes de raisonnement ou aux ensembles conçus de manière adversariale reste une question ouverte.