Résumé Technique : RippleBench

Énoncé du Problème

Les interventions ciblées sur les grands modèles de langage (LLM), telles que l'oubli (unlearning), l'édition de modèles ou la réduction des biais, visent à modifier des informations spécifiques. Cependant, ces interventions se propagent souvent à des domaines connexes et non intentionnels, un phénomène connu sous le nom d'effet de ricochet (ripple effect). Par exemple, supprimer des connaissances sur une arme biologique spécifique pourrait involontairement dégrader les performances sur des sujets sémantiquement liés mais bénins, comme l'immunologie générale ou les allergies.

Les cadres d'évaluation actuels pour l'oubli et l'édition de modèles reposent généralement sur un paradigme binaire « oublier vs conserver ». Ils mesurent la performance sur un ensemble à oublier (la cible à supprimer) par rapport à un ensemble à conserver (souvent tiré de benchmarks larges comme MMLU). Cette approche ne parvient pas à capturer le gradient de dommages collatéraux qui existe entre le concept ciblé et le reste des connaissances du modèle. Les benchmarks standards ne mesurent pas systématiquement comment la performance se dégrade en fonction de la distance sémantique par rapport à la cible de l'intervention, laissant un vide critique dans la compréhension de l'étendue réelle et de la nature des effets secondaires des interventions.

Méthodologie : RippleBench-Maker

Pour combler cette lacune, les auteurs introduisent RippleBench-Maker, un pipeline automatique conçu pour construire des benchmarks qui mesurent la propagation des changements de connaissances à travers un continuum de distances sémantiques.

Cadre Fondamental

Le cadre formalise l'effet de ricochet à l'aide de trois constructions :

1. Delta de Connaissance ($\Delta U$) : Le changement d'utilité (par exemple, la précision) entre un modèle de base $\theta$ et un modèle après intervention $\theta'$ sur un concept spécifique.
2. Distance Sémantique ($d$) : Une fonction scalaire non négative capturant la proximité conceptuelle. Celle-ci peut être instanciée via la similitude d'embeddings, la longueur du chemin dans un graphe de connaissances ou le rang de récupération (retrieval rank).
3. Fonction d'Effet de Ricochet ($R$) : Une courbe cartographiant la distance sémantique vers le delta de connaissance attendu, définie comme la moyenne des deltas de connaissance pour les concepts à une distance $x$ donnée de la cible.

Étapes du Pipeline

Le pipeline opère en quatre étapes :

1. Extraction de Sujets : Un modèle de langage mappe les questions sources (par exemple, issues d'un jeu de données de sécurité) vers des sujets représentatifs de type Wikipédia.
2. Récupération de Voisins : En utilisant un système de récupération, le pipeline extrait une liste ordonnée de voisins sémantiques pour chaque sujet cible à partir d'un référentiel de connaissances.
3. Génération de Faits et de Questions : Des affirmations factuelles sont extraites des voisins récupérés et converties en questions à choix multiples (QCM) avec des distracteurs plausibles.
4. Évaluation du Modèle : Les modèles sont évalués sur ces questions avant et après l'intervention. Les résultats sont agrégés par distance sémantique pour générer une courbe de ricochet continue.

Instanciation : WikiRAG et RippleBench-WMDP-Bio

Les auteurs instancient ce cadre en utilisant :

• WikiRAG : Un système de génération augmentée par récupération (RAG) open-source construit sur l'anglais de Wikipédia, utilisant des embeddings BAAI/bge-base et un index FAISS.
• Métrique de Distance : La similitude cosinus des embeddings (et le rang RAG comme vue complémentaire).
• Jeu de Données Source : WMDP-Bio (Weapons of Mass Destruction Proxy), un ensemble de 1 273 questions sur des sujets liés aux armes biologiques.
• Résultat : RippleBench-WMDP-Bio, contenant 584 sujets sources uniques et 352 961 questions uniques stratifiées sur 999 niveaux de distance distincts.

Résultats Clés

Les auteurs ont évalué huit méthodes d'oubli populaires (incluant GradDiff, RMU, ELM, TAR, etc.) sur Llama3-8B-Instruct et ont répliqué les résultats sur Mistral-7B, Zephyr-7B et Yi-34B.

1. Profils de Propagation Distincts : Les huit méthodes d'oubli ont toutes présenté des chutes de précision qui sont maximales près de la cible oubliée et décroissent avec la distance sémantique. Cependant, chaque méthode affiche un profil de propagation distinct. Par exemple, ELM montre une récupération fluide avec la distance, tandis que TAR et GradDiff provoquent des chutes abruptes et persistantes sur toutes les distances.
2. Signatures Spécifiques aux Méthodes : Les courbes de delta inter-modèles sont presque identiques à travers différentes familles de modèles de base (Llama, Mistral, Zephyr, Yi). Cela suggère que la forme de la courbe de ricochet est une propriété de la méthode d'oubli elle-même, plutôt qu'un artefact de l'architecture du modèle de base.
3. L'Écart de la « Bombe à Côté » (Bomb-Next-Door) : Une divergence significative a été observée entre la performance sur les questions originales de WMDP-Bio (distance 0) et leurs voisins sémantiques immédiats (distance 1). L'oubli semble étroitement localisé sur les éléments exacts de l'entraînement, tandis que les voisins immédiats voient une dégradation nettement moindre. Cela suggère que les méthodes actuelles suppriment les formulations de surface plutôt que de remodeler les représentations conceptuelles sous-jacentes.
4. Évolution des Checkpoints : L'analyse des checkpoints d'oubli a révélé que les différentes méthodes évoluent différemment au fil du temps. Par exemple, ELM chute brutalement tôt et récupère partiellement, tandis que RMU diminue de manière monotone. Se fier uniquement à la perte de validation pour sélectionner un checkpoint peut masquer ces comportements de ricochet qualitativement différents.

Validation Humaine

Les auteurs ont mené une étude Mechanical Turk à quatre expériences (plus de 5 200 réponses, 61 travailleurs) pour valider les composants du pipeline :

• Classement Sémantique : Les travailleurs pouvaient identifier de manière fiable les voisins les plus proches (précision de 85 à 97 % pour les paires proche-vs-lointain), validant l'approche par compartiments de distance.
• Qualité des Questions : Les questions étaient fondées sur des faits ; la précision chutait significativement (d'environ 25 points de pourcentage) lorsque les faits étaient retirés, et les taux de « je ne sais pas » étaient faibles lorsque les faits étaient fournis.
• Spécificité des Sujets : Les travailleurs pouvaient associer des extraits d'articles aux bons sujets avec une grande précision (85-90 %), confirmant que les faits extraits étaient spécifiques au sujet.
• Précision de l'Extraction : Les questions générées suivaient proprement leurs sujets sources avec une haute précision de vote majoritaire.

Signification et Revendications

Le papier positionne RippleBench-Maker principalement comme un outil de diagnostic plutôt que comme un jeu de données statique. Sa signification réside dans :

• Dépasser l'Évaluation Binaire : Il fournit le premier cadre systématique pour mesurer la propagation des interventions comme une fonction continue de la distance sémantique, révélant les dommages collatéraux que les métriques standard de type oubli/conservation manquent.
• Révéler les Modes de Défaillance Spécifiques aux Méthodes : Les résultats démontrent que les méthodes d'oubli possèdent des « signatures » reproductibles et spécifiques à la méthode concernant la façon dont elles dégradent la connaissance, lesquelles sont stables à travers différentes architectures de modèles.
• Exposer les Limites de Localisation : Les conclusions suggèrent que les méthodes d'oubli actuelles sont souvent « plus nettes mais plus locales » que ce que l'on pensait auparavant, échouant à supprimer le voisinage conceptuel d'une cible tout en réussissant à supprimer les formes de surface exactes de la cible.

Les auteurs concluent que ce cadre permet une discussion plus structurée sur ce à quoi devrait ressembler un oubli ou une édition réussie en contexte, s'éloignant du cadrage binaire dominant. Ils publient tout le code, les données (RippleBench-WMDP-Bio et RippleBench-HighSchool) et l'infrastructure (WikiRAG) pour faciliter la recherche ultérieure.

Limites

Les auteurs reconnaissent plusieurs limites :

• L'évaluation principale se concentre sur un seul domaine source (WMDP-Bio), bien que les résultats inter-modèles suggèrent une généralisabilité.
• La métrique d'utilité est limitée à la précision des QCM, bien que le cadre supporte une elicitation de connaissances plus riche.
• Le référentiel de connaissances (Wikipédia) est centré sur l'Occident et inégalement couvert, héritant de ces biais.
• Le système de récupération capture la cooccurrence de surface plutôt que les relations causales ou logiques, ce qui est un axe complémentaire aux benchmarks fondés sur les relations comme RippleEdits.
• Les modèles évalués sont tous ajustés pour les instructions (instruction-tuned), centrés sur l'anglais et se situent dans la plage de 7B à 34B de paramètres.