💻 computer science

Layer-Targeted Multilingual Knowledge Erasure in Large Language Models

Deze paper introduceert MUTE, een raamwerk dat door middel van gerichte interventies in specifieke, taal-neutrale lagen van Large Language Models een robuuste meertalige kennisverwijdering bereikt die de beperkingen van bestaande methoden overwint.

Oorspronkelijke auteurs: Taoran Li, Varun Chandrasekaran, Zhiyuan Yu

Gepubliceerd 2026-02-27

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Taoran Li, Varun Chandrasekaran, Zhiyuan Yu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat een groot taalmodel (zoals een slimme chatbot) een enorme bibliotheek is met boeken in honderden verschillende talen. Soms moet je bepaalde "gevaarlijke" boeken uit deze bibliotheek verwijderen, bijvoorbeeld handleidingen voor het maken van gevaarlijke chemicaliën.

Het probleem is dat als je een boek in het Engels verwijdert, de informatie vaak nog steeds beschikbaar blijft als je in het Duits of Frans vraagt naar diezelfde informatie. Het is alsof je het Engelse exemplaar van een boek uit de kast haalt, maar de vertalingen in andere talen nog steeds op de plank staan.

De onderzoekers van dit paper hebben ontdekt waar in de "hersenen" van de computer dit misgaat, en hoe je het goed kunt doen. Hier is de uitleg in simpele taal:

1. Het Probleem: Te diep of te oppervlakkig?

De onderzoekers hebben gekeken naar de verschillende lagen van het model (als lagen in een taart). Ze ontdekten dat je de "verwijdering" op het verkeerde moment kunt proberen, wat twee rampen veroorzaakt:

Te diep ingrijpen (De "Dode" Laag):
Stel je voor dat je probeert een idee te wissen op het moment dat het al in een specifieke taal wordt uitgesproken (de diepe lagen). Het idee is er dan al, maar het is net als een spook dat al is vertrokken. Als je hier probeert te wissen, blijft het gevaarlijke idee in de diepe lagen van het Engels, Duits, etc., gewoon bestaan. Het model "weet" het nog steeds, het zegt het alleen niet.
- Resultaat: Het gevaarlijke idee blijft bestaan, zelfs in het Engels.
Te oppervlakkig ingrijpen (De "Bliksemschicht" Laag):
Nu probeer je het heel vroeg in het proces te wissen, voordat het idee überhaupt vorm krijgt. Dit werkt wel om het gevaarlijke idee te verwijderen, maar het is alsof je de fundering van het hele huis sloopt om één muur te verwijderen. Je verwijdert niet alleen het gevaarlijke idee, maar ook de basisvaardigheden om andere talen te begrijpen.
- Resultaat: Het gevaarlijke idee is weg, maar het model kan nu ook geen Duits of Frans meer spreken. Het is "amnesie" geworden.

2. De Oplossing: MUTE (De "Tussenlaag")

De oplossing die ze hebben bedacht, heet MUTE. Het idee is om te zoeken naar een speciale "tussenlaag" in het model.

De Analogie van de Vertaler:
Stel je voor dat je een gesprek voert tussen mensen die verschillende talen spreken.
- In het begin (de oppervlakkige lagen) praten ze in hun eigen taal (Engels klinkt anders dan Frans).
- In het midden (de tussenlaag) komen ze tot een gemeenschappelijk begrip. Ze denken in concepten: "Gevaar", "Chemie", "Explosie". Op dit punt maakt het niet meer uit of je het in het Engels of het Frans zegt; het idee is hetzelfde.
- Aan het einde (de diepe lagen) vertalen ze het idee weer terug naar hun eigen taal om het uit te spreken.

De onderzoekers hebben een slimme manier bedacht (metingen genaamd CKA en LRDS) om precies deze middenlaag te vinden. Dit is de plek waar alle talen samenkomen in één gemeenschappelijk idee.

3. Hoe werkt MUTE?

In plaats van het hele model te herschrijven of alleen de uitspraak te blokkeren, doet MUTE het volgende:

Zoek de brug: Ze vinden de laag waar het idee "Gevaarlijke Chemie" in alle talen hetzelfde is.
Knip de brug door: Ze verwijderen het idee alleen op die specifieke plek.
Het gevolg: Omdat het idee daar is verwijderd voordat het weer wordt vertaald naar het Duits, Frans of Hindi, is het gevaarlijke idee overal tegelijkertijd weg.

Het is alsof je de centrale waterleiding van een huis afsluit. Als je de kraan in de badkamer (Engels) en de kraan in de keuken (Frans) wilt droogleggen, is het slimmer om de hoofdkraan in de kelder (de tussenlaag) dicht te draaien, dan om elke kraan apart te proberen te blokkeren of de hele kelder af te graven.

4. Waarom is dit belangrijk?

Veiligheid: Het zorgt ervoor dat als je een model veilig maakt voor het Engels, het ook veilig is voor het Hindi of het Spaans. Je hoeft niet voor elke taal apart te werken.
Efficiëntie: Je hoeft maar op een paar talen te trainen (bijvoorbeeld Engels, Spaans en Portugees) en het werkt automatisch voor alle andere talen.
Eerlijkheid: Het model blijft slim en nuttig voor andere vragen (zoals geschiedenis of wiskunde), omdat je niet de hele "fundering" van het model hebt beschadigd.

Kort samengevat:
De onderzoekers hebben ontdekt dat je niet te vroeg (anders verlies je je taalvaardigheid) en niet te laat (anders blijft het gevaar) moet ingrijpen. Je moet precies op het moment ingrijpen dat alle talen "samenvallen" in één gemeenschappelijk idee. Met hun nieuwe methode, MUTE, kunnen ze gevaarlijke kennis uit een model verwijderen zonder dat het model zijn geheugen voor andere talen verliest.

1. Het Probleem: Multilinguale "Vergeetvermogen" en Schaalbaarheid

Huidige methoden voor machine unlearning (het verwijderen van specifieke kennis uit Large Language Models of LLM's) falen vaak in multilinguale contexten. Als kennis in één taal (bijvoorbeeld Engels) wordt verwijderd, blijft deze vaak toegankelijk via andere talen. Dit creëert een veiligheidsrisico: gevaarlijke kennis (zoals instructies voor het maken van chemische wapens) kan omzeild worden door de query te vertalen naar een taal waarin het model niet is getraind om deze kennis te vergeten.

De bestaande aanpak, waarbij men probeert unlearning op alle lagen van het model toe te passen of alleen op de outputlagen, leidt tot twee fundamentele mislukkingen:

Diepe lagen (Deep Layers): Interventies hier veranderen de taal-specifieke generatie, maar verwijderen de onderliggende semantische kennis niet. De kennis blijft dus beschikbaar in andere talen.
Shallow lagen (Shallow Layers): Interventies hier verwijderen de kennis effectief, maar beschadigen de fundamentele multilinguale representaties. Dit zorgt ervoor dat het model zijn algemene vaardigheden in alle talen verliest (catastrophic forgetting), zelfs in talen die niet betrokken waren bij het unlearning-proces.

De kernvraag is: Waar in de modelarchitectuur moet men ingrijpen om kennis effectief te verwijderen zonder de multilinguale functionaliteit te vernietigen?

2. Methodologie: MUTE Framework

De auteurs stellen MUTE (Multilingual Unlearning via Targeted Erasure) voor, een raamwerk dat unlearning beperkt tot specifieke, geoptimaliseerde lagen in plaats van het hele model. De methode bestaat uit twee fasen:

Fase 1: Identificatie van de Taal-agnostische Regio

Het model van een multilinguale LLM heeft een hiërarchische structuur:

Shallow lagen: Verwerken taal-specifieke oppervlaktekenmerken.
Intermediaire lagen: Bevatten taal-agnostische semantische representaties (waarbij dezelfde concepten in verschillende talen naar vergelijkbare interne representaties convergeren).
Diepe lagen: Specialiseren zich weer in taal-specifieke generatie.

MUTE gebruikt twee metrieken om de optimale interventielagen te vinden binnen deze intermediaire regio:

CKA (Centered Kernel Alignment): Meet de gelijkenis van representaties tussen verschillende talen. Een hoge CKA-score geeft aan dat de lagen taal-onafhankelijk zijn.
LRDS (Linguistic Regions Development Score): Meet de mate van taal-specifisiteit. Een lage LRDS-score geeft aan dat de representaties gebaseerd zijn op semantiek en niet op de taalidentiteit.

Door een drempelwaarde te stellen op zowel CKA (hoog) als LRDS (laag), identificeert MUTE een continue regio van lagen ( $\Lambda$ ) waarin semantische concepten taal-agnostisch worden gecodeerd.

Voor parameter-gebaseerde methoden (zoals RMU) wordt de laag aan het begin van deze regio geselecteerd (om de verstoring door alle volgende lagen te laten propagëren).
Voor activatie-gebaseerde methoden (zoals SLUG) wordt de laag aan het einde van deze regio geselecteerd (om de meest abstracte semantische representaties te targeten).

Fase 2: Gerichte Unlearning

Zodra de doel-laag ( $l^*$ ) is geïdentificeerd, worden de unlearning-updates uitsluitend toegepast op deze laag. Alle andere parameters van het model worden bevroren. Dit wordt getest op drie verschillende unlearning-algoritmen:

RMU (Representation Misalignment)
SLUG (Single Layer Unlearning Gradient)
SimNPO (Simple Negative Preference Optimization)

3. Belangrijkste Bijdragen

Identificatie van Mislukkingen: Het artikel karakteriseert twee fundamentele mislukkingen van naive unlearning: diepe lagen falen in het wissen van kennis, en shalowe lagen vernietigen multilinguale vaardigheden.
MUTE Framework: Een principieel raamwerk dat CKA en LRDS gebruikt om de optimale "taal-agnostische" lagen te lokaliseren.
Efficiëntie: Het bewijst dat unlearning op slechts een klein aantal bron-talen (bijv. 3 talen: Engels, Spaans, Portugees) voldoende is om kennis effectief te verwijderen in tientallen andere talen (inclusief "held-out" talen als Duits, Frans, Hindi), zonder dat er trainingsdata nodig is voor die andere talen.
Mechanistische Validatie: Het gebruik van Logit Lens-probing om aan te tonen dat kennis daadwerkelijk uit de interne representaties wordt verwijderd, en niet alleen onderdrukt op het niveau van de output-tokens (wat een "erasure illusion" zou zijn).

4. Resultaten

De auteurs hebben hun methode getest op drie verschillende modelarchitecturen (Llama-3.1-8B, Qwen-2.5-7B, BLOOM-7b1) en drie unlearning-algoritmen.

Prestaties: MUTE bereikt een "Forget Accuracy" (vergeten kennis) van bijna 0% over alle geteste talen, terwijl de "Retain Accuracy" (behoud van algemene kennis) hoog blijft.
- Voorbeeld (Llama-3.1): Bij interventie in de doel-laag (Layer 9) daalt de foutkans op de "vergeten" chemievragen naar ~1% in alle 7 talen, terwijl de prestaties op "retained" geschiedenis/recht-vragen behouden blijven (bijv. Duits: 49% vs. 58% in de baseline).
- Vergelijking: Shallow lagen (Layer 2) zorgen wel voor vergeten kennis, maar laten de retain-score van niet-getrainde talen instorten (bijv. Duits: 58% $\to$ 1%). Diepe lagen (Layer 30) vergeten niets (foute score blijft ~86%).
Generalisatie: De methode werkt consistent over verschillende modellen en algoritmen. De keuze van de bron-talen (EN/ES/PT vs. DE/FR/IT) heeft geen significant effect op de prestatie, wat bevestigt dat het targeten van de taal-agnostische laag de sleutel is.
Validatie: Logit Lens-probing toont aan dat de kans op het juiste antwoord in de doel-laag daalt tot bijna nul, wat bewijst dat de semantische representatie zelf is gewist en niet alleen de output is onderdrukt.

5. Betekenis en Conclusie

Dit onderzoek verschuift het paradigma van machine unlearning van "welke data moet worden geoptimaliseerd?" naar "waar in het model moet worden ingegrepen?".

De bevindingen tonen aan dat multilinguale unlearning niet mogelijk is door simpelweg de parameters globally bij te werken. De keuze van de interventiediepte is cruciaal. Door te focussen op de intermediaire, taal-agnostische lagen waar semantische concepten convergeren, kunnen ontwikkelaars veiligheidsrisico's (zoals gevaarlijke kennis) effectief en schaalbaar verwijderen in één taal, met gegarandeerde effectiviteit in alle andere talen, zonder de bruikbaarheid van het model te schaden. Dit is een essentiële stap voor de veilige wereldwijde implementatie van LLM's.