💬 NLP

Position: The Term "Machine Unlearning" Is Overused in LLMs

Dit position paper betoogt dat de term "machine unlearning" momenteel te veel wordt gebruikt in LLM-onderzoek om uiteenlopende taken zoals weigering of onderdrukking te beschrijven, en roept op om de term strikt te reserveren voor dataset-gedefinieerde verwijdering met hertraining-equivalentiegaranties om misleidende evaluaties te voorkomen en passende terminologie voor verschillende doelstellingen te waarborgen.

Oorspronkelijke auteurs: Sangyeon Yoon, Yeachan Jun, Albert No

Gepubliceerd 2026-06-29

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Sangyeon Yoon, Yeachan Jun, Albert No

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Idee: "Unlearning" wordt verkeerd gebruikt

Stel je voor dat je een student hebt die een enorme bibliotheek aan boeken heeft bestudeerd om een expert te worden. Stel je nu voor dat een van die boeken gestolen is, of dat de auteur eist dat het boek uit de geest van de student wordt verwijderd.

Het paper betoogt dat onderzoekers de term "Machine Unlearning" te losjes gebruiken. Ze noemen veel verschillende dingen "unlearning", maar ze doen eigenlijk heel verschillende taken.

De auteurs zeggen dat we moeten ophouden met deze zaken te mengen. We moeten de strikte term "Machine Unlearning" reserveren voor één specifieke, zeer moeilijke taak, en andere namen gebruiken voor de andere, makkelijkere taken.

1. De Strikte Definitie: "De Gum"

Wat het echt betekent:
Echte "Machine Unlearning" is als het gebruik van een magische gum op een schilderij. Je wilt een specifieke reeks verfstreken (de "forget set") zo perfect verwijderen dat het schilderij er exact hetzelfde uitziet als wanneer de kunstenaar die streken nooit had gezet.

De Gouden Standaard: Om te bewijzen dat je een goede klus hebt geklaard, moet je jouw "uitgewiste" schilderij vergelijken met een gloednieuw schilderij dat is gemaakt door een kunstenaar die vanaf nul is begonnen met de resterende boeken, zonder de gestolen boeken ooit te hebben gezien.
Het Doel: De twee schilderijen moeten ononderscheidbaar zijn. Als de student nog steeds een wiskundeprobleem kan oplossen dat hij alleen uit het gestolen boek heeft geleerd, dan heeft hij het niet echt "unlearned", zelfs niet als hij weigert de specifieke vraag daarover te beantwoorden.

2. De Verwarring: Wat mensen eigenlijk doen

Momenteel beweren veel onderzoekers dat ze aan "unlearning" doen, terwijl ze eigenlijk een van deze andere dingen doen:

De "Weigering" (De Wachtvogel): Het model is getraind om "Ik weet het niet" of "Ik kan die vraag niet beantwoorden" te zeggen wanneer het over het verboden onderwerp wordt bevraagd.
- Analogie: Het is als een wachter die blaft en je niet de kamer in laat. De hond weet nog steeds dat de kamer bestaat, maar hij laat je er niet in. De hond is de kamer niet vergeten; hij is er alleen voor getraind om je te blokkeren.
De "Onderdrukking" (De Dempknop): Het model wordt aangepast zodat het zeer onwaarschijnlijk is dat het de specifieke woorden associeerd met het verboden onderwerp uitspreekt.
- Analogie: Het is alsof je een dempknop op een specifiek woord zet. Het woord staat nog steeds in het woordenboek, maar de spreker is getraind om het over te slaan.
Het "Bewerken" (Het Overschrijven): Het model leert een nieuw feit om het oude te vervangen.
- Analogie: In plaats van de herinnering aan "Parijs is de hoofdstad van Frankrijk" uit te wissen, overschrijf je het met "Londen is de hoofdstad". De oude herinnering kan er nog steeds zijn, alleen begraven onder een nieuwe.

Het Probleem: Onderzoekers beweren vaak dat ze iets hebben "unlearned" omdat het model geen vragen meer beantwoordt (de Wachtvogel blaft). Maar de auteurs zeggen dat dit een truc is. Het model kan de informatie diep vanbinnen nog steeds weten; het doet alleen alsof het het niet weet.

3. Het Verborgen Gevaar: "Afgeleide Capaciteiten"

Dit is het meest kritieke deel van het paper. Soms geeft het leren van een specifieke zaak je een superkracht die verder gaat dan alleen dat ene feit.

De Analogie: Stel je voor dat een student leert hoe hij een specifiek type wiskundeprobleem moet oplossen met behulp van een gestolen tekstboek. Zelfs als je hem de specifieke antwoorden uit het boek laat "vergeten", kan hij de logica of de redeneervaardigheid die hij door het lezen ervan heeft verkregen, nog steeds bezitten.
Het Risico: Als je alleen controleert of ze de antwoorden kunnen opzeggen (Output Failure), kunnen ze de test misschien niet halen. Maar als je ze een nieuw wiskundeprobleem geeft dat dezelfde logica gebruikt, kunnen ze het mogelijk nog steeds perfect oplossen.
Het Punt van het Paper: Echte "unlearning" betekent dat je die superkracht ook verwijdert. Als de gestolen boeken hen een vaardigheid gaven, en je "unlearned" het, dan zouden ze die vaardigheid ook moeten verliezen, zelfs als dat hen iets slechter maakt in wktunde in het algemeen. Als ze de vaardigheid behouden, hebben ze de invloed van dat boek niet echt "unlearned".

4. Waarom Huidige Tests Falen

Het paper wijst erop dat de meeste huidige tests lijken op meerkeuzevragen.

Huidige Test: "Kan het model vraag A beantwoorden?" Als het model zegt "Ik weet het niet", zegt de test: "Geweldig! Je bent het vergeten!"
De Fout: Dit test alleen of het model het antwoord verbergt. Het test niet of het model de kennis heeft verwijderd.
De Oplossing: We moeten de "unlearned" versie van het model vergelijken met een "retrained" model (het model dat de slechte data nooit heeft gezien). Als het unlearned model nog steeds beter is dan het retrained model bij een specifieke taak, betekent dit dat de "slechte data" het nog steeds beïnvloedt.

5. De Oplossing van de Auteurs: Een Nieuw Regelboek

De auteurs stellen drie belangrijke veranderingen voor om deze chaos op te lossen:

Stop met het gebruik van "Unlearning" als een verzamelnaam.
- Als je alleen het model traint om een vraag te weigeren, noem het dan "Refusal" (Weigering) of "Suppression" (Onderdrukking).
- Als je daadwerkelijk de trainingsinvloed verwijdert om overeen te komen met een opnieuw getraind model, dan mag je het "Machine Unlearning" noemen.
Gebruik een "Referentiemodel" voor vergelijking.
- Je kunt niet alleen zeggen "Het model is het vergeten." Je moet zeggen: "Het model gedraagt zich exact zoals een model dat getraind is zonder die data."
- (De auteurs geven toe dat het opnieuw trainen van enorme modellen duur is, maar ze zeggen dat we de best mogende proxy moeten gebruiken of moeten toegeven dat we geen echte unlearning doen).
Test voor "Superkrachten" (Afgeleide Capaciteiten).
- Stel het model niet alleen de vragen waarop het getraind is. Stel nieuwe vragen die de vaardigheden vereisen die het mogelijk heeft geleerd van de slechte data. Als het model die nieuwe taken nog steeds kan uitvoeren, is de unlearning mislukt.

Samenvatting

Het paper is een pleidooi voor eerlijkheid in de wetenschap.

Noem een "Refusal" (zeggen "Ik weet het niet") niet "Unlearning" (het geheugen wissen).
Denk niet dat omdat een model een vraag niet beantwoordt, het de kennis is vergeten. Het kan ook gewoon verstoppertje spelen.
Vergelijk je resultaten met een model dat de slechte data nooit heeft gezien.
Controleer of het model nog steeds de "superkrachten" heeft die het kreeg van de slechte data.

Als we deze terminologie niet corrigeren, denken we misschien dat we veilig en compliant zijn, terwijl we in werkelijkheid alleen de waarheid verbergen.

Technische Samenvatting: "De term 'Machine Unlearning' wordt overmatig gebruikt in LLM's"

Probleemstelling
Grote taalmodellen (LLM's) staan onder toenemende regulatoire en commerciële druk om specifieke trainingsdata te "vergeten", gedreven door privacyrechten (bijv. het recht om vergeten te worden), auteursrechtelijke geschillen en veiligheidsbeleid. De term "machine unlearning" is echter terminologisch overbelast geraakt in LLM-onderzoek. Momenteel wordt deze breed toegepast op uiteenlopende doelstellingen, waaronder het weigeren van schadelijk gedrag, het verwijderen van entiteiten, de onderdrukking van kennis en de obscuratie van output.

Het kernprobleem dat wordt geïdentificeerd, is dat deze verschillende doelstellingen vaak worden geëvalueerd met dezelfde metrieken en benchmarks, ondanks het feit dat ze fundamenteel andere doelen nastreven. Veel methoden die als "unlearning" worden bestempeld, beogen slechts specifieke outputs te onderdrukken of bepaalde queries te weigeren (beleidsgestuurde gedragscontrole), in plaats van de onderliggende trainingsinvloed van een specifieke subset van de dataset te verwijderen. Deze vermenging leidt ertoe dat evaluaties worden beloond voor oppervlakkige niet-openbaarmaking (bijv. lage ROUGE-scores of het niet kunnen beantwoorden van specifieken vragen), terwijl ze falen in het verifiëren of een model werkelijk ononderscheidbaar is van een model dat opnieuw is getraind zonder die data. Bijgevolg kunnen afgeleide capaciteiten — generaliseerbare vaardigheden of redeneerpatronen geleerd van de "forget set" — blijven voortbestaan, zelfs wanneer directe memorisatie wordt onderdrukt.

Methodologie en Raamwerk
Dit position paper stelt geen nieuw algoritme of experimenteel raamwerk voor. In plaats daarvan biedt het een conceptueel raamwerk en een taxonomie om het veld te verhelderen:

Formele Definitie van Machine Unlearning: De auteurs definiëren echte machine unlearning strikt als een dataset-gedefinieerd verwijderingsprobleem. Gegeven een trainingsset $D$ en een forget set $F \subset D$ , is het doel om een bijgewerkt model $\Theta'$ te produceren dat (benaderend) ononderscheidbaar is van een tegenfeitelijk model $\Theta_R$ dat vanaf nul is opnieuw getraind op $D \setminus F$ . Succes wordt gemeten aan de hand van de divergentie tussen de distributies van $\Theta'$ en $\Theta_R$ (bijv. via $(\epsilon, \delta)$ -ononderscheidbaarheid of andere divergentiemetrieken), en niet enkel door output-falen op specifieke prompts.
Taxonomie van "Unlearning" naar Intentie: Het paper categoriseert andere veelvoorkomende gebruiken van de term in de LLM-literatuur in afzonderlijke categorieën op basis van hun werkelijke garanties:
- Output Likelihood Suppression: Methoden (bijv. Gradient Ascent, NPO) die de waarschijnlijkheid van specifieke tokens of reacties verminderen zonder een garantie op her-training equivalentie.
- Internal Representation Obfuscation: Technieken die hoge entropie of lage betrouwbaarheid induceren op gerichte inputs, waardoor interne activaties worden vervormd in plaats van de invloed van data te verwijderen.
- Knowledge Editing: Benaderingen die specifieke feiten of associaties overschrijven (bijv. via counterfactual fine-tuning) om outputs te herleiden, in plaats van de trainingsinvloed van de oorspronkelijke data te verwijderen.
- Behavioral Refusal: Strategieën waarbij modellen worden getraind om zich te onthouden van of "Ik weet het niet" te zeggen bij specifieke queries, wat functioneert als beleidsafstemming (policy alignment) in plaats van dataverwijdering.
- Inference-time Interventions: Externe filters of decoding-beperkingen die openbaarmaking voorkomen zonder de modelgewichten te wijzigen.
Analyse van Afgeleide Capaciteiten: Het paper introduceert het concept van "afgeleide capaciteiten" — gedragingen of competenties (bijv. wiskundig redeneervermogen) die generaliseren buiten de specifieke voorbeelden in de forget set. Het beargumenteert dat als training op $F$ bijdraagt aan een dergelijke capaciteit, een model dat werkelijk $F$ ontleert, ook die capaciteit moet verliezen, net zoals een her-getraind model op $D \setminus F$ dat zou doen.

Kernbijdragen

Terminologische Verheldering: Het paper pleit ervoor om de term "machine unlearning" exclusief te reserveren voor de her-training-ononderscheidbaarheidsgarantie. Het stelt dat veiligheidsgestuurde of beleidsgestuurde "vergetens-taken" moeten worden benoemd en geëvalueerd als afzonderlijke problemen (bijv. suppressie, alignment of editing).
Kritiek op Huidige Benchmarks: De auteurs analyseren vooraanstaande benchmarks (TOFU, MUSE, RWKU, WMDP) en demonstreren hoe veel hiervan is verschoven van her-training referenties naar output-falen metrieken. Ze tonen aan dat metrieken zoals ROUGE of QA-nauwkeurigheid op forget prompts vaak outputcontrole meten in plaats van de verwijdering van trainingsinvloed, waardoor methoden succesvol lijken terwijl ze latente kennis behouden.
Aanbevelingen voor Evaluatieprotocollen: Het paper stelt een rigoureuze evaluatiestandaard voor claims van machine unlearning voor:
- Referentie-gebaseerde Evaluatie: Claims moeten verankerd zijn aan een expliciet referentiemodel (bij voorkeur een her-getraind model op $D \setminus F$ of een duidelijk gestelde proxy).
- Derived-Capability Probes: Evaluaties moeten testen op overdraagbare capaciteiten bevatten (bijv. out-of-distribution redeneertaken) en interventie-gebaseerde hersteltests (bijv. controleren of "vergeten" kennis kan worden hersteld via benign fine-tuning) om te verzekeren dat de trainingsinvloed werkelijk is verwijderd.

Resultaten en Bewijs
Als position paper presenteert het werk geen nieuwe experimentele resultaten. In plaats daarvan synthetiseert het bewijs uit de bestaande literatuur om de argumenten te ondersteunen:

Het citeert eerder werk dat aantoont dat methoden die succesvol lijken onder vaste prompting-protocollen, vaak falen onder adversariële condities (parafrasering, jailbreaks) of benign post-processing (kwantisatie, fine-tuning), wat aangeeft dat kennis werd onderdrukt in plaats van ontlerend.
Het benadrukt gevallen waar "unlearning" methoden er niet in slagen geïnduceerde gedragingen in data poisoning scenario's te verwijderen, wat het gat tussen output-suppressie en invloedsverwijdering verder illustreert.
Het demonstreert dat huidige benchmarks vaak de her-training baseline missen die nodig is om een onderscheid te maken tussen een model dat werkelijk data heeft vergeten en een model dat slechts heeft geleerd specifieke queries te weigeren.

Betekenis en Claims
Het paper beweert dat de huidige terminologische verwarring niet louter cosmetisch is, maar significante praktische en wetenschappelijke gevolgen heeft. Door beleidsgestuurde gedragscontrole te vermengen met dataset-gedefinieerde verwijdering, loopt het veld het risico op:

Misleidende Benchmarks: Het belonen van oppervlakkige niet-openbaarmaking terwijl persistente trainingsinvloed en afgeleide capaciteiten worden genegeerd.
Incompatibele Vergelijkingen: Het onmogelijk maken van het vergelijken van methoden die verschillende garanties claimen onder dezelfde label.
Compliance Risico's: Het niet voldoen aan de strikte vereisten van regulatoire verwijdering (die vaak de verwijdering van invloed vereist, niet alleen output-suppressie).

De auteurs concluderen dat het oplossen van deze verwarring een striktere terminologie vereist die gekoppeld is aan expliciete garanties en referentiemodellen. Zij pleiten voor evaluaties die overeenkomen met het geclaimde doel: als het doel machine unlearning is, moet de evaluatie de ononderscheidbaarheid van een her-getraind model aantonen, inclusief het verlies van eventuele afgeleide capaciteiten die toe te schrijven zijn aan de forget set. Als het doel beleidscompliance of output-suppressie is, moeten deze als afzonderlijke doelstellingen worden geframed en geëvalueerd.