💻 computer science

CURE:Circuit-Aware Unlearning for LLM-based Recommendation

Dit paper introduceert CURE, een circuit-bewust framework voor het verwijderen van gegevens uit op LLM gebaseerde aanbevelingssystemen, dat door het ontleden van modelcomponenten in functioneel specifieke circuits en het toepassen van gerichte update-regels, gradientconflicten oplost en zo effectiever en transparanter unlearning mogelijk maakt dan bestaande methoden.

Oorspronkelijke auteurs: Ziheng Chen, Jiali Cheng, Zezhong Fan, Hadi Amiri, Yunzhi Yao, Xiangguo Sun, Yang Zhang

Gepubliceerd 2026-04-08

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Ziheng Chen, Jiali Cheng, Zezhong Fan, Hadi Amiri, Yunzhi Yao, Xiangguo Sun, Yang Zhang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, digitale boekhandelsassistent hebt (een "Large Language Model" of LLM) die precies weet wat je leuk vindt. Hij leert van alles wat je ooit hebt gekocht of bekeken. Maar wat gebeurt er als je een boek hebt gekocht dat je nu liever niet meer wilt dat hij weet? Of als je privacywetten zeggen dat hij die informatie moet vergeten?

Dit is het probleem van "Unlearning" (het vergeten van data).

De meeste bestaande methoden om dit te doen, werken als een blinde hamer: ze proberen het hele brein van de assistent tegelijkertijd te herschrijven. Ze zeggen: "Vergeet dit boek, maar onthoud alles anders!" Het probleem is dat deze twee opdrachten vaak tegenstrijdig zijn. Het brein raakt in de war, de updates botsen met elkaar, en het resultaat is ofwel dat hij het boek niet echt vergeet, ofwel dat hij zijn geheugen voor alle andere boeken verliest.

CURE is de oplossing die in dit paper wordt voorgesteld. Het staat voor Circuit-Aware Unlearning. Hier is hoe het werkt, vertaald naar alledaagse taal:

1. De "Stroomkringen" van het Brein

Stel je het brein van de AI niet voor als één grote, ondoorzichtige massa, maar als een complex netwerk van elektrische stroomkringen (circuits).

Sommige draden in dit netwerk zijn speciaal voor het onthouden van actie A (bijv. "Ik hou van sciencefiction").
Andere draden zijn voor actie B (bijv. "Ik wil dit specifieke boek vergeten").
En sommige draden worden door beide gebruikt.

Bij de oude methoden werd er zomaar aan alle draden gedraaid, wat leidde tot kortsluiting (gradient conflicts). CURE kijkt eerst precies naar de blauwdrukken. Het identificeert welke specifieke draden (modules) verantwoordelijk zijn voor het vergeten en welke voor het onthouden.

2. De Twee Stappen van CURE

Stap 1: De "Röntgenfoto" (Circuit Discovery)
Voordat CURE iets verwijdert, doet hij een soort röntgenfoto van het brein.

Hij gebruikt een slimme truc: hij verandert heel subtiel wat de assistent ziet (bijvoorbeeld, hij vervangt één boek in je geschiedenis door een ander, vergelijkbaar boek).
Door te kijken hoe het brein reageert op deze kleine verandering, kan CURE precies zien welke "draden" in het netwerk branden als het gaat om dat specifieke boek.
Dit is alsof je een lantaarnpaal in een donker bos aan doet om te zien welke paden er echt zijn, in plaats van het hele bos plat te branden.

Stap 2: Chirurgische Ingreep (Selective Updating)
Nu CURE precies weet welke draden welke taak hebben, gaat hij niet meer met de hamer werken, maar met een scalpel:

De "Vergeten"-draden: Als een draad alleen gebruikt wordt voor het boek dat je wilt vergeten, knipt CURE die verbinding eruit of herschrijft hij die specifiek.
De "Onthouden"-draden: Als een draad belangrijk is voor je favoriete andere boeken, laat CURE die rustig liggen.
De "Gedeelde"-draden: Soms gebruiken beide taken dezelfde draad. Hier is CURE heel slim: hij zorgt ervoor dat de update voor het vergeten niet de update voor het onthouden vernietigt. Hij "projecteert" de beweging zo dat ze niet botsen.

3. Waarom is dit zo goed? (De Analogie van de Chef-kok)

Stel je een chef-kok voor die een recept moet aanpassen omdat een klant allergisch is voor pinda's.

De oude methode (Blind Vergeten): De chef gooit de hele pan met saus weg en begint opnieuw met een nieuwe pan. Hij hoopt dat hij het recept voor de rest van de saus nog wel weet. Dit is duur, langzaam en riskant (misschien vergeet hij de smaak van de tomaten).
De CURE-methode: De chef kijkt precies naar het recept. Hij ziet dat er één lepel pindameel in zit. Hij verwijdert alleen die lepel en roert de rest van de saus rustig door. De tomatensmaak blijft perfect, en de pinda's zijn weg.

De Resultaten in het Kort

Sneller: CURE is tot 3,5 keer sneller dan de huidige beste methoden.
Beter Vergeten: De assistent vergeet het ongewenste boek echt (hij gedraagt zich alsof hij het nooit heeft gezien).
Beter Onthouden: Hij vergeet niet per ongeluk wat je wel leuk vindt. Zijn algemene kennis blijft intact.

Kortom: CURE maakt het proces van "vergeten" transparant en veilig. In plaats van het hele brein van de AI te herschrijven, zoekt hij de specifieke plek waar de informatie zit en verwijdert die met chirurgische precisie, zonder de rest van het systeem te beschadigen.

Titel: CURE: Circuit-Aware Unlearning voor aanbevelingen op basis van Large Language Models (LLM)

1. Het Probleem

De integratie van Large Language Models (LLM's) in aanbevelingssystemen (LLMRec) biedt krachtige mogelijkheden voor het begrijpen van gebruikersinteresses en itemattributen. Echter, door de toenemende privacyreguleringen is het noodzakelijk om gevoelige gebruikersdata uit deze modellen te verwijderen ("unlearning") zonder het model volledig opnieuw te trainen.

Bestaande methoden voor LLMRec-unlearning lijden onder twee fundamentele beperkingen:

Gradiëntconflicten: De meeste huidige benaderingen formuleren unlearning als een gewogen som van een "vergeten" doel (data verwijderen) en een "behouden" doel (model nut behouden). Omdat deze twee doelen vaak tegenstrijdige gradiënten genereren op neuron-niveau, leidt een uniforme parameter-update tot instabiele optimalisatie. Dit resulteert in ofwel onvoldoende vergeten van de data, ofwel een ernstige degradatie van de aanbevelingskwaliteit.
Black-box aard: Bestaande methoden updaten modelparameters zonder inzicht in welke interne modules (zoals attention-heads of MLP's) verantwoordelijk zijn voor de specifieke informatie die verwijderd moet worden. Dit gebrek aan transparantie ondermijnt de betrouwbaarheid en interpreteerbaarheid van het proces.

2. Methodologie: CURE Framework

CURE (Circuit-Aware Unlearning) is een tweestapsframework dat mechanische interpreteerbaarheid gebruikt om de bovenstaande problemen op te lossen. In plaats van het model als een black-box te behandelen, disantangleert CURE het model in functioneel onderscheiden subgroepen.

Stap 1: Locatie van Circuits (Circuit Extraction)
CURE identificeert de specifieke computationele subgrafieken ("circuits") binnen de LLM die causaal verantwoordelijk zijn voor het voorspellen van items. Een circuit is een pad van input-tokens naar output-logits.

Activeringsinterventie (Activation Intervention): Een snelle methode die de bijdrage van randen (edges) in het computationele graf schat door de doorstroom van informatie te maskeren en de verandering in outputkans te lineariseren (Taylor-expansie).
Activeringspatching (Activation Patching): Een precisie-methode die gebruikmaakt van "corrupte" steekproeven. Door een item in de gebruikersgeschiedenis te vervangen door een minder relevant item (gebaseerd op een User-Item graaf en Personalized PageRank), kan CURE meten welke modules cruciaal zijn voor de oorspronkelijke voorspelling.
Greedy Circuit Discovery: Een strategie om de hoogst-scorende randen te selecteren om een compleet circuit van boven naar beneden op te bouwen.

Stap 2: Selectieve Circuit-Updates
Op basis van de geïdentificeerde circuits worden de modules gecategoriseerd in drie groepen, elk met een specifieke update-regel om gradiëntconflicten te minimaliseren:

Vergeten-specifiek (Forget-specific): Neuronen die alleen betrokken zijn bij het vergeten circuit ( $C_f$ ). Deze worden uitsluitend geüpdatet met de "forget loss" om data te verwijderen.
Behouden-specifiek (Retain-specific): Neuronen die alleen betrokken zijn bij het behouden circuit ( $C_r$ ). Deze worden uitsluitend geüpdatet met de "retain loss" om de modelkwaliteit te behouden.
Gedeelde functies (Function-shared): Neuronen die in beide circuits voorkomen ( $C_f \cap C_r$ ). Voor deze groep gebruikt CURE een projectiestrategie (gebaseerd op PCGrad). Als de gradiënten van de twee doelen conflicteren, wordt de destructieve component van de ene gradiënt geprojecteerd op de andere, waardoor de update in een richting gebeurt die beide doelen respecteert.

De loss-functie combineert KL-divergentie om de voorspelling op de te vergeten data te laten afwijken van het origineel, terwijl de voorspelling op de behouden data gelijk blijft aan het origineel.

3. Belangrijkste Bijdragen

Nieuw Perspectief: Het introduceert een "circuit-aware" visie op unlearning, waarbij gradiëntconflicten worden opgelost door de onderliggende computationele circuits te ontrafelen in plaats van globale optimalisatie.
Transparantie: Het biedt een transparant proces waarbij precies wordt vastgesteld welke interne modules worden aangepast voor vergeten versus behouden, in tegenstelling tot eerdere black-box methoden.
Theoretische Garantie: De auteurs leveren een theoretische analyse die bewijst dat de CURE-update leidt tot een lagere totale loss dan standaard gradiëntafdaalmethoden bij voldoende kleine leerstappen.
Model-agnostisch: Het framework is toepasbaar op verschillende LLM-backbones (zoals GPT-2 en Llama-2) voor aanbevelingstaken.

4. Resultaten

CURE is getest op real-world datasets (MovieLens-1M en GoodReads) met GPT-2 en Llama-2 (7B) als backbones. De resultaten tonen aan:

Efficiëntie: CURE is 3,5 keer sneller dan de huidige state-of-the-art methode (E2URec) en aanzienlijk sneller dan volledige hertraining.
Effectiviteit: CURE bereikt een 18% verbetering in unlearning-efficiëntie (gemeten via Jensen-Shannon Divergence, JSD) vergeleken met baselines, wat betekent dat het vergeten van data effectiever is.
Nuttigheid: Het behoudt de aanbevelingskwaliteit (AUC en Accuracy) met een 6% verbetering ten opzichte van baselines, wat aangeeft dat de modelprestaties minder degraderen.
Gradiëntconflicten: Analyse toont aan dat CURE het aantal ernstige gradiëntconflicten met 55% tot 76% reduceert ten opzichte van E2URec.

5. Betekenis

CURE markeert een belangrijke verschuiving in het veld van privacy-bewuste aanbevelingssystemen. Door over te stappen van uniforme, black-box updates naar gerichte, circuit-gestuurde interventies, lost het de fundamentele spanning op tussen privacy (vergeten) en nut (prestatie). Dit maakt het mogelijk om LLM-based aanbevelingssystemen op een schaalbare, transparante en wettelijk compliant manier te onderhouden, wat essentieel is voor de praktische implementatie in de toekomst.