🤖 AI

Selective Fine-Tuning for Targeted and Robust Concept Unlearning

TRUST is een nieuwe methode voor het efficiënt en robuust 'ontleren' van schadelijke concepten in tekstgestuurde diffusiemodellen door middel van dynamische selectieve fijnafstemming en Hessian-gebaseerde regularisatie.

Oorspronkelijke auteurs: Mansi, Avinash Kori, Francesca Toni, Soteris Demetriou

Gepubliceerd 2026-02-10

📖 3 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Mansi, Avinash Kori, Francesca Toni, Soteris Demetriou

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een superintelligente, magische schilder hebt (het AI-model). Deze schilder heeft miljoenen plaatjes gezien en kan alles tekenen wat je maar vraagt: van een "lachende hond" tot een "futuristische stad".

Maar er is een probleem. Soms vraagt iemand de schilder om iets ongepast of schadelijks te tekenen, zoals "een kind dat alcohol drinkt". De schilder is namelijk zo goed in het combineren van concepten, dat hij per ongeluk ook de verkeerde combinaties leert.

Nu komt het probleem: als je de schilder streng straft of een deel van zijn geheugen wist om dit te voorkomen, gebeurt er vaak iets vervelends. Of hij vergeet ineens hoe hij een "hond" moet tekenen, of zijn hele tekenstijl wordt een rommeltje. Het is alsof je een bibliotheek probeert te verbouwen door een paar boeken te verbranden, maar per ongeluk de hele fundering van het gebouw beschadigt.

De oplossing van de onderzoekers: TRUST

De onderzoekers van Imperial College London hebben een nieuwe methode bedacht genaamd TRUST. Je kunt dit zien als een "chirurgische ingreep voor het geheugen".

In plaats van de hele bibliotheek te slopen, werkt TRUST als volgt:

1. De "Concept-Detectives" (Het vinden van de juiste neuronen)

In plaats van willekeurig te gokken waar de "foute" kennis zit, stuurt TRUST detectives het brein van de schilder in. Deze detectives zoeken naar de specifieke "hersencellen" (neuronen) die verantwoordelijk zijn voor het concept.

Analogie: Als je wilt dat de schilder stopt met het tekenen van "gevaarlijke wapens", zoek je niet naar zijn hele hand, maar specifiek naar de minuscule spierbeweging in zijn vingers die alleen die wapens tekent.

2. Twee manieren van "vergeten"

TRUST heeft twee verschillende manieren om de schilder te corrigeren, afhankelijk van hoe streng je wilt zijn:

De "Hardcore" Methode (CIP): Dit is als een gum die heel gericht over een specifiek woord in een boek gaat. Het wist de informatie bijna volledig uit. Dit is heel effectief tegen kwaadwillende mensen die proberen de AI te foppen, maar het kan soms een beetje "ruw" zijn voor de rest van de tekenstijl.
De "Zachte" Methode (CSR): Dit is meer als een subtiele suggestie. Je zegt niet: "Vergeet dit!", maar je zegt: "Maak de verbinding tussen deze twee dingen een stuk minder sterk." Hierdoor blijft de schilder nog steeds heel goed kunnen tekenen, maar de "foute" combinatie (zoals kind + bier) wordt heel erg vaag en onduidelijk.

3. De "Dynamische Masker" (Altijd scherp blijven)

Het slimste van TRUST is dat het niet één keer kijkt en dan stopt. Terwijl de schilder leert om het foute concept te vergeten, verandert zijn brein constant. TRUST houdt de detectives dus continu actief.

Analogie: Het is alsof je een chirurg bent die niet alleen één keer een snee zet, maar de hele tijd met een microscoop meekijkt om te zorgen dat hij niet per ongeluk een gezonde zenuw raakt terwijl hij de tumor verwijdert.

Waarom is dit een doorbraak?

De onderzoekers laten zien dat TRUST:

Heel nauwkeurig is: Het wist de slechte dingen, maar de "goede" dingen (zoals een mooie kat of een berglandschap) blijven perfect zoals ze waren.
Snel is: Het hoeft niet urenlang te trainen; het is veel sneller dan de oude methoden.
Slimme combinaties begrijpt: Het begrijpt dat "een kat" op zich prima is, maar dat "een kat op een tafel met een pistool" misschien niet de bedoeling is. Het kan de combinatie aanpakken zonder de kat zelf te "vergeten".

Kortom: TRUST is de precisie-chirurg die de AI veiliger maakt zonder de creativiteit en de kwaliteit van de kunst te vernietigen.

Technische Samenvatting: TRUST

1. Het Probleem (Problem Statement)

Text-to-image (T2I) diffusiemodellen (zoals Stable Diffusion) kunnen worden misbruikt voor het genereren van schadelijke content (bijv. expliciete beelden, vooroordelen of manipulatie). Het verwijderen van deze concepten ("unlearning") is complex vanwege drie hoofduitdagingen:

Catastrofale Interferentie: Het verwijderen van een ongewenst concept (bijv. "naaktheid") beschadigt vaak onbedoeld de kwaliteit van ongerelateerde, veilige concepten (bijv. "mens").
Dynamische Saliency Shift: Bestaande methoden identificeren de neuronen die een concept representeren vaak eenmalig (statisch). Echter, tijdens het fine-tuningsproces verschuiven de actieve neuronen, waardoor statische maskers ineffectief worden.
Conceptuele Combinaties: Schadelijke content ontstaat vaak niet uit één concept, maar uit de combinatie van twee onschuldige concepten (bijv. "kind" + "bier"). Veel huidige methoden kunnen deze combinaties niet effectief ontkoppelen zonder de losse componenten te verwijderen.

2. Methodologie (Methodology)

De auteurs introduceren TRUST (Targeted Robust Selective fine-Tuning), een framework dat gebruikmaakt van dynamische neuron-lokalisatie en selectieve fine-tuning.

A. Concept Neuron Discovery (Lokalisatie):
In plaats van te vertrouwen op ruis-gebaseerde methoden, gebruikt TRUST een alignment-gebaseerde aanpak. Ze identificeren "concept neuronen" in de cross-attention (CA) lagen door de gradiënt van een CLIP-score te berekenen. De CLIP-score meet de semantische overeenkomst tussen de tekstprompt en het gegenereerde beeld. Een parameter wordt als een "concept neuron" beschouwd als de gradiënt van de CLIP-score ten opzichte van die parameter boven een bepaalde drempelwaarde ( $\gamma$ ) uitkomt.

B. Selectieve Fine-tuning via twee objectieven:
TRUST biedt twee strategieën voor het unlearning-proces:

Concept Influence Penalty (CIP) - "Hard Unlearning": Dit objectief richt zich op het direct minimaliseren van het aantal actieve concept neuronen. Het dwingt sparsity (ijlheid) af, wat effectief is voor het rigoureus verwijderen van concepten, maar soms ten koste gaat van de beeldkwaliteit.
Concept Sensitivity Reduction (CSR) - "Soft Unlearning": Dit objectief minimaliseert de gevoeligheid van de voorspelde ruis voor de concept neuronen door de gradiënten te verkleinen (gebaseerd op de Hessiaan/lokale kromming). Dit is subtieler en werkt beter voor het ontkoppelen van complexe conceptcombinaties.

C. Dynamische Masking:
In tegenstelling tot eerdere methoden berekent TRUST het neuron-masker na elke stap van de fine-tuning. Hierdoor past het model zich continu aan de verschuivende representaties aan tijdens het leerproces.

3. Belangrijkste Bijdragen (Key Contributions)

Nieuwe lokalisatiemethode: Een gradiënt-gebaseerde methode die niet alleen individuele concepten, maar ook complexe combinaties en conditionele relaties (bijv. "kat op de tafel" vs "kat onder de tafel") kan lokaliseren.
Twee unlearning-strategieën: De introductie van CIP en CSR, die een keuze bieden tussen strikte verwijdering en behoud van utiliteit.
End-to-end Framework: Een robuust framework dat sneller en efficiënter is dan de huidige State-of-the-Art (SOTA).

4. Resultaten (Results)

De experimenten op Stable Diffusion v1.5 laten indrukwekkende resultaten zien:

Robuustheid: TRUST is superieur in het weerstaan van adversarial attacks (aanvallen waarbij prompts worden gemanipuleerd om filters te omzeilen). Het verlaagt de Attack Success Rate (ASR) aanzienlijk vergeleken met methoden zoals SalUn en CoGFD.
Behoud van Kwaliteit (Utility Preservation): De impact op niet-doelgerichte concepten is minimaal ( $\Delta \text{FID} = 0.02$ ), wat betekent dat de fotorealisme en semantische trouw van het model nagenoeg intact blijven.
Conceptuele Ontkoppeling: TRUST slaagt erin om schadelijke combinaties te verwijderen (bijv. "kind drinkt bier") terwijl de individuele concepten ("kind" en "bier") veilig en bruikbaar blijven.
Efficiëntie: Het proces is aanzienlijk sneller. Met de CSR-methode is unlearning mogelijk in slechts 60 stappen, wat veel minder is dan de huidige standaarden.

5. Betekenis (Significance)

Dit onderzoek is van groot belang voor de veiligheid van generatieve AI. Het biedt een weg naar "chirurgische" interventies in AI-modellen: het verwijderen van specifieke schadelijke kennis zonder de creatieve en algemene capaciteiten van het model te beschadigen. Omdat de methode architectuur-agnostisch is (het werkt op gradiënten in de cross-attention lagen), is het potentieel toepasbaar op een breed scala aan toekomstige generatieve modellen.