🤖 machine learning

Concept Unlearning via Cross-Attention Activation Projection for Diffusion Models

Das Papier schlägt PURE vor, eine geschlossene Formel für das Konzept-Lernen, die Cross-Attention-Key- und -Value-Gewichte basierend auf Repräsentationen im Aktivierungsraum projiziert, um Zielkonzepte in Diffusionsmodellen effektiv unter paraphrasierten und adversarialen Prompts zu löschen, während die Generierung beibehaltener Konzepte erhalten bleibt.

Ursprüngliche Autoren: Saemi Moon, Suhyeon Jun, Seoyeon Lee, Dongwoo Kim

Veröffentlicht 2026-05-26

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Saemi Moon, Suhyeon Jun, Seoyeon Lee, Dongwoo Kim

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen hochtalentierten Künstler (die KI), der gelernt hat, alles in der Welt zu zeichnen. Aus Sicherheits- oder rechtlichen Gründen müssen Sie diesem Künstler jedoch beibringen, das Zeichnen bestimmter Dinge zu vergessen, wie etwa eine berühmte Comicfigur (Pikachu) oder einen bestimmten Malstil (Van Gogh).

Der knifflige Teil ist: Sie wollen nicht, dass der Künstler alles andere vergisst. Sie möchten weiterhin, dass er problemlos Mickey Mouse, Mario oder Landschaften zeichnen kann.

Diese Arbeit stellt eine neue, clevere Methode vor, um diese spezifischen Konzepte zu „verlernen", ohne den gesamten Künstler von Grund auf neu trainieren zu müssen. So funktioniert es, aufgeschlüsselt mit einfachen Analogien:

Das Problem: Der Fehler mit dem „Namensschild"

Frühere Methoden versuchten, den Künstler zu vergessen zu lassen, indem sie auf Namensschilder schauten.

Wie es funktionierte: Wenn Sie wollten, dass der Künstler „Pikachu" vergisst, suchte der Computer nach Eingabeaufforderungen wie „ein Foto von Pikachu" oder „ein Bild von Pikachu". Er fand den Teil „Pikachu" im Text und versuchte, dieses spezifische Textmuster aus dem Gehirn des Künstlers zu löschen.
Der Fehler: Das ist so, als würde man versuchen, jemanden daran zu hindern, einen Freund zu erkennen, indem man nur seinen Namen verbietet. Wenn Sie dem Künstler sagen: „Zeichne eine gelbe, elektrische Maus mit roten Wangen", sagt der Künstler: „Oh, ich weiß nicht, was 'Pikachu' ist, aber ich weiß, wie man diese Beschreibung zeichnet!" Der Künstler zeichnet immer noch Pikachu, obwohl Sie den Namen verboten haben. Die alten Methoden waren zu sehr auf die Wörter fokussiert und verpassten die Idee.

Die Lösung: Beobachtung des „Skizzenprozesses"

Die Autoren, Saemi Moon und ihr Team, erkannten, dass der Künstler nicht nur auf das Namensschild schaut, sondern auf den tatsächlichen Skizzenprozess.

Die neue Idee: Anstatt auf den Text-Prompt zu schauen, beobachteten sie die internen „Pinselstriche" des Künstlers (genannt Cross-Attention-Aktivierungen), während der Künstler tatsächlich das Bild zeichnete.
Die Analogie: Stellen Sie sich vor, der Künstler zeichnet ein Bild.
- Alte Methode: Sie schauen auf das Bestellformular und sagen: „Löschen Sie das Wort 'Pikachu'."
- Neue Methode (PURE): Sie beobachten die Hand des Künstlers, während sie die gelben Ohren und die roten Wangen zeichnet. Sie sehen genau, wie sich die Hand des Künstlers bewegt, um diese spezifischen Merkmale zu erzeugen. Anschließend lenken Sie die Hand sanft von dieser spezifischen Bewegung ab, wann immer sie versucht, diese Merkmale erneut zu zeichnen.

Da die Handbewegungen des Künstlers (die Aktivierungen) es sind, die tatsächlich das Bild erzeugen, funktioniert das Blockieren dieser spezifischen Bewegungen viel besser als das Blockieren der Wörter allein. Es verhindert, dass der Künstler Pikachu zeichnet, selbst wenn Sie es auf tausend verschiedene Arten beschreiben, ohne den Namen zu verwenden.

Wie sie es gemacht haben (Die „Einmalige Korrektur")

Die Arbeit schlägt eine Methode namens PURE vor. Sie ist „closed-form", was eine elegante Art zu sagen ist, dass es sich um eine einmalige, schnelle mathematische Korrektur handelt und nicht um einen langen, langsamen Trainingsprozess.

Die Beobachtung: Sie ließen den Künstler einige „Pikachu"-Prompts zeichnen und zeichneten die spezifischen Handbewegungen (Aktivierungen) auf, die in jeder Schicht des Zeichnungsprozesses verwendet wurden.
Die Karte: Sie erstellten eine „Karte" dieser Bewegungen. Diese Karte zeigt genau, was der Künstler tut, wenn er das Ding zeichnet, das Sie vergessen lassen wollen.
Die Bearbeitung: Sie wendeten einen einzigen mathematischen „Filter" auf das Gehirn des Künstlers an. Dieser Filter sagt: „Wenn sich deine Hand in Richtung 'Pikachu' bewegen will, stoppe. Aber wenn du dich in Richtung 'Mario' oder 'Landschaft' bewegen willst, mach weiter."
Das Ergebnis: Der Künstler vergisst sofort, wie man das Zielkonzept zeichnet, behält aber alle seine anderen Fähigkeiten perfekt bei.

Warum es besser ist

Die Arbeit testete dies gegen andere Methoden unter Verwendung eines „Holistic Unlearning Benchmark" (ein Test mit 10 verschiedenen Konzepten wie Stilen, Prominenten und Comicfiguren).

Besser beim Vergessen: PURE verhinderte, dass der Künstler die verbotenen Konzepte zeichnete, selbst wenn die Leute knifflige, umformulierte Beschreibungen verwendeten (wie „ein gelbes elektrisches Nagetier").
Besser beim Erinnern: Im Gegensatz zu anderen Methoden, die versehentlich den Künstler dazu brachten, andere Dinge zu vergessen (wie ihn schlecht darin zu machen, Mickey Mouse zu zeichnen, wenn man Pikachu verbieten wollte), hielt PURE die anderen Fähigkeiten des Künstlers scharf.
Keine zusätzlichen Kosten: Da es sich um eine schnelle mathematische Bearbeitung handelt, verlangsamt es den Künstler nicht oder erfordert kein teures Neutrainieren.

Auf den Punkt gebracht

Stellen Sie sich die alten Methoden als Versuch vor, eine Erinnerung zu löschen, indem man ein Wort in einem Wörterbuch durchstreicht. Die neue Methode (PURE) ist wie dem Künstler beizubringen, eine bestimmte Handbewegung zu unterlassen. Da die Handbewegung es ist, die tatsächlich das Bild erzeugt, ist dieser Ansatz viel schwerer zu täuschen und lässt die anderen Talente des Künstlers völlig unberührt.

Technische Zusammenfassung: Konzept-Lernen durch Projektion der Cross-Attention-Aktivierung für Diffusionsmodelle

Problemstellung

Das Konzept-Lernen zielt darauf ab, spezifische Zielkonzepte (z. B. urheberrechtlich geschützte Stile, Ähnlichkeiten von Prominenten oder unsichere Bilder) aus vortrainierten Text-zu-Bild-Diffusionsmodellen zu entfernen, ohne die Rechenkosten eines vollständigen Neutrainings. Ein effektives Lernen muss zwei gleichzeitige Anforderungen erfüllen: das Vergessen des Zielkonzepts selbst bei umformulierten oder adversarialen Prompts und das Beibehalten der Fähigkeit des Modells, alle anderen nicht verwandten Konzepte zu generieren.

Bestehende geschlossene Methoden, die eine einzelne deterministische Änderung der Modellgewichte ohne gradientenbasiertes Feinabstimmen vornehmen, stoßen auf eine kritische Einschränkung. Diese Methoden (z. B. UCE, CURE) konstruieren die „Vergessensbasis" mithilfe von Text-Encoder-Einbettungen, die aus kurzen Anker-Prompts (z. B. „Van Gogh") abgeleitet werden. Die Autoren argumentieren, dass Texteinbettungen zwar die Eingabe des Benutzers beschreiben, aber nicht erfassen, wie das Modell diesen Prompt tatsächlich während des Denoising-Prozesses nutzt. Folglich umgehen umformulierte Prompts, die das Zielkonzept hervorrufen, ohne die Anker-Vorlagen zu matchen, häufig die Lern-Änderung, was zu „Ziel-Leckagen" führt.

Methodik: PURE

Die Arbeit schlägt PURE (Projection in U-Net Rendering for Erasure) vor, eine geschlossene Lernmethode, die die Basis-Konstruktion vom Raum der Text-Encoder-Einbettungen in den Raum der Cross-Attention-Aktivierungen innerhalb des U-Net verlagert.

Kernhypothese:
Cross-Attention-Aktivierungen ( $h^\ell$ ) in Schicht $\ell$ spiegeln wider, wie der Denoiser die Textbedingung unter dem aktuellen latenten Zustand und Zeitschritt verwendet. Im Gegensatz zu statischen Texteinbettungen erfassen diese Aktivierungen die spezifischen Konzeptnachweise, die tatsächlich während der Bildgenerierung verwendet werden, und bieten eine bessere Generalisierung auf diverse Prompt-Formulierungen.

Algorithmisches Verfahren:

Erfassung der Aktivierungen: Für einen Satz von Lern-Ankern ( $\mathcal{A}_f$ ) und Beibehaltungs-Ankern ( $\mathcal{A}_r$ ) führt das Modell eine kurze Denoising-Trajektorie aus. In jeder Schicht $\ell$ und jedem Zeitschritt werden die Aktivierungen nach der Attention extrahiert, räumlich gemittelt und zu Matrizen $H^\ell_F$ und $H^\ell_R$ aggregiert.
Unterraum-Konstruktion: Für jede Schicht wird eine Singulärwertzerlegung (SVD) auf $H^\ell_F$ und $H^\ell_R$ durchgeführt. Die oberen Singulärvektoren bis zu einem kumulierten Varianzschwellenwert ( $\tau_F, \tau_R$ ) bilden die Vergessensbasis ( $V^\ell_F$ ) und die Beibehaltungsbasis ( $V^\ell_R$ ).
Lineare Änderung: Die Methode wendet eine einzelne lineare Aktualisierung auf die Projektionsmatrizen für den Cross-Attention-Schlüssel ( $W^\ell_K$ $W_{K}^{ℓ}$ ) und den Wert ( $W^\ell_V$ $W_{V}^{ℓ}$ ) an. Der Aktualisierungsoperator $E^\ell$ $E^{ℓ}$ ist definiert als:
$E^\ell = I - P^\ell_F (I - P^\ell_R)$
wobei $P^\ell_F = V^\ell_F (V^\ell_F)^\top$ $P_{F}^{ℓ} = V_{F}^{ℓ} (V_{F}^{ℓ})^{⊤}$ und $P^\ell_R = V^\ell_R (V^\ell_R)^\top$ $P_{R}^{ℓ} = V_{R}^{ℓ} (V_{R}^{ℓ})^{⊤}$ .
Die Gewichte werden durch Linksmultiplikation aktualisiert: $W^\ell \leftarrow E^\ell W^\ell$ $W^{ℓ} \leftarrow E^{ℓ} W^{ℓ}$ .
- Mechanismus: Der Term $(I - P^\ell_R)$ entfernt Komponenten, die mit Beibehaltungskonzepten ausgerichtet sind, und stellt sicher, dass $P^\ell_F$ nur auf den orthogonalen Unterraum wirkt. Das Subtrahieren dieses Terms von der Identität stellt sicher, dass Eingaben, die mit Beibehaltungskonzepten ausgerichtet sind, unverändert durchlaufen.
- Strukturelle Verschiebung: Im Gegensatz zu früheren Methoden, die im Textraum von rechts multiplizieren, multipliziert PURE im Aktivierungsraum ( $d_\ell \times d_\ell$ ) von links, was eine schichtweise Änderung erfordert.

Hauptbeiträge

Aktivierungsbasierte Basis: Die Arbeit identifiziert, dass die Konstruktion der Vergessensbasis aus Cross-Attention-Aktivierungen anstelle von Texteinbettungen die Erkennung von Zielkonzepten in diversen natürlichen und adversarialen Prompts erheblich verbessert.
Sondierungs-Experiment: Ein binäres Klassifikationsexperiment zeigt, dass eine aktivierungsbasierte Basis bei natürlichen umformulierten Prompts eine etwa fünfmal höhere Recall-Rate erreicht als eine textbasierte Basis. Dies bestätigt, dass Aktivierungsmerkmale generierungsrelevante Konzeptnachweise besser erfassen.
Effizienz der geschlossenen Form: PURE behält die Vorteile der geschlossenen Bearbeitung bei: Es erfordert kein gradientenbasiertes Training, keine zusätzlichen Verlustfunktionen, keine Hyperparameter-Tuning der Lernraten und fügt nach der Anwendung der Änderung keine Kosten zur Inferenzzeit hinzu.
Schichtspezifische Bearbeitung: Die Methode führt eine SVD und Änderung pro Schicht durch und erkennt an, dass die Konzeptrepräsentation über die Tiefe des U-Net variiert.

Experimentelle Ergebnisse

Die Autoren haben PURE auf dem Holistic Unlearning Benchmark (HUB) evaluiert, der zehn Konzepte über vier Kategorien abdeckt: Künstlerischer Stil, Geistiges Eigentum (IP), Prominente und NSFW.

Trade-off zwischen Vergessen und Beibehalten: PURE erzielt im Vergleich zu fünf Baselines (ESD, MACE, RECELER, UCE, CURE) die beste harmonische Mittelwert-Score über alle Kategorien hinweg.
Unterdrückung des Ziels: PURE reduziert die Ziel-Leckage bei umformulierten und adversarialen Prompts im Vergleich zu CURE erheblich, das oft versagt, umformulierte Prompts zu unterdrücken.
Beibehaltung: PURE bewahrt „Beibehaltungs"-Konzepte (nachbarliche Konzepte in derselben Kategorie) besser als aggressive trainingsbasierte Methoden (die die Beibehaltung schädigen) und besser als textraum-basierte geschlossene Methoden (die oft die Beibehaltung zugunsten der Unterdrückung in Stil-Kategorien opfern).
Ablationsstudien:
- Ankergröße: Eine Erhöhung der Anzahl natürlicher Lern-Anker verbessert die Unterdrückung der Textbasis, verschlechtert jedoch die Beibehaltung. Die Aktivierungsbasis behält eine starke Unterdrückung bei minimalen Verlusten in der Beibehaltung bei, selbst wenn die Ankersätze wachsen.
- Denoising-Schritte: Die Verwendung eines einzelnen Denoising-Schritts ( $T=1$ ) verschlechtert die Leistung erheblich, was darauf hinweist, dass das Erfassen des Konzeptsignals über die gesamte Trajektorie hinweg entscheidend ist.
- Latente Mittelung: Das Mitteln über mehrere zufällige latente Zustände ( $n_{lat}$ ) stabilisiert die Basis hin zu konzeptspezifischen Richtungen anstatt zu noise-spezifischen Artefakten.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass PURE einen fundamentalen Wandel darstellt, wie geschlossenes Lernen angegangen wird. Durch die Verlagerung der Basis-Konstruktion vom statischen Text-Encoder-Raum in den dynamischen Cross-Attention-Aktivierungsraum überwindet die Methode den primären Fehlermodus bestehender geschlossener Techniken: die Unfähigkeit, Prompt-Variationen zu handhaben, die außerhalb der Anker-Vorlagen liegen.

Die Autoren behaupten, dass PURE eine robuste, effiziente und state-of-the-art Lösung für das Konzept-Lernen bietet, die ein überlegenes Gleichgewicht zwischen dem Löschen unerwünschter Konzepte und der Bewahrung der allgemeinen Nützlichkeit des Modells ohne den Rechenaufwand eines Neutrainings ermöglicht. Die Arbeit legt nahe, dass die „Vergessensrichtung" genauer durch den internen Rendering-Prozess des Modells definiert wird als durch den Eingabetext allein.