🤖 machine learning

TILDE: TILt-based Distributional Erasure for Concept Unlearning

Das Papier schlägt TILDE vor, ein neuartiges Framework für das Concept Unlearning in Text-zu-Bild-Diffusionsmodellen, das die Aufgabe als Problem der Verteilungsanpassung formuliert, um unerwünschte Konzepte effektiv zu unterdrücken, während die Qualität, Diversität und semantische Abdeckung des Modells auf benignen Daten bewahrt werden.

Ursprüngliche Autoren: Naveen George, Naoki Murata, Yuhta Takida, Konda Reddy Mopuri, Yuki Mitsufuji

Veröffentlicht 2026-07-08

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Naveen George, Naoki Murata, Yuhta Takida, Konda Reddy Mopuri, Yuki Mitsufuji

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie hätten einen Meisterkoch, der gelernt hat, jedes Gericht der Welt zu kochen, einschließlich Rezepten für eine bestimmte, umstrittene Zutat (sagen wir, „Scharfe Ghost Pepper“), die Sie nun vollständig aus seinem Repertoire entfernen wollen.

Das Problem ist knifflig: Wenn Sie dem Koch einfach nur sagen: „Hör auf, Ghost-Pepper-Gerichte zu machen“, könnte er verwirrt werden und auch andere Gerichte ruinieren. Vielleicht vergisst er dann, wie man eine normale Tomatensuppe macht, weil sie auch rot ist, oder er hört ganz auf, irgendetwas Scharfes zu kochen. Dies ist die Kernherausforderung des Concept Unlearning (Konzept-Entlernen) bei KI-Bildgeneratoren: Wie bringt man die KI dazu, eine bestimmte Sache zu vergessen (wie das Gesicht eines Prominenten, den Stil eines bestimmten Künstlers oder einen urheberrechtlich geschützten Charakter), ohne dabei ihre Fähigkeit für alles andere zu beeinträchtigen?

Dieses Paper stellt eine neue Methode namens TILDE (TILt-based Distributional Erasure) vor, um dieses Problem zu lösen. So funktioniert es, erklärt anhand einfacher Analogien:

1. Der alte Weg: „Den Tisch zertrümmern“ vs. „Übermalen“

Frühere Methoden versuchten, Konzepte auf zwei Arten zu entlernen, die beide Mängel aufwiesen:

Direkte Unterdrückung: Stellen Sie sich vor, Sie versuchen, den Koch daran zu hindern, Ghost Pepper zu kochen, indem Sie jedes Mal „NEIN!“ rufen, wenn er nach dem Gewürzglas greift. Dies macht den Koch oft nervös, und er hört auf, irgendetwas Scharfes zu kochen, was gute Gerichte wie ein normales Chili ruiniert.
Anker-Ersetzung: Stellen Sie sich vor, Sie sagen dem Koch: „Verwende statt Ghost Pepper einfach normale Paprika.“ Das funktioniert zwar, aber es zwingt den Koch dazu, seinen Stil an das „Paprika-Gericht“ anzupassen, was vielleicht nicht das ist, was Sie wollten. Es ist, als würde man einen Maler zwingen, von Van Gogh zu Monet zu wechseln, nur um aufzuhören, Van Gogh zu malen.

2. Die TILDE-Lösung: „Der unsichtbare Filter“

TILDE verfolgt einen anderen Ansatz. Anstatt „NEIN“ zu rufen oder einen neuen Stil aufzuzwingen, erstellt TILDE einen intelligenten Filter über den Verstand des Kochs.

Stellen Sie sich das Wissen der KI als eine riesige Landschaft möglicher Bilder vor.

Die „Ghost Pepper“-Zone: Es gibt einen spezifischen Bereich in dieser Landschaft, in dem die Bilder des unerwünschten Konzepts leben.
Die „Sichere“ Zone: Überall sonst finden sich schöne, sichere Bilder (gutartige Konzepte).

TILDE versucht nicht, die „Ghost Pepper“-Zone zu löschen oder den Koch zu einem spezifischen „Paprika-Zone“ zu zwingen. Stattdessen neigt (tilts) es die Landschaft sanft.

Es macht den Bereich der „Ghost Pepper“ zu einem steilen, rutschigen Hügel, von dem der Koch natürlich weggleitet.
Entscheidend ist, dass es den Rest der Landschaft nicht neigt. Die „Sicheren“ Zonen bleiben flach und komfortabel. Der Koch kann sich in den „Sicheren“ Zonen weiterhin genau so bewegen, wie er es zuvor getan hat.

Dies nennt man „Distributional Alignment“ (Verteilungsausrichtung). Das Ziel ist nicht, ein neues Ziel zu finden, sondern das unerwünschte Ziel unerreichbar zu machen, während die restliche Karte exakt gleich bleibt.

3. Wie es weiß, was zu vermeiden ist: Der „CLIP-Score“

Wie weiß die KI, welche Bilder „Ghost Pepper“ und welche nur „rote Tomaten“ sind?
TILDE nutzt ein Werkzeug namens CLIP (ein System, das die Verbindung zwischen Text und Bild versteht) als Sicherheitswachmann.

Der Wachmann hat eine Liste von Beschreibungen für das unerwünschte Konzept (z. B. „Pikachu“, „Gelbes Pokémon“).
Wenn die KI ein Bild generiert, prüft der Wachmann: „Sieht das wie Pikachu aus?“
Der Schwellenwert: Dies ist das Geheimrezept. Der Wachmann schlägt nur Alarm, wenn das Bild sehr deutlich Pikachu ist. Wenn ein Bild nur „eine gelbe Zeichentrickfigur“ ist, aber nicht ganz Pikachu, sagt der Wachmann: „Das ist in Ordnung, mach weiter.“
Dies verhindert, dass die KI versehentlich harmlose Bilder bestraft, die dem verbotenen Konzept nur ähnlich sehen.

4. Der Trainingsprozess: „Das Korrigieren lernen“

Anstatt den gesamten Koch von Grund auf neu zu trainieren (was ewig dauert), nutzt TILDE eine Technik namens Residual GFlowNet.

Stellen Sie sich vor, der Koch beherrscht bereits 99 % aller Gerichte perfekt.
TILDE trainiert nur einen kleinen Assistenten (ein „Residual“-Netzwerk), dessen einzige Aufgabe es ist, dem Koch Korrekturen zuzuflüstern.
Wenn der Koch beginnt, sich in Richtung eines „Ghost Pepper“-Gerichts zu bewegen, flüstert der Assistent: „Hey, dieser Pfad führt in eine verbotene Zone, dreh dich leicht nach links.“
Wenn der Koch ein sicheres Gericht kocht, bleibt der Assistent stumm.
Da der Assistent nur Korrekturen flüstert, bleiben die ursprünglichen Fähigkeiten des Kochs intakt, und er vergisst nicht, wie man die sicheren Gerichte kocht.

Die Ergebnisse

Das Paper testete dies an Dingen wie dem Entfernen spezifischer Künstler (Van Gogh), Charaktere (Pikachu) oder Objekte.

Erfolg: TILDE stoppte die KI erfolgreich dabei, die unerwünschten Konzepte zu generieren (fast 100 % Erfolg).
Keine Kollateralschäden: Im Gegensatz zu anderen Methoden ruinierte TILDE nicht die Fähigkeit der KI, verwandte Dinge zu generieren. Zum Beispiel konnte die KI nach dem Entlernen von „Van Gogh“ immer noch „impressionistische“ Kunst perfekt malen.
Diversität: Die KI wurde nicht „langweilig“ und erzeugte nicht nur eine Art von sicherem Bild; sie behielt ihre volle Vielfalt an sicheren Ausgaben bei.

Zusammenfassung

TILDE ist wie eine sanfte, unsichtbare Hand, die eine KI sanft von einer bestimmten unerwünschten Idee wegführt, ohne sie in eine neue, erzwungene Idee zu drängen oder ihre Fähigkeit zu beeinträchtigen, alles andere zu tun. Dies geschieht, indem die Wahrscheinlichkeit, schlechte Bilder zu generieren, mathematisch auf nahezu Null „geneigt“ wird, während die Wahrscheinlichkeit aller guten Bilder exakt dort bleibt, wo sie zuvor war.

Technisches Resümee: TILDE (TILt-based Distributional Erasure for Concept Unlearning)

Problemstellung

Das Vergessen von Konzepten (Concept Unlearning) in Text-zu-Bild-Diffusionsmodellen ist essenziell, um Datenschutz-, Urheberrechts- und Sicherheitsbedenken zu adressieren, da Modelle spezifische unerwünschte Konzepte (z. B. bestimmte Künstler, Charaktere oder Objekte) nach dem Training unterdrücken müssen. Bestehende Methoden stehen jedoch vor einem kritischen Kompromiss: Effektives Vergessen führt oft zu einem „Retentionsfehler“ (Retention Failure), bei dem die Fähigkeit des Modells, gutartige, semantisch verwandte oder allgemeine Prompts zu generieren, degradiert wird.

Aktuelle Ansätze stützen sich typischerweise auf:

Direkte Unterdrückung: Die Bestrafung von Konzept-Scores, was oft benachbarte gutartige Konzepte beschädigt (Kollateralschaden).
Anker-basierte Editierung: Die Abbildung des zu vergessenden Konzepts auf ein Zielkonzept, was Instabilität und Bias einführt, insbesondere bei sequenziellen Löschanfragen.
Belohnungsbasierte Optimierung: Die Maximierung einer skalaren Vergessens-Belohnung, was oft die Diversität kollabieren lässt, indem die Generierung auf eine enge Menge sicherer Ausgaben konzentriert wird.

Das grundlegende Problem besteht darin, dass diese Methoden die gewünschte Post-Unlearning-Verteilung nicht explizit definieren. Infolgedessen wird die Retention als eine implizite Konsequenz der Update-Regel behandelt und nicht als ein kontrolliertes Ziel, was zu einer suboptimalen distributionalen Treue im Vergleich zu einem hypothetischen „Nur-Retention“-Modell führt, das ohne die unerwünschten Daten von Grund auf neu trainiert wurde.

Methodik: TILDE

Die Autoren schlagen TILDE (TILt-based Distributional Erasure) vor, welches das Vergessen von Konzepten als ein beschränktes distributionale Ausrichtungsproblem (constrained distributional alignment problem) umformuliert. Anstatt lokaler Unterdrückung oder Anker-Ersetzung sucht TILDE nach der bedingten Verteilung, die die Abweichung vom vortrainierten Modell minimiert und gleichzeitig eine Vergessens-Beschränkung erfüllt.

1. Theoretische Formulierung

Das Ziel ist definiert als die Lösung einer beschränkten Kullback-Leibler-Projektion (KL-Projektion):
$p^*_C = \arg \min_{p} \mathbb{E}_{y \sim \pi} [KL(p(\cdot | y) \parallel p_{pre}(\cdot | y))]$
Unter der Nebenbedingung:
$\mathbb{E}_{y \sim \pi, x \sim p(\cdot|y)} [E_C(x)] \le \delta_C$

Wobei:

$p_{pre}$ die vortrainierte bedingte Verteilung ist.
$E_C(x)$ eine „Forget Energy“ darstellt, welche die Evidenz des Konzepts $C$ in Bild $x$ quantifiziert.
Die Lösung die Form einer energy-tilted Gibbs-Verteilung annimmt:
$p^*_C(x | y) \propto p_{pre}(x | y) \exp(-\beta E_C(x))$

Diese Formulierung stellt sicher, dass konzept-ausdrückende Bilder abgewertet werden, während gutartige Bilder ihre relativen vortrainierten Wahrscheinlichkeiten bewahren (ankerfrei).

2. Praktisches Surrogat: Thresholded CLIP Energy

Um die abstrakte Energie $E_C$ zu instanziieren, verwendet TILDE ein thresholded CLIP-basiertes Surrogat:

Konzept-Sonden (Concept Probes): Eine Menge von Textbeschreibern $Q_C$ (z. B. „Pikachu“, „ein Foto von Pikachu“) wird verwendet, um den durchschnittlichen CLIP-Ähnlichkeitswert $s_C(x)$ zu berechnen.
Schwellenwertbildung (Thresholding): Eine Forget Energy $eE_C(x)$ wird so definiert, dass sie null ist, wenn $s_C(x) \le \tau$ (gutartiger Bereich), und exponentiell ansteigt, wenn $s_C(x) > \tau$ .
Bedeutung: Der Schwellenwert $\tau$ schafft eine „No-Penalty“-Region, die verhindert, dass Gradienten Bilder mit schwacher Konzeptähnlichkeit beeinflussen, wodurch die lokale Retention bewahrt wird.

3. Optimierung via Residual $\nabla$ -GFlowNet

Um diese gekippte Verteilung in einem Diffusionsmodell zu realisieren, setzt TILDE auf Residual $\nabla$ -GFlowNet-Training:

Ziel: Das erforderliche Score-Korrekturverfahren zu lernen, um den vortrainierten Sampler in den energy-tilted Zielzustand zu transformieren.
Mechanismus: Anstatt einen vollständigen Sampler von Grund auf neu zu trainieren, lernt das Modell einen residualen Fortsetzungsscore $h_\phi$ , der den Denoising-Trajektorien-Pfad anpasst.
Verlustfunktion: Das Training minimiert einen Vorwärts- und Rückwärtsverlust ( $L_{fwd}, L_{rev}$ ), um die lokale Konsistenz zwischen dem adaptierten Denoiser und dem vortrainierten Denoiser unter Führung der terminalen Forget Energy zu erzwingen.
Implementierung: Die Updates sind auf LoRA-Adapter in den Attention-Layern beschränkt, was die Parametereffizienz sicherstellt und den Update-Bias minimiert.

Kernbeiträge

Distributionale Formulierung: Die Arbeit formuliert das Vergessen von Konzepten als ein beschränktes distributionales Ausrichtungsproblem und leitet daraus eine explizite, ankerfreie, minimale-Abweichungs-Gibbs-Zielverteilung ab.
TILDE-Algorithmus: Sie führt eine praktische Instanziierung unter Verwendung von thresholded CLIP-Energie und Residual $\nabla$ -GFlowNet-Training im Diffusions-Latent-Raum ein.
Empirische Validierung: Die Methode wird über Objekte, künstlerische Stile und Charaktere hinweg evaluiert und zeigt Verbesserungen in der Effektivität des Vergessens bei gleichzeitiger Aufrechterhaltung einer höheren Retention und distributionale Treue im Vergleich zu bisherigen Baselines.

Experimentelle Ergebnisse

Die Autoren evaluierten TILDE auf Stable Diffusion v1.5 über ~60 Konzepte (Objekte, Charaktere, Stile, Nudität).

Performance: TILDE erreicht ein nahezu vollständiges Vergessen (z. B. 0,99 Unlearning Accuracy für Charaktere), während es gleichzeitig die Baselines in der Related Retention (Bewahrung semantisch benachbarter Konzepte) und der General Retention signifikant übertrifft.
Vergleich:
- Hard Erasure (z. B. MACE): Erreicht hohes Vergessen, zerstört aber die Retention (Related Retention sinkt auf ~0,17).
- Soft Suppression (z. B. ESD): Bewahrt die Retention, erreicht aber oft nicht ein ausreichendes Maß an Vergessen.
- Anker-basiert (z. B. CA, UCE): Verbessert die Qualität, stützt sich jedoch auf explizite Retain-Sets und lässt dennoch Residuen des Konzepts zurück.
- TILDE: Positioniert sich an der Pareto-Front und erreicht hohes Vergessen ohne die Notwendigkeit expliziter Retain-Supervision oder Anker-Konzepte.
Ablationsstudien:
- Das Entfernen der $\nabla$ -Form (Verwendung absoluter Flow-Targets) führt zum Kollaps der Vergessensleistung.
- Das Entfernen der Residual-Komponente zwingt das vollständige Score-Feld, das Update zu absorbieren, was die allgemeine Retention verschlechtert.
- Das Entfernen des Energie-Schwellenwerts verursacht einen katastrophalen Kollaps der Retention, was die Notwendigkeit der „No-Penalty“-Region bestätigt.
Distributionale Metriken: TILDE zeigt niedrigere FADE (Functional Alignment Distance) und FID-Scores im Vergleich zu den Baselines, was auf eine engere Übereinstimmung mit der idealen „Nur-Retention“-Verteilung hindeutet.

Signifikanz und Behauptungen

Das Paper behauptet, dass TILDE den „Retention-Failure“ adressiert, der aktuellen Unlearning-Methoden innewohnt, indem es die Post-Unlearning-Verteilung explizit definiert. Durch die Rahmung des Vergessens als Minimal-Abweichungs-Distributional-Alignment vermeidet TILDE die Fallstricke von:

Kollateralschäden durch direkte Unterdrückung.
Diversitätskollaps durch Belohnungsmaximierung.
Instabilität durch feste Anker-Mappings.

Die Autoren argumentieren, dass TILDE die „natürliche minimale Modifikation“ eines vortrainierten Modells darstellt, welche die Vergessens-Beschränkungen erfüllt. Die Verwendung von thresholded Energy stellt sicher, dass gutartige Konzepte nicht bestraft werden, während das Residual $\nabla$ -GFlowNet-Framework einen effizienten Mechanismus bietet, um dieses distributionale Ziel in hochdimensionalen latenten Räumen zu realisieren. Die Arbeit legt nahe, dass zukünftige Unlearning-Forschung der Definition der Zielverteilung Priorität einräumen sollte, bevor Auswahlregeln für Updates getroffen werden.