🤖 machine learning

MAAT: Multi-phase Adapter-Aware Targeted Unlearning

Dieses Paper führt 5WBENCH ein, einen ausgewogenen Benchmark, der aufzeigt, dass bestehende Machine-Unlearning-Methoden bei kausalen „Warum“-Fragen aufgrund von Multi-Hop-Schlussfolgerungen und Gradientenverdünnung versagen, und schlägt MAAT vor, ein neuartiges dreiphasiges, Adapter-bewusstes Framework, das erstmals eine hohe Vergessensrate und Beibehaltung bei solchem kausalen Wissen erreicht.

Ursprüngliche Autoren: Suryash Yagnik, Shubham Gaur, Saksham Thakur, Vinija Jain, Aman Chadha, Amitava Das

Veröffentlicht 2026-06-01

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Suryash Yagnik, Shubham Gaur, Saksham Thakur, Vinija Jain, Aman Chadha, Amitava Das

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie besitzen eine riesige, superintelligente Bibliothek (ein Large Language Model), die alles weiß. Manchmal müssen Sie ein bestimmtes Buch aus dieser Bibliothek entfernen, weil es veraltet, privat oder einfach falsch ist. Dieser Prozess wird als „Machine Unlearning“ bezeichnet.

Die aktuelle Art und Weise, wie wir testen, ob eine Bibliothek ein Buch erfolgreich entfernt hat, ist jedoch fehlerhaft. Hier ist die Geschichte von MAAT und 5WBENCH, einfach erklärt.

Das Problem: Die Blindstelle der „Warum“-Frage

Stellen Sie sich vor, Sie testen einen Bibliothekar darauf, ob er eine bestimmte Tatsache vergessen hat.

Aktuelle Tests: Die meisten Tests stellen einfache Fragen wie „Wer ist der Präsident?“ oder „Was ist die Hauptstadt?“. Diese sind leicht zu vergessen. Wenn der Bibliothekar sagt: „Ich weiß es nicht“, denken Sie, er hat seine Aufgabe gut erledigt.
Das fehlende Puzzleteil: Die Arbeit weist darauf an, dass diese Tests fast nie „Warum“-Fragen stellen (z. B. „Warum verursacht Rauchen Krebs?“). „Warum“-Fragen sind wie komplexe, mehrstöckige Gebäude, die aus Logik-Ziegeln gebaut sind. Sie sind schwer einzureißen.

Der Fehler: Da aktuelle Tests „Warum“-Fragen ignorieren, könnte ein Bibliothekar eine komplexe „Warum“-Tatsache zwar nicht vergessen haben, aber dennoch eine perfekte Punktzahl erhalten, weil er alle einfachen „Wer“- und „Was“-Fakten vergessen hat. Es ist, als würde ein Schüler eine schwere Matheprüfung verhauen, aber eine Eins bekommen, weil er den Rechtschreibtest mit Bravour bestanden hat.

Die Lösung Teil 1: 5WBENCH (Der neue Test)

Die Autoren haben einen neuen, fairen Test namens 5WBENCH entwickelt.

Die Analogie: Betrachten Sie dies als eine ausgewogene Ernährung für das Testen. Anstatt nur Äpfel (einfache Fakten) zu servieren, servieren sie einen Teller mit genau gleichen Mengen von fünf Arten von Lebensmitteln: Wer, Was, Wann, Wo und Warum.
Das Ergebnis: Dieser Test zeigte auf, dass bestehende Methoden schrecklich darin sind, „Warum“-Fakten zu vergessen. Sie vergessen entweder zu wenig (die Tatsache bleibt bestehen) oder zu viel (sie zerstören die Fähigkeit des Bibliothekars, irgendwelche Fragen zu beantworten).

Die Lösung Teil 2: MAAT (Der smarte Radiergummi)

Um dies zu beheben, haben die Autoren MAAT (Multi-phase Adapter-Aware Targeted Unlearning) entwickelt.

Das Setup:
Stellen Sie sich vor, das Wissen der Bibliothek steht nicht in die Wände geschrieben, sondern befindet sich auf einer Reihe von besonderen Klebezetteln (LoRA-Adaptern), die an den Büchern kleben. Sie müssen nicht die ganze Bibliothek abreißen; Sie müssen nur diese Zettel bearbeiten.

Wie MAAT funktioniert (Die drei Phasen):

Phase 1: Der „Nicht anfassen!“-Schild (Gradient Projection)
- Das Problem: Wenn Sie versuchen, eine „Warum“-Tatsache zu löschen, könnte der Radiergummi versehentlich eine „Wann“-Tatsache auslöschen, die Sie eigentlich behalten wollten.
- Die Lösung: MAAT verwendet einen Schild. Es betrachtet die Richtung der „Lösch“-Kraft und der „Behalten“-Kraft. Wenn diese gegeneinander arbeiten, winkelt MAAT die Löschung so an, dass sie nur das Ziel trifft und an den Dingen vorbeigleitet, die Sie behalten möchten.
Phase 2: Die „Skalpell“-Operation (SVD Pruning & Task Negation)
- Das Problem: „Warum“-Fakten sind lang und komplex. Sie sind über viele Klebezettel verteilt, was sie schwer auffindbar und entfernbar macht.
- Die Lösung: MAAT führt eine „Operation“ an den Klebezetteln durch.
  - Es identifiziert die spezifischen Teile der Zettel, die die „schlechten“ Informationen enthalten (unter Verwendung eines mathematischen Werkzeugs namens SVD).
  - Es schneidet nur diese spezifischen Teile heraus (Pruning).
  - Dann dreht es die verbleibenden „schlechten“ Teile auf den Kopf (Negation), sodass sie sich selbst aufheben.
- Entscheidendes Detail: Es ist sehr vorsichtig dabei, nicht die Teile der Zettel zu beschneiden, die dem Bibliothekar helfen, andere Fragen zu beantworten.
Phase 3: Das „Polieren“ (Hybrid Repair)
- Das Problem: Nach dem Schneiden und Umdrehen könnte der Bibliothekar etwas wackelig oder vergesslich in Bezug auf alles werden.
- Die Lösung: MAAT poliert die Bibliothek sanft wieder auf. Es bringt dem Bibliothekar die Dinge wieder bei, die er sich merken sollte, fügt aber eine spezielle Regel hinzu: „Lerne nicht das, was du gerade gelöscht hast.“ Es ist, als würde man einem Schüler sagen: „Lerne deine Geschichte, aber merke dir nicht dieses eine spezifische Datum, das wir gerade durchgestrichen haben.“

Die Ergebnisse: Eine neue Balance

Vor MAAT mussten Sie sich entscheiden:

Option A: Die schlechte Tatsache vergessen, aber die Bibliothek beschädigen (der Bibliothekar wird unbrauchbar).
Option B: Die Bibliothek funktionstüchtig halten, aber beim Vergessen der schlechten Tatsache versagen.

MAats Errungenschaft:
Unter Verwendung des neuen 5WBENCH-Tests ist MAAT die erste Methode, die beides gleichzeitig schafft. Es vergisst die komplexen „Warum“-Fakten erfolgreich, ohne die Fähigkeit des Bibliothekars zu zerstören, andere Fragen zu beantworten.

Zusammenfassung in einem Satz

Das Paper sagt: „Aktuelle Tests sind unfair, weil sie schwierige ‚Warum‘-Fragen ignorieren, daher haben wir einen besseren Test (5WBENCH) und einen klügeren Radiergummi (MAAT) entwickelt, der komplexes Wissen entfernen kann, ohne den Rest der Bibliothek zu zerstören.“

Technisches Resümee: MAAT: Multi-phase Adapter-Aware Targeted Unlearning

1. Problemstellung

Das Paper identifiziert einen kritischen strukturellen Bias in bestehenden Benchmarks für Machine Unlearning (z. B. CounterFact, ZSRE, TOFU, MUSE, WMDP-Cyber). Diese Datensätze sind stark verzerrt hin zu entitätszentrierten „Was“, „Wer“, „Wann“ und „Wo“-Fragen, während „Warum“-Fragen – die kausale und relationale Wissensketten abfragen – weniger als 0,06 % bis 1,3 % dieser Datensätze ausmachen.

Diese nahezu fehlende Repräsentation erzeugt eine Messlücke: Unlearning-Methoden, die versagen, kausales Wissen zu entfernen, können dennoch hohe Aggregatwerte erzielen. Die Autoren argumentieren, dass kausales Wissen aufgrund zweier Faktoren qualitativ schwerer zu unlernen ist:

Länge und Komplexität: „Warum“-Antworten umfassen im Durchschnitt 40,1 Token (im Vergleich zu 4,2–10,5 bei anderen) und 44 % beinhalten mehrstufige Reasoning-Ketten (im Vergleich zu $\le$ 2 % bei anderen).
Gradienten-Verwässerung (Gradient Dilution): Das Ascent-Signal, das erforderlich ist, um diese Fakten zu unlernen, verteilt sich über lange Token-Spannen ohne dominante Richtung, was dazu führt, dass Standard-Gradienten-basierte Methoden scheitern oder das behaltenen Wissen degradieren, wenn sie gezwungen werden, aggressiv zu agieren.

Bestehende Methoden (Gradient Ascent, KL-regularisierte GA, Adapter Negation) stehen vor einem fundamentalen Tradeoff: Aggressives Vergessen verschlechtert den Nutzen des Modells (Retention), während konservative Methoden daran scheitern, kausale Fakten zu vergessen.

2. Methodik: Das MAAT-Framework

Die Autoren schlagen MAAT (Multi-phase Adapter-Aware Targeted Unlearning) vor, ein dreiphasiges Framework, das direkt auf den LoRA-Adaptergewichten operiert, ohne diese in das Basismodell zu mergen. Dies ermöglicht eine strukturierte „Adapter-Chirurgie“ anstelle eines uniformen Gradientendrucks.

Phase 1: Gradient-Projected Ascent

Standardmäßiger Gradient Ascent wendet Updates uniform an, was behaltenes Wissen erodieren lassen kann, wenn der Forget-Gradient ( $g_f$ ) mit dem Retain-Gradienten ( $g_r$ ) korreliert. MAAT verwendet eine bedingte orthogonale Projektion:

Wenn $g_f \cdot g_r > 0$ (Konflikt), wird die mit $g_r$ korrelierende Komponente von $g_f$ mittels Projektion entfernt:
$g^\perp_f = g_f - \frac{g_f \cdot g_r}{\|g_r\|^2 + \epsilon} g_r$
Wenn kein Konflikt existiert, bleibt die vollständige Forget-Ascent-Richtung erhalten.
Das Ziel minimiert den Forget-Loss, während es über die KL-Divergenz am Pre-Unlearning-Adapterzustand verankert wird.

Phase 2a: SVD Rank-Dimension Pruning (nur MLP)

Um verbleibende Signale in Richtungen mit geringer Magnitude zu adressieren, bewertet MAAT die Dimensionen der Multi-Layer-Perceptron (MLP)-Adapter basierend auf deren Gradienten-Spaltennormen über den Forget-Datensatz.

Der Top- $\rho$ -Anteil der Rang-Dimensionen wird in den $A$ - und $B$ -Matrizen der MLP-Module (down_proj, up_proj, gate_proj) auf Null gesetzt.
Entscheidend ist, dass Attention-Module vom Pruning ausgeschlossen werden, um die Instruction-Following-Fähigkeiten nicht zu zerstören.

Phase 2b: Task Vector Negation

Diese Phase zielt auf den spezifischen Forget-Subraum ab, der in Phase 2a identifiziert wurde.

Die Top- $k_F$ (z. B. 50 %) der Forget-bewerteten Rang-Dimensionen jeder LoRA $B$ -Matrix werden maskiert, um einen „Forget Task Vector“ $\tau^F_l$ zu bilden.
Dieser Vektor wird von den Gewichten subtrahiert: $B_l \leftarrow B_l - \alpha \cdot \tau^F_l$ .
Dies erreicht eine gezielte Unterdrückung, ohne wahllos mit Retention assoziierte Richtungen zu löschen.

Phase 3: Hybrid Retain Repair

Um die durch Pruning und Negation beeinträchtigte Performance wiederherzustellen, wird ein hybrider Repair-Objective minimiert. Dieser kombiniert vier Terme:

KL-Divergenz: Verankert das Modell an der Retain-Verteilung.
Hidden-State-Distanz: Minimiert die Distanz zwischen dem aktuellen und dem Referenz-Hidden-State für Retain-Samples.
Entropie-Maximierung: Ein negativer Entropie-Term ( $-w_{ent} H_F$ ) maximiert die Entropie auf den Vorhersagen des Forget-Sets, um zu verhindern, dass das Modell während der Reparatur vergessene Inhalte neu lernt.
Task Vector Penalty: Bestraft die Kosinus-Ähnlichkeit zwischen den aktuellen Gewichten und dem Forget Task Vector.

3. Kernbeiträge

1. 5WBENCH Benchmark

Die Autoren führen 5WBENCH ein, einen ausgewogenen Benchmark mit 5.000 Samples, der aus dem Factify-5WQA-Korpus abgeleitet ist.

Struktur: 1.000 Beispiele pro 5W-Kategorie (Wer, Was, Wann, Wo, Warum).
Signifikanz: Er bietet die erste statistisch signifikante Abdeckung von „Warum“-Fragen (20 % des Datensatzes) und ermöglicht so die Quantifizierung von Fehlern beim Unlernen kausaler Informationen, die in verzerrten Benchmarks zuvor unentdeckbar waren.
Format: Kompatibel mit EasyEdit, einschließlich Ground-Truth-Antworten, Labels und umformulierten Varianten für Robustheitstests.

2. MAAT Algorithmus

MAAT ist die erste Methode, die gleichzeitig eine hohe Vergessensrate (Forgetting) und eine hohe Erhaltungsrate (Retention) für kausale („Warum“-Typ) Informationen erreicht. Sie operiert auf den strukturellen Eigenschaften von LoRA-Adaptern und nutzt SVD-Scoring sowie Task-Vector-Negation, um spezifische Rang-Dimensionen zu isolieren und zu unterdrücken, die durch Forget-Set-Inputs aktiviert werden.

4. Experimentelle Ergebnisse

Das Framework wurde auf LLaMA 3.2-3B und Gemma 3-4B unter Verwendung eines Qwen 2.5-7B LLM-as-a-Judge evaluiert.

Performance auf 5WBENCH

Pareto-Front: MAAT erreicht einen neuen Betriebspunkt, indem es gleichzeitig über 60 % Forget Success Rate (FSR) und 60 % Retain Success Rate (RSR) über alle fünf 5W-Kategorien auf LLaMA 3.2-3B kommt.
- Llama 3.2-3B: 77,4 % FSR / 71,6 % RSR (Aggregat).
- Gemma 3-4B: 64,0 % FSR / 61,8 % RSR (Aggregat).
„Warum“-Typ Performance:
- MAAT: 63 % FSR / 65 % RSR (Llama).
- Baselines (GA, GA+KL, AN, RO-FT) erreichen dieses Gleichgewicht nicht. Beispielsweise erreicht Gradient Ascent (GA) 44 % FSR bei 78 % RSR, was die Autoren auf „Under-forgetting“ zurückführen (das Modell behält Fakten einfach deshalb, weil es sie nicht vergessen hat, nicht weil es die Nützlichkeit bewahrt hat).
Versagen der Baselines:
- Adapter Negation (AN): Erreicht nahezu perfektes Vergessen (99,8 % FSR), verursacht aber einen katastrophalen Kollaps der Retention (0,4 % RSR), was bestätigt, dass eine vollständige Task-Vector-Negation sowohl Forget- als auch Retain-Wissen wahllos entfernt.
- RO-FT: Hohe Retention, aber geringere Effizienz beim Vergessen im Vergleich zu MAAT.

Performance auf TOFU

Auf dem TOFU-Datensatz (der keine signifikante „Warum“-Abdeckung besitzt) erzielt MAAT kompetitive Ergebnisse (67,5 % FSR / 46,6 % RSR auf Llama), was die Robustheit über verschiedene Datenverteilungen hinweg demonstriert, obwohl das Paper anmerkt, dass die Kategorien-Imbalance von TOFU dessen Nutzen für die kausale Analyse einschränkt.

Ablationsstudien

Gradient Projection: Essentiell, um das behaltene Wissen während des Ascents zu schützen.
Hybrid Repair: Notwendig, um die durch Pruning/Negation verlorene Retention wiederherzustellen; ohne den Entropie-Term führt die Repair-Phase unbeabsichtigt zur Wiederherstellung vergessener Inhalte.
Task Vector Negation vs. Attention Pruning: Das Ersetzen des Attention-Prunings durch Task-Vector-Negation (Bedingung D) verbessert die Retention signifikant (76 % vs. 54 % RSR), während eine ähnliche Vergessensstärke beibehalten wird, was die Entscheidung validiert, Attention-Module vom strukturellen Pruning auszuschließen.

5. Bedeutung und Behauptungen

Das Paper behauptet, dass MAAT die erste Methode ist, die erfolgreich den Forget–Retain-Tradeoff speziell für kausales (Warum-Typ) Wissen navigiert – ein Bereich, in dem bestehende Baselines versagen.

Strukturelle Erkenntnis: Die Autoren zeigen, dass die Schwierigkeit beim Unlernen kausaler Fakten aus der relationalen Komplexität und Gradienten-Verwässerung resultiert, nicht aus einem einzigartigen Gewicht-Raum-Footprint (die Encoding-Analyse zeigt eine gleichmäßig verteilte Kodierung über alle 5W-Kategorien hinweg).
Auswirkung auf die Evaluation: Durch die Einführung von 5WBENCH liefert das Paper ein Werkzeug, um „Under-forgetting“-Artefakte bestehender Methoden aufzudecken, bei denen hohe Retention-Scores tatsächlich ein Nebenprodukt des gescheiterten Vergessens sind.
Architektur-Sensitivität: Die Ergebnisse legen nahe, dass das Adapter-basierte Unlearning die Wissens-Kodierungsstruktur des Basismodells erbt. Die Performance-Differenz zwischen LLaMA und Gemma deutet darauf hin, dass die Trennbarkeit von Wissen in Adapter-Rang-Dimensionen architekturbedingt ist.

Die Autoren kommen zu dem Schluss, dass MAAT zwar eine neue Pareto-Front erreicht, das Feld jedoch ausgewogene Evaluierungs-Taxonomien benötigt, um Fehler beim Unlernen kausaler Wissensbereiche zu detektieren, die durch Standard-Benchmarks derzeit verborgen bleiben.