🤖 machine learning

Tackling Fake Forgetting through Uncertainty Quantification

Dieser Artikel identifiziert das Phänomen des „fälschlichen Vergessens", bei dem die Genauigkeit des Unlearnings versagt, zurückbehaltene Informationen zu erkennen, und schlägt eine neue Metrik (CR) und ein neues Framework (CPU) vor, die auf konformaler Vorhersage basieren, um sicherzustellen, dass das Ground-Truth-Label effektiv aus dem Unsicherheitsbereich des Modells entfernt wird.

Ursprüngliche Autoren: Yingdan Shi, Sijia Liu, Kaize Ding, Ren Wang

Veröffentlicht 2026-05-13

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Yingdan Shi, Sijia Liu, Kaize Ding, Ren Wang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen sehr klugen Schüler, der ein riesiges Lehrbuch auswendig gelernt hat. Nun nehmen wir an, eine bestimmte Seite in diesem Lehrbuch enthält ein Geheimnis, das für immer gelöscht werden muss (vielleicht aufgrund von Datenschutzgesetzen). Sie bitten den Schüler, diese Seite zu „verlernen".

Das Problem: Die Illusion des „falschen Vergessens"

Traditionell prüfen wir, ob der Schüler etwas vergessen hat, indem wir ihn eine Frage zu dieser spezifischen Seite stellen. Wenn er die Antwort falsch gibt, sagen wir: „Großartig! Er hat es vergessen."

Dieser Artikel argumentiert jedoch, dass dieser Test fehlerhaft ist. Es ist, als würde man einen Schüler bitten, die Hauptstadt eines Landes zu nennen, von dem er angewiesen wurde, es zu vergessen. Wenn er „Paris" statt „London" sagt, gehen wir davon aus, dass er es vergessen hat. Was aber, wenn er es tief im Inneren immer noch weiß, aber durch die Frage verwirrt wurde? Oder schlimmer noch: Was, wenn er die richtige Antwort immer noch erraten kann, wenn Sie ihm einen Hinweis geben?

Die Autoren nennen dies „falsches Vergessen". Der Schüler scheint vergessen zu haben, weil er den einfachen Test nicht bestanden hat, aber die Information lauert immer noch in seinem Gehirn und ist bereit, wiederhergestellt zu werden.

Die Lösung: Das „Vertrauensnetz"

Um dieses falsche Vergessen aufzudecken, stellen die Autoren ein neues Werkzeug vor, das auf dem sogenannten konformen Vorhersagen basiert.

Stellen Sie sich konforme Vorhersagen als ein Sicherheitsnetz oder einen Ratenkreis vor. Anstatt den Schüler nach einer einzigen Antwort zu fragen, bitten Sie ihn, einen Kreis um alle Antworten zu zeichnen, von denen er glaubt, dass sie möglicherweise richtig sein könnten.

Wenn der Schüler das Geheimnis wirklich vergessen hat, sollte sein Kreis weit und unordentlich sein und die echte Antwort gar nicht enthalten.
Wenn er es nur „vortäuscht", wird sein Kreis immer noch eng sein, und die echte Antwort wird sich genau darin verstecken, selbst wenn er sie nicht als Top-Vorschlag gewählt hat.

Die neue Metrik: Das „Vertrauensverhältnis" (CR)

Die Autoren haben eine neue Kennzahl namens CR (Conformal Ratio) entwickelt, um dies zu messen.

Alte Kennzahl (UA): Prüfte nur, ob der Schüler die einzelne Antwort falsch hatte. (Leicht zu fälschen).
Neue Kennzahl (CR): Prüft, ob die echte Antwort immer noch im „Sicherheitsnetz" möglicher Antworten des Schülers verborgen ist. Wenn die echte Antwort noch im Netz ist, sagt die Kennzahl: „Sie haben noch nicht wirklich vergessen."

Das neue Framework: „CPU"

Um das Problem zu lösen, entwickelten die Autoren eine neue Trainingsmethode namens CPU (Conformal Prediction Unlearning).

Stellen Sie sich vor, Sie unterrichten den Schüler im Vergessen.

Alte Methode: Sie sagen ihm einfach: „Sag nicht 'London'."
CPU-Methode: Sie sagen ihm: „Sag nicht nur nicht 'London', sondern stelle sicher, dass 'London' so weit von Ihrer Liste möglicher Vermutungen entfernt ist, dass es vollständig außerhalb Ihres Sicherheitsnetzes fällt."

Dies erreichten sie, indem sie eine Technik aus der Cybersicherheit (den C&W-Angriff) übernahmen und anpassten. Anstatt nur zu versuchen, das Vertrauen in die falsche Antwort zu senken, drücken sie die richtige Antwort aktiv aus dem Vorhersagekreis heraus.

Die Ergebnisse

Als sie dies an Aufgaben zur Bilderkennung testeten (wie das Identifizieren von Bildern von Hunden oder Autos):

Sie stellten fest, dass viele bestehende Methoden tatsächlich das Vergessen „vortäuschten". Die Modelle würden das Bild falsch klassifizieren, aber das richtige Label war immer noch im Vorhersagekreis verborgen.
Ihre neue CR-Kennzahl fang diese Fälschungen erfolgreich auf.
Ihr neues CPU-Framework zwang die Modelle tatsächlich, die richtige Antwort aus dem Kreis zu drängen, was zu einem viel zuverlässigeren und echten Vergessen führte, ohne die Fähigkeit des Modells zu beeinträchtigen, andere Dinge zu erkennen.

Auf den Punkt gebracht

Dieser Artikel sagt: „Prüfen Sie nicht nur, ob ein Modell die Antwort falsch bekommt; prüfen Sie, ob die Antwort immer noch in seinem Sicherheitsnetz verborgen ist. Wenn ja, ist es nicht wirklich vergessen. Wir haben eine neue Möglichkeit entwickelt, dies zu messen, und eine neue Trainingsmethode, um sicherzustellen, dass die Daten tatsächlich weg sind."

Technische Zusammenfassung: Bekämpfung von Fake Forgetting durch Unsicherheitsquantifizierung

Problemstellung

Maschinelles Vergessen (Machine Unlearning) zielt darauf ab, den Einfluss spezifischer Datenpunkte aus einem trainierten Modell zu entfernen, eine Fähigkeit, die zunehmend durch Vorschriften wie die DSGVO gefordert wird. Während Unlearning Accuracy (UA) der Standardmetrik zur Bewertung der Leistung ist – gemessen an der Rate, mit der ein Modell „zu vergessende" Daten falsch klassifiziert –, identifizieren die Autoren einen kritischen Mangel: Fake Forgetting.

Die Arbeit argumentiert, dass UA unzureichend ist, da sie sich ausschließlich auf Punktvorhersagen stützt. Ein Modell kann einen zu vergessenden Datenpunkt falsch klassifizieren (was zu einer hohen UA-Bewertung führt), während es gleichzeitig in seinen Unsicherheitsschätzungen ein hohes Vertrauen in die Ground-Truth-Label beibehält. Konkret kann das Ground-Truth-Label weiterhin im konformen Vorhersagesatz des Modells enthalten sein, was bedeutet, dass die Information nicht wirklich aus der Entscheidungsgrenze des Modells gelöscht wurde. Dieses Phänomen wird mittels Grad-CAM visualisiert, das zeigt, dass selbst dann, wenn ein Modell ein Bild falsch klassifiziert, seine Aufmerksamkeitsmechanismen oft noch auf die Schlüsselfeatures des Objekts fokussieren, wenn das wahre Label im Vorhersagesatz verbleibt.

Methodik

1. Die Conformal Ratio (CR)-Metrik

Um die Grenzen von UA zu adressieren, schlagen die Autoren eine neue Evaluierungsmetrik vor, die Conformal Ratio (CR) genannt wird und von der Split Conformal Prediction (SCP) inspiriert ist. Im Gegensatz zu UA, das nur die einzelne vorhergesagte Klasse prüft, bewertet CR den gesamten Vorhersagesatz.

Die Metrik ist definiert als:
$CR = \frac{\text{Coverage}}{\text{Set Size}}$

Coverage: Der Anteil der zu vergessenden Datenpunkte, bei denen das Ground-Truth-Label innerhalb des konformen Vorhersagesatzes liegt. Eine hohe Coverage bei zu vergessenden Daten deutet auf „Fake Forgetting" hin.
Set Size: Die durchschnittliche Anzahl der Labels im Vorhersagesatz.
Interpretation: Ein niedrigerer CR-Wert bei zu vergessenden Daten ( $D_f$ ) deutet auf stärkeres Vergessen hin (das wahre Label wird erfolgreich aus dem Satz ausgeschlossen). Umgekehrt zeigt ein höherer CR bei Testdaten ( $D_{test}$ ), dass die Modellnützlichkeit erhalten bleibt.

Die Autoren validieren, dass bestehende Metriken oft Fälle übersehen, in denen das wahre Label im Vorhersagesatz verbleibt, während CR dies erfasst, indem sie verlangt, dass das Ground-Truth-Label über den Schwellenwert des Nicht-Konformitäts-Scores hinausgedrückt wird.

2. Das Conformal Prediction Unlearning (CPU)-Framework

Aufbauend auf den Erkenntnissen aus CR schlagen die Autoren CPU vor, ein allgemeines Framework zur Verbesserung trainingsbasierter Unlearning-Methoden. Die Kernidee besteht darin, die Verlustfunktion so zu modifizieren, dass sie das Ground-Truth-Label zu vergessender Daten explizit aus dem konformen Vorhersagesatz drängt.

Das Framework adaptiert den Carlini & Wagner (C&W) adversarial attack loss. Anstatt lediglich die Differenz zwischen der wahren Klasse und der konkurrierenden Top-Klasse zu maximieren, drängt der CPU-Verlust den Nicht-Konformitäts-Score des wahren Labels ( $S(x, y_t)$ ) über den konformen Schwellenwert ( $\hat{q}$ ) hinaus.

Die vorgeschlagene Verlustfunktion lautet:
$L_{cpu}(x, y_t) = \max\{\hat{q} - S(x, y_t), -\Delta\}$

Wobei:

$\hat{q}$ der Schwellenwert ist, der aus einem Kalibrierungsdatensatz abgeleitet wird.
$S(x, y_t) = 1 - p_t(x)$ der Nicht-Konformitäts-Score (inverse Wahrscheinlichkeit) ist.
$\Delta$ ein Randparameter ist (in den Experimenten auf 0,01 gesetzt).

Dieser Verlust ermutigt das Modell, den Nicht-Konformitäts-Score des wahren Labels zu erhöhen, bis er $\hat{q}$ überschreitet, wodurch das wahre Label effektiv aus dem Vorhersagesatz ausgeschlossen wird. Das endgültige Ziel kombiniert den ursprünglichen Verlust mit diesem neuen Term:
$L_{total} = L_{original} + \lambda \cdot L_{cpu}$

Hauptbeiträge

Identifikation von Fake Forgetting: Die Arbeit zeigt, dass ein signifikanter Anteil der Daten, die von UA als „vergessen" (falsch klassifiziert) identifiziert werden, dennoch wiederhergestellt werden können, da das Ground-Truth-Label innerhalb des konformen Vorhersagesatzes verbleibt.
Neue Metrik (CR): Einführung der Conformal Ratio, die eine zuverlässigere Bewertung der Vergessensqualität bietet, indem sie den gesamten Vorhersagesatz und nicht nur die Top-Vorhersage bewertet.
CPU-Framework: Ein allgemeines, modellagnostisches Unlearning-Framework, das Konzepte der konformen Vorhersage in die Trainingsverlustfunktion integriert (durch adaptierten C&W-Verlust), um sicherzustellen, dass das Ground-Truth-Label aus dem Vorhersagesatz ausgeschlossen wird.
Umfassende Evaluierung: Ausführliche Experimente über mehrere Datensätze (CIFAR-10, Tiny ImageNet, Oxford-Pets) und Architekturen (ResNet-18, ViT, Swin-T) hinweg, die bestätigen, dass CPU die Vergessensqualität verbessert, ohne die Modellnützlichkeit bei behaltenen oder Testdaten signifikant zu beeinträchtigen.

Experimentelle Ergebnisse

Überlegenheit der Metrik: In Experimenten mit 12 verschiedenen Unlearning-Baselines änderte sich die Rangfolge der Methoden erheblich, wenn sie mit CR statt mit UA bewertet wurden. Methoden, die unter UA gut abschnitten (z. B. Random Labeling), zeigten unter CR Fake Forgetting, während andere (z. B. Salun) bessere echte Vergessensfähigkeiten aufwiesen.
Framework-Leistung: Die Anwendung des CPU-Frameworks auf bestehende Methoden (RT, FT, RL) reduzierte die CR bei zu vergessenden Daten signifikant (was auf besseres Vergessen hindeutet), während die Retaining Accuracy (RA) und Test Accuracy (TA) stabil blieben.
- Beispielsweise reduzierte die Anwendung von CPU auf die Finetune (FT)-Methode bei CIFAR-10 mit ResNet-18 die UA-Lücke zum Re-train (RT)-Baseline von 4,8 % auf 0,7 %, während gleichzeitig die CR bei zu vergessenden Daten gesenkt wurde.
Visuelle Evidenz: Grad-CAM-Visualisierungen bestätigten, dass sich, wenn das wahre Label aus dem Vorhersagesatz ausgeschlossen wird (wie durch CPU erreicht), die Aktivierungsbereiche des Modells von den Schlüsselfeatures des Objekts wegbewegen, im Gegensatz zu Standard-Unlearning, bei dem Features trotz Fehlklassifizierung hervorgehoben bleiben.
Effizienz: Die Hinzufügung des CPU-Verlusts führte zu vernachlässigbarem Rechenaufwand, wobei die Trainingszeiten über verschiedene Datensätze hinweg um weniger als 1 Minute anstiegen.

Bedeutung und Behauptungen

Die Arbeit behauptet, eine rigorosere Grundlage für maschinelles Vergessen zu schaffen, indem sie das Evaluierungsparadigma von einfacher Genauigkeit zur Unsicherheitsquantifizierung verschiebt. Die Autoren betonen, dass die alleinige reliance auf UA ein falsches Gefühl von Privatsphäre und Sicherheit erzeugt. Indem sichergestellt wird, dass das Ground-Truth-Label nicht nur falsch klassifiziert, sondern aktiv aus dem Vorhersagesatz ausgeschlossen wird, bieten die vorgeschlagene CR-Metrik und das CPU-Framework eine zuverlässigere Garantie dafür, dass Daten wirklich vergessen wurden. Die Arbeit hebt hervor, dass bestehende Unlearning-Methoden oft das Vertrauen der Vorhersagen nicht adressieren, und die vorgeschlagene Methode schließt diese Lücke unter Verwendung von Prinzipien der konformen Vorhersage und adversarialer Angriffe.