🤖 machine learning

On the importance of multiple training seeds for evaluating machine unlearning

Dieses Paper argumentiert, dass die Evaluierung von Machine-Unlearning-Algorithmen unter Verwendung nur eines einzigen Trainings-Seeds zu nicht repräsentativen Ergebnissen führen kann, da diese eine Sensitivität gegenüber der Trainingsinitialisierung aufweisen, und zeigt auf, dass die Erhöhung der Unlearning-Seeds diese Einschränkung nicht kompensieren kann, wodurch die Verwendung mehrerer Trainings-Seeds für eine robuste empirische Bewertung notwendig wird.

Ursprüngliche Autoren: Jamie Lanyon, Axel Finke, Petros Andreou, Georgina Cosma

Veröffentlicht 2026-06-08

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Jamie Lanyon, Axel Finke, Petros Andreou, Georgina Cosma

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Ganze: Das „vergessene“ Rezept

Stellen Sie sich vor, Sie haben einen Meisterkoch (das Maschinelle Lernmodell), der gelernt hat, ein komplexes Gericht mitheraus einem riesigen Kochbuch (Trainingsdaten) zu kochen. Plötzlich verlangt ein Kunde, dass eine bestimmte Zutat (ein spezifischer Datenpunkt) aus dem Rezept entfernt wird, weil sie abgelaufen oder anstößig ist.

Das Ziel von Machine Unlearning (Maschinellem Vergessen) ist es, den Koch dazu zu bringen, diese Zutat zu „vergessen“, damit er sie nicht mehr verwenden kann, ohne dass er das ganze Kochbuch wegwerfen und von vorne anfangen muss (was zu teuer und zu langsam wäre).

Das Problem? Die meisten Tricks zum „Vergessen“ sind nur Annäherungen. Sie versuchen, das Rezept leicht anzupassen, um die schlechte Zutat zu entfernen, aber wir sind uns nicht 100 % sicher, ob sie tatsächlich funktioniert haben oder ob der Koch einfach nur Glück hatte. Um sicherzugehen, führen Wissenschaftler diese Tricks viele Male durch, um zu sehen, ob sie konsistent funktionieren.

Der Fehler: Nur einmal die Würfel zu werfen

Die Arbeit argumentiert, dass Wissenschaftler einen kritischen Fehler gemacht haben, wie sie diese „Vergessen“-Tricks testen.

Der alte Weg (der fehlerhafte Test):
Stellen Sie sich vor, Sie möchten testen, ob eine neue „Vergessen“-Technik funktioniert.

Sie backen einen Kuchen mit einem bestimmten Satz zufälliger Zutaten und einer bestimmten Ofentemperatur (dies ist der Trainings-Seed).
Sie versuchen dann, zehn verschiedene Male einen bestimmten Geschmack aus diesem Kuchen zu „entbacken“ oder zu entfernen, indem Sie zehn verschiedene zufällige Zauberstäbe verwenden (dies sind die Unlearning-Seeds).
Sie bilden den Durchschnitt der Ergebnisse dieser zehn Zauberstäbe und sagen: „Schaut her, die Technik funktioniert!“

Das Ergebnis der Arbeit:
Die Autoren sagen, das ist so, als würde man ein Lotterielos bewerten, indem man zehn Lose am selben Tag mit den selben Glückszahlen kauft. Wenn die Ziehung an diesem speziellen Tag ein Zufallstreffer war, werden alle Ihre zehn Lose gut aussehen, aber sie sagen Ihnen nicht, ob die Lotterie tatsächlich fair ist.

Die Arbeit zeigt, dass der Ausgangspunkt (der Kuchen, den Sie zuerst gebacken haben) viel wichtiger ist als das Werkzeug, das Sie verwenden, um den Geschmack zu entfernen.

Wenn Sie den Kuchen mit einer etwas anderen Ofentemperatur oder einer anderen Charge Mehl backen (ein anderer Trainings-Seed), könnte der „Vergessen“-Trick völlig scheitern, selbst wenn er beim ersten Kuchen perfekt funktioniert hat.
Indem Forscher nur an einem Ausgangskuchen testen, erhalten sie ein „nicht repräsentatives“ Ergebnis. Sie könnten denken, eine Methode sei großartig, obwohl sie in Wirklichkeit nur Glück hatte.

Die Analogie: Der Gärtner und die Erde

Betrachten Sie den Trainings-Seed als die Erde und den Unlearning-Seed als das Gärtnerwerkzeug.

Die alte Praxis: Ein Gärtner testet ein neues „Unkrautbekämpfungs“-Werkzeug an einem ganz bestimmten Stück Erde. Er benutzt das Werkzeug 10 Mal an derselben Stelle. Wenn das Unkraut herauskommt, erklärt er das Werkzeug zum Erfolg.
Die Realität: Was ist, wenn dieses spezielle Stück Erde ungewöhnlich weich war? Das Werkzeug könnte auf einem Stück hartem Ton kläglich versagen.
Der Rat der Arbeit: Um zu wissen, ob das Werkzeug wirklich funktioniert, müssen Sie es auf vielen verschiedenen Stücken Erde testen (viele Trainings-Seeds). Selbst wenn Sie das Werkzeug auf jedem Stück Erde nur einmal benutzen, erhalten Sie ein viel wahreres Bild seiner Leistung als durch 100 Anwendungen auf nur einem Stück Erde.

Warum können wir nicht einfach mehr „Zauberstäbe“ verwenden?

Sie fragen vielleicht: „Wenn ich nicht 75 verschiedene Kuchen backen kann, kann ich nicht einfach 75 verschiedene Zauberstäbe für den einen Kuchen verwenden, den ich habe?“

Die Arbeit sagt: Nein.

Die „Wackler“ oder Variationen, die durch die Verwendung verschiedener Zauberstäbe (Unlearning-Seeds) verursacht werden, sind normalerweise winzig.
Die „Wackler“, die durch die Verwendung verschiedener Ausgangskuchen (Trainings-Seeds) verursacht werden, sind riesig.
Wenn Sie nur einen Kuchen haben, wird kein noch so viel Ausprobieren mit verschiedenen Zauberstäben den Umstand korrigieren können, dass der Kuchen selbst ein Zufallstreffer sein könnte. Sie brauchen mehr Kuchen (Trainings-Seeds), um eine echte Antwort zu erhalten.

Die Lösung: Wie man seine Zeit klug nutzt

Die Autoren bieten einen Leitfaden, wie man seine Computerzeit (Budget) klug einsetzt:

Verbringen Sie nicht all Ihre Zeit damit, den Unlearning-Trick 10 Mal auf einem einzigen Modell auszuführen.
Verbringen Sie Ihre Zeit stattdessen damit, 10 verschiedene Modelle zu trainieren (mit verschiedenen Start-Seeds) und den Unlearning-Trick auf jedem davon nur einmal oder zweimal auszuführen.

Dieser Ansatz liefert eine viel ehrlichere und zuverlässigere Antwort darauf, ob das maschinelle Lernmodell wirklich etwas vergessen hat.

Gilt das überall?

Die Arbeit hat diese Idee in drei verschiedenen Welten getestet:

Bildklassifizierung: Das Erkennen von Bildern (wie Katzen vs. Hunde).
Federated Learning-to-Rank: Das Sortieren von Suchergebnissen basierend auf Nutzerklicks.
Große Sprachmodelle (LLMs): Chatbots, die Texte schreiben.

In allen drei Fällen war das Ergebnis dasselbe: Der Start-Seed ist wichtiger als der Unlearning-Seed. Egal, ob Sie einem Roboter das Sehen beibringen, Suchergebnisse ranken oder eine Geschichte schreiben – Sie können den Ergebnissen nicht trauen, wenn Sie sie nur an einem einzigen Ausgangsmodell testen.

Zusammenfassung

Um zu wissen, ob ein maschinelles Lernmodell wirklich etwas „vergessen“ hat, können Sie den Vergessen-Trick nicht einfach an einer spezifischen Version des Modells testen. Sie müssen ihn an vielen verschiedenen Versionen des Modells testen. Andernfalls feiern Sie vielleicht einen Erfolg, der nur ein glücklicher Zufall war.

Technisches Resümee: Zur Bedeutung multipler Trainings-Seeds bei der Evaluierung von Machine Unlearning

Problemstellung

Machine Unlearning zielt darauf ab, den Einfluss spezifischer Datenpunkte aus einem trainierten Modell zu entfernen, ohne die prohibitiven Kosten eines vollständigen Retrainings zu verursachen. Während exaktes Unlearning (Retraining von Grund auf) den „Goldstandard“ darstellt, ist dies oft nicht praktikabel. Infolgedessen verlassen sich Forscher auf approximative Unlearning-Algorithmen (z. B. Random Labels, UNSIR, Bad Teacher, SSD, LFSSD). Da diese Algorithmen oft mathematisch schwer zu analysieren sind, muss ihre Leistung empirisch bewertet werden.

Eine weit verbreitete Praxis in der Literatur besteht darin, diese Unlearning-Methoden zu evaluieren, indem man den Unlearning-Algorithmus mehrfach unabhängig voneinander durchführt (unter Verwendung multipler Unlearning-Seeds), ausgehend von einem einzigen vortrainierten Modell (unter Verwendung nur eines einzigen Trainings-Seeds). Dieses Paper argumentiert, dass diese Evaluierungsstrategie fehlerhaft ist. Speziell kann die Unlearning-Performance hochsensibel gegenüber dem initialen Trainings-Seed sein. Die Abhängigkeit von einem einzigen Trainings-Seed kann zu nicht repräsentativen Ergebnissen führen, was unzuverlässige Schlussfolgerungen über die Wirksamkeit oder Robustheit eines Algorithmus zur Folge hat. Dieses Problem ist besonders akut bei deterministischen Unlearning-Methoden, die identische Ergebnisse liefern, wenn sie vom selben Modell starten, wodurch multiple Unlearning-Seeds in solchen Fällen redundant werden.

Methodik

Die Autoren schlagen ein rigoroses empirisches Evaluierungs-Framework vor, das die Variabilität sowohl in der Trainingsphase als auch in der Unlearning-Phase berücksichtigt.

1. Generisches Evaluierungsverfahren

Das Paper formalisiert ein Evaluierungsverfahren (Algorithmus 1), das Folgendes umfasst:

$I$ Trainings-Seeds: Training von $I$ unabhängigen Modellen von Grund auf unter Verwendung distinkter Zufalls-Seeds.
$J$ Unlearning-Seeds: Durchführung des Unlearning-Algorithmus für jedes trainierte Modell $J$ -mal unter Verwendung distinkter Unlearning-Seeds.
Metrik-Aggregation: Berechnung des Durchschnittswerts der Unlearning-Metriken (z. B. Forget Accuracy, Retain Accuracy) über alle $I \times J$ resultierenden Modelle hinweg.

2. Varianz-Dekompositions-Analyse

Der zentrale theoretische Beitrag ist eine Varianz-Dekomposition der Unlearning-Metrik $Z$ :
$\text{Var}[Z] = \frac{1}{I} \left( \sigma^2_{\text{train}} + \frac{1}{J} \sigma^2_{\text{unlearn}} \right)$
Wobei:

$\sigma^2_{\text{train}}$ die Varianz ist, die auf die Wahl des Trainings-Seeds zurückzuführen ist.
$\sigma^2_{\text{unlearn}}$ die Varianz ist, die auf die Wahl des Unlearning-Seeds zurückzuführen ist.
$ICC$ (Intraclass Correlation Coefficient) als $\sigma^2_{\text{train}} / \sigma^2_{\text{overall}}$ definiert ist.

Die Analyse zeigt, dass, falls $\sigma^2_{\text{train}} > 0$ (d. h. $ICC > 0$), die Erhöhung der Anzahl an Unlearning-Seeds ( $J$ ) die Unlearning-Performance nicht konsistent schätzen kann; stattdessen muss die Anzahl der Trainings-Seeds ( $I$ ) erhöht werden. Das Paper leitet optimale Allokationsstrategien für Computations-Budgets ab, um die Varianz zu minimieren oder eine Ziel-Breite des Konfidenzintervalls zu erreichen, und zeigt auf, dass die Priorisierung von $I$ im Allgemeinen effektiver ist als die Priorisierung von $J$ , wenn die Trainings-Varianz signifikant ist.

3. Implementierungskorrekturen

Die Autoren haben ein Implementierungsproblem im Referenzcode für SSD und LFSSD identifiziert und korrigiert. Die ursprüngliche Implementierung verwendete eine Mittelwertbildung auf Batch-Ebene vor dem Quadrieren, was die Parameter-Wichtigkeitsscores verzerrte und Nicht-Determinismus über Unlearning-Seeds hinweg einführte. Die Autoren führhen eine „deterministische“ (det.) Version ein, die eine unverzerrte, Sample-basierte Wichtigkeitsschätzung verwendet, wodurch sichergestellt wird, dass diese Methoden für einen fixen Trainings-Seed identische Ergebnisse liefern.

Experimentelle Ergebnisse

Die Autoren führten umfangreiche Experimente in drei Domänen durch: Bildklassifizierung, Federated Online Learning-to-Rank (FOLTR) und Large Language Models (LLMs).

Bildklassifizierung (CIFAR-100, CIFAR-20)

Varianz-Analyse: Unter Verwendung von 75 Trainings-Seeds und 10 Unlearning-Seeds stellte die Studie fest, dass für die meisten Methoden (einschließlich SSD, LFSSD, Bad Teacher und UNSIR) die durch Trainings-Seeds verursachte Varianz ( $\sigma^2_{\text{train}}$ ) signifikant größer war als die Varianz durch Unlearning-Seeds ( $\sigma^2_{\text{unlearn}}$ ).
Deterministische Methoden: Für die korrigierten SSD (det.) und LFSSD (det.) Implementierungen war $\sigma^2_{\text{unlearn}}$ effektiv Null, was bestätigt, dass multiple Unlearning-Seeds keinen zusätzlichen Erkenntnisgewinn bieten, wenn der Trainings-Seed fixiert ist.
Konfidenzintervalle: Berechnungen basierend auf Gleichung 2 zeigen, dass das Erreichen schmaler Konfidenzintervalle (z. B. Breite $W=1$ ) oft hunderte oder tausende Trainings-Seeds erfordert, während die Erhöhung der Unlearning-Seeds abnehmende Grenzerträge liefert.

Federated Learning-to-Rank (FOLTR)

Experimente auf dem MQ2007-Datensatz mit 10 Clients zeigten, dass die Evaluierung mit einem einzigen Trainings-Seed ( $I=1, J=10$ ) Trajektorien erzeugte, die nicht repräsentativ für die wahre Cross-Seed-Variabilität waren.
Die Evaluierung über multiple Trainings-Seeds ( $I=10, J=1$ ) offenbarte eine wesentlich größere Varianz in der Post-Unlearning-Performance, was bestätigt, dass das Problem auch auf Federated Ranking-Aufgaben übertragen wird.

Large Language Models (LLMs)

Unter Verwendung von Llama-3.2-1B-Instruct auf dem TOFU-Datensatz beobachteten die Autoren eine substantielle Cross-Seed-Varianz sowohl in der Model Utility als auch in der Forget Quality für Methoden wie GradAscent und Runlearning.
Einzelne Trainings-Seeds deckten fast den gesamten Bereich möglicher Ergebnisse ab, was unterstreicht, dass Single-Seed-Evaluierungen unzureichend sind, um das Verhalten von LLM-Unlearning zu charakterisieren.

Zentrale Beiträge

Empirische Demonstration der Sensitivität gegenüber Trainings-Seeds: Das Paper demonstriert numerisch, dass Single-Training-Seed-Evaluierungen in der Bildklassifizierung zu nicht repräsentativen Ergebnissen führen können, ein Befund, der sich auch auf FOLTR und LLMs ausweitet.
Theoretische Rechtfertigung: Es liefert eine Varianz-Dekompositions-Analyse, die beweist, dass die Erhöhung der Unlearning-Seeds den Mangel an Trainings-Seeds nicht kompensieren kann, wenn $\sigma^2_{\text{train}} > 0$ .
Praktische Orientierungshilfe: Die Autoren stellen Formeln und Tabellen (Tabellen 1 und 2) bereit, um Forschern bei der Allokation von Rechenressourcen zwischen Trainings- und Unlearning-Wiederholungen zu helfen, um die gewünschte statistische Konfidenz zu erreichen.
Implementierungs-Fixes: Das Paper korrigiert das nicht-deterministische Verhalten in den Referenzimplementierungen von SSD und LFSSD und unterscheidet dabei zwischen der ursprünglichen („orig.“) und der aktualisierten deterministischen („det.“) Version.

Bedeutung und Behauptungen

Das Paper behauptet, dass die gängige Praxis, einen einzigen Trainings-Seed mit multiplen Unlearning-Seeds zu verwenden, zu unzuverlässigen Evaluierungen von Machine-Unlearning-Methoden führt. Die Autoren stellen fest, dass:

Zuverlässigkeit: Eine genaue Evaluierung erfordert die Mittelung über multiple Trainings-Seeds, da die durch das Training eingeführte Variabilität oft die durch den Unlearning-Prozess eingeführte Variabilität dominiert.
Generalisierbarkeit: Diese Einschränkung ist nicht spezifisch für die Bildklassifizierung, sondern eine allgemeine Eigenschaft des Evaluierungs-Frameworks, die auch in Federated Learning und LLMs beobachtet wurde.
Machbarkeit: Trotz der hohen Kosten des Trainings bleibt die Verwendung multipler Trainings-Seeds selbst für LLMs (z. B. dauert das Training eines Llama-3.2-1B Modells etwa zehn Minuten) praktikabel, was die vorgeschlagene rigorose Evaluierung handhabbar macht.

Die Arbeit erweitert frühere Erkenntnisse (z. B. Cadet et al., Triantafillou et al.), indem sie die Anzahl der verwendeten Trainings-Seeds erhöht (75 statt 10), explizit erklärt, warum multiple Unlearning-Seeds einen Mangel an Trainings-Seeds nicht kompensieren können, und konkrete Leitlinien für das experimentelle Design liefert.