Subtract or Replay? Exact Deletion from Language-Model Memory
Dieses Paper demonstriert, dass die exakte Löschung aus dem Speicher eines Sprachmodells fundamental durch die Speicherrepräsentation bestimmt wird, wobei adressierbare Datensätze mittels algebraischer Subtraktion entfernt werden können, während verschränkte Schreibvorgänge ein Replay-basiertes Neuaufbauen erfordern, um eine bitgenaue Zustandsrestaurierung zu erreichen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich einen superintelligenten digitalen Assistenten vor, der niemals etwas vergisst. Sie vertrauen ihm ein Geheimnis an, und er speichert dieses Geheimnis in einer riesigen, unsichtbaren Bibliothek in seinem Gehirn. Später fragen Sie ihn vielleicht nach einer Geschichte oder einem Rat, und er zieht dieses Geheimnis hervor, um zu helfen. Aber was, wenn Sie es sich anders überlegen? Was, wenn Sie dem Assistenten sagen: „Eigentlich habe ich das nie gesagt“ oder „Das war ein Fehler, bitte lösche es“? In der realen Welt ist es so: Wenn man einen Brief verbrennt, sind die Worte verschwunden. Aber in einem Computer ist es schwierig, dem Computer einfach nur zu sagen, dass er „vergessen“ soll. Der Computer könnte das Geheimnis einfach tief im Inneren verstecken, oder er hat dieses Geheimnis bereits benutzt, um andere Teile seines Gehirns aufzubauen, was es unmöglich macht, es einfach zu „löschen“, ohne alles andere zu beschädigen. Dies ist das Problem des „Machine Unlearning“ (Maschinen-Verlernen). Wissenschaftler versuchen herauszufinden, wie man eine KI dazu bringt, bestimmte Dinge wirklich auf Kommando zu vergessen und nicht nur so zu tun als ob. Es ist eine große Sache für den Datenschutz, vergleichbar mit dem „Recht auf Vergessenwerden“ für Ihr digitales Leben, um sicherzustellen, dass, wenn Sie einen Roboter bitten, eine Erinnerung zu löschen, er dies auch tatsächlich tut und keine geisterhaften Spuren hinterlässt.
Dieses Paper mit dem Titel „Subtract or Replay?“ befasst sich mit diesem Problem, indem es eine einfache Frage stellt: Wie wird das Gedächtnis gespeichert? Die Autoren, Vishwajith Ramesh und Kollegen, haben herausgefunden, dass die Antwort vollständig von den „Möbeln“ im Speicherraum der KI abhängt. Sie fanden heraus, dass es zwei sehr unterschiedliche Wege gibt, eine Erinnerung zu löschen, und man muss das richtige Werkzeug für die Aufgabe wählen, sonst wird man scheitern.
Die zwei Wege, eine Erinnerung zu löschen
Das Paper testet diese Idee an zwei verschiedenen Arten von KI-Modellen, die wie zwei verschiedene Arten von Bibliotheken fungieren.
1. Die „adressierbare“ Bibliothek (Das Gemma-Modell)
Stellen Sie sich eine Bibliothek vor, in der jedes Buch eine spezifische, eindeutige Regalnummer hat. Wenn Sie ein Buch entfernen wollen, gehen Sie einfach zu diesem Regal und nehmen es heraus. Sie müssen nicht die ganze Bibliothek neu aufbauen.
Die Autoren testeten dies an einem Modell namens Gemma. Sie ersetzten einige seiner Standard-Speicherteile durch ein spezielles System, das wie diese adressierbare Bibliothek funktioniert. In diesem System hat jedes Stück Information einen „Koeffizienten“ (denken Sie an einen Lautstärkeregler), der steuert, wie stark es die Antworten der KI beeinflusst.
- Der magische Trick: Um eine Erinnerung zu löschen, drehten sie den Lautstärkeregler einfach auf Null. Dies wird als „algebraische Subtraktion“ bezeichnet.
- Das Ergebnis: Es funktionierte perfekt. Als sie den Regler herunterdrehten, wurde der Output der KI mathematisch identisch mit dem, was sie gewesen wäre, wenn die Erinnerung nie da gewesen wäre. Der Unterschied war so winzig, dass er fast Null war (eine Zahl namens KL-Divergenz von 5,4 × 10⁻¹⁵).
- Der Haken: Dies funktioniert nur gut bei kleineren Modellen (1 Milliarde Parameter). Wenn das Modell größer wird (4 Milliarden und 12 Milliarden), wird diese Methode unordentlich und teuer und verlangsamt die Leistung der KI um 11,2 % bzw. 44,3 %. Während der „Drehen am Regler“-Trick für kleine Bibliotheken perfekt ist, ist er keine Einheitslösung für riesige Bibliotheken.
2. Die „verwebte“ Bibliothek (Das Kimi-Modell)
Stellen Sie sich nun eine andere Bibliothek vor, in der die Bücher nicht in Regalen stehen. Stattdessen sind die Seiten jedes Buches zu einem riesigen, einzelnen Wandteppich verwoben. Wenn Sie einen Faden (eine Erinnerung) herausziehen, verschiebt sich der gesamte Teppich und das Muster verändert sich auf unvorhersehbare Weise.
Die Autoren testeten dies an einem Modell namens Kimi, das einen „rekurrenten Zustand“ verwendet (ein Teppich-ähnliches Gedächtnis). Hier verändert jedes neue Stück Information den gesamten Zustand des Gedächtnisses.
- Das Problem: Sie versuchten, die Erinnerung einfach wie bei Gemma zu „subtrahieren“. Das schlug fehl. Da das Gedächtnis verwoben ist, hinterlässt das Entfernen eines Fadens nicht einfach ein Loch, sondern ein verzerrtes Muster. Die Mathematik zeigte, dass sich der Einfluss des Gedächtnisses um 12 % bis 49 % änderte, je nachdem, was nach dem gelöschten Teil geschah. Man kann es nicht einfach subtrahieren; der „Beleg“ für die Löschung ist nicht mehr gültig.
- Die Lösung: Da man einen Faden nicht aus einem gewebten Teppich subtrahieren kann, ohne das Muster zu ruinieren, muss man ihn neu aufbauen. Die Autoren nutzten eine „Checkpoint-and-Replay“-Methode (Speichern und Abspielen). Sie speicherten eine Momentaufnahme des Teppichs bevor der unerwünschte Faden hineingewebt wurde. Dann drehten sie die KI zu dieser Momentaufnahme zurück und spielten alles, was nach der schlechten Erinnerung geschah, erneut ab – diesmal jedoch übersprangen sie den schlechten Faden.
- Das Ergebnis: Dies funktionierte perfekt. Das Gedächtnis der KI nach dem Replay war bitgenau identisch mit einem Gedächtnis, das den schlechten Faden nie gesehen hatte. Sie testeten dies an echten klinischen Notizen mit einer Länge von bis zu 18.842 Token, und es funktionierte jedes Mal. Es ermöglichte ihnen auch, einen Datensatz perfekt zu „korrigieren“, indem sie den schlechten Faden durch einen guten ersetzten, bevor sie das Replay durchführten.
Was das für Sie bedeutet
Die Hauptschlussfolgerung des Papers ist, dass „exaktes Löschen“ kein einzelner magischer Knopf ist. Es ist eine Eigenschaft dessen, wie das Gedächtnis aufgebaut ist.
- Wenn das Gedächtnis eine klare Adresse für jeden Datensatz bereithält (wie das spezielle Setup von Gemma), können Sie es schnell und perfekt subtrahieren.
- Wenn das Gedächtnis alles zusammenwebt (wie der Teppich von Kimi), können Sie es nicht subtrahieren. Sie müssen die Geschichte von einem gespeicherten Checkpoint aus neu aufbauen.
Die Autoren sind sich sehr klar darüber einig, was sie nicht gefunden haben: Sie haben bewiesen, dass das bloße „Maskieren“ oder „Unterdrücken“ einer Erinnerung (der KI zu sagen, sie solle etwas ignorieren) nicht ausreicht. Die KI kann es immer noch auf verborgene Weise „erinnern“, und Angreifer können es oft wieder hervorholen. Wahres Löschen erfordert entweder eine perfekte Subtraktion oder einen perfekten Neuaufbau.
Kurz gesagt: Wenn Sie wollen, dass eine KI wirklich vergisst, müssen Sie zuerst ihren Speicherraum prüfen. Ist es eine Bibliothek mit Regalen? Drehen Sie am Regler. Ist es ein gewebter Teppich? Spulen Sie zurück und spielen Sie ab. Es gibt keine Abkürzung, aber jetzt wissen wir genau, welches Werkzeug wir für welche Aufgabe einsetzen müssen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.