What to Forget in Unlearning? Forget Set Curation for Language Models
Dieses Paper führt CleanSlate ein, einen Benchmark, der zeigt, dass die Kuratierung von Vergessensmengen eine kritische übergeordnete Herausforderung beim maschinellen Unlearning darstellt, wobei einfache Auswahlmethoden daran scheitern, gezielte Inhalte zu unterdrücken, während übermäßig aggressive Strategien erhebliche Kollateralschäden an den Modellfähigkeiten verursachen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine Welt vor, in der die riesigen Bibliotheken des menschlichen Wissens in ein einziges, unglaublich intelligentes Computerprogramm komprimiert sind. Dieses Programm, bekannt als Sprachmodell, lernt, indem es Billionen von Wörtern aus Büchern, Websites und Liedern liest. Es wird darin so gut, dass es den Stil eines Dichters imitieren oder einen Satz aus einem berühmten Roman vervollständigen kann. Aber manchmal müssen die Besitzer dieser Programme bestimmte Informationen entfernen. Vielleicht wurde ein Lied ohne Erlaubnis verwendet oder eine private Geschichte wurde versehentlich auswendig gelernt. Das Ziel ist es, dem Computer beizubringen, dieses spezifische Stück Inhalt zu „verlernen“, ohne dass er sein gesamtes Gedächtnis löschen und von vorne beginnen muss. Dieser Prozess wird als maschinelles Unlearning (maschinelles Verlernen) bezeichnet. Jahrelang haben Forscher sich auf die Mechanik der Frage konzentriert, wie man die Daten löscht, sobald man genau weiß, welche Wörter man anvisieren muss. Sie behandelten die Liste der zu vergessenden Wörter als einen einfachen Ausgangspunkt und gingen davon aus, dass es dem Computer genügt, wenn man ihm sagt, er solle einen bestimmten Satz vergessen, dass er dies dann auch einfach tut.
Eine neue Studie der Stanford University legt jedoch nahe, dass diese Annahme einen entscheidenden, schwierigen Schritt übersieht. Die Forscher erkannten, dass in der realen Welt eine Anfrage, etwas zu vergessen, selten mit einer präzisen Wortliste einhergeht. Ein Nutzer könnte von einem Modell verlangen, ein bestimmtes Lied nicht mehr zu singen, aber dieses Lied existiert in vielen verschiedenen Formen im Gedächtnis des Computers. Es mag in den offiziellen Songtexten erscheinen, aber auch in einem Nachrichtenartikel, der eine Zeile zitiert, in einem Fan-Forum, das über die Melodie diskutiert, in einer Code-Datei, die den Text speichert, oder in einer Rezension, die den Refrain erwähnt. Der Computer kennt das Lied nicht nur durch eine einzige perfekte Kopie; er kennt es aus einer verstreuten Wolke dieser verschiedenen Erwähnungen. Die neue Forschung stellt eine grundlegende Frage: Wie findet man all diese verstreuten Teile eines Liedes oder Buches innerhalb einer massiven Bibliothek von Texten, um dem Computer sagen zu können, dass er sie vergessen soll? Das Team nennt diesen fehlenden Schritt „Forget Set Curation“ (Kuratierung des Vergessens-Datensatzes), und sie fanden heraus, dass man, wenn man diesen Schritt falsch angeht, viel mehr als nur das unerwünschte Lied verlieren kann.
Um dies zu untersuchen, bauten die Forscher eine Testumgebung namens CLEANSLATE. Sie sammelten tausende Songs aus den Billboard Hot 100 Charts von 1970 bis 2025 sowie fünfzig Bücher. Dann testeten sie, wie gut verschiedene Methoden die spezifischen Textfragmente identifizieren konnten, die entfernt werden mussten. Sie verglichen zwei Hauptansätze. Der erste Ansatz stützte sich auf Standard-Suchwerkzeuge, ähnlich wie eine Person eine Suchmaschine nutzen würde, um ein Buch zu finden. Diese Werkzeuge suchten nach exakten Übereinstimmungen von Wörtern oder Phrasen. Der zweite Ansatz war aggressiver: Er schaute direkt auf die spezifischen Teile des Textes, die der Computer am wahrscheinlichsten reproduzieren würde, und wählte diese für die Entfernung aus, wodurch er den Suchschritt im Wesentlichen umging, um direkt die Problemzonen anzuvisieren.
Die Ergebnisse offenbarten eine überraschende Komplexität. Wenn die Forscher die Standard-Suchwerkzeuge verwendeten, um den Text zu finden, waren die Ergebnisse oft schwach. Der Computer sang das Lied oder rezitierte das Buch weiterhin, selbst nachdem die Suchwerkzeuge die offensichtlichen Kopien entfernt hatten. Dies geschah, weil der Computer das Lied aus vielen kleinen, verstreuten Quellen gelernt hatte, die die Suchwerkzeuge übersehen hatten. Der „Fußabdruck“ eines Liedes ist nicht nur der offizielle Songtext; er ist ein diffuses Netzwerk aus Zitaten, Referenzen und Fragmenten, das sich über das Internet erstreckt. Als die Forscher versuchten, gründlicher vorzugehen und genau die Textfenster ins Visier zu nehmen, die der Computer zur Generierung des Liedes verwendete, traten sie auf ein anderes Problem. Sie schafften es zwar, den Computer am Singen des Liedes zu hindern, beschädigten dabei aber die Fähigkeit des Computers, andere Dinge zu erinnern. Das Modell wurde schlechter darin, Fragen zu Fakten über das Lied zu beantworten, und verlor auch einige seiner allgemeinen Fähigkeiten, wie etwa die Fähigkeit zu logischem Denken oder zum Lösen von Mathematikaufgaben.
Die Studie zeigte, dass die Wahl des zu entfernenden Textes nicht nur ein technisches Detail ist, sondern ein wesentlicher Teil der Lösung selbst. Die Forscher fanden heraus, dass dieselbe Liste von zu vergessender Text kann zu sehr unterschiedlichen Ergebnissen führen, je nachdem, welcher Algorithmus zur Löschung verwendet wurde. In einigen Fällen führte eine Methode, die für ein bestimmtes Computermodell perfekt funktionierte, bei einem anderen Modell zu erheblichen Schäden. Dies bedeutet, dass man nicht einfach eine Liste von Wörtern auswählen und davon ausgehen kann, dass die Löschung sauber ablaufen wird. Der Prozess der Datenselektion und der Prozess des Löschens sind tief miteinander verbunden. Wenn man zu wenig auswählt, bleibt das unerwünschte Verhalten bestehen. Wenn man zu viel oder die falsche Art von Text auswählt, riskiert man, wertvolles Wissen zu löschen und die allgemeine Intelligenz des Computers zu beeinträchtigen.
Letztendlich deutet die Forschung darauf hin, dass die Vorstellung einer einfachen, perfekten Liste von Dingen, die man vergessen soll, eine Illusion ist. In der chaotischen Realität, wie diese Modelle lernen, wird ein Lied oder ein Buch durch ein riesiges, unsichtbares Netz von Texten gestützt. Um ein Stück Inhalt wirklich zu verlernen, ohne den Rest des „Geistes“ des Modells zu verletzen, muss die Auswahl der Daten mit äußerster Sorgfalt erfolgen, wobei genau berücksichtigt werden muss, wie das spezifische Computermodell diesen Inhalt gelernt hat. Die Studie kommt zu dem Schluss, dass praktisches Unlearning nicht allein durch die Verbesserung der Löschwerkzeuge gelöst werden kann; es erfordert eine neue Denkweise darüber, wie wir die Daten finden und auswählen. Der Weg nach vorn besteht darin, ein System zu entwerfen, bei dem die Auswahl dessen, was vergessen werden soll, und die Methode des Vergessens gemeinsam geplant werden, um sicherzustellen, dass der Computer eine spezifische Anfrage loslassen kann, ohne seine Fähigkeit zu verlieren, die Welt um sich herum zu verstehen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.