Can Scientific Claims Be Removed from Large Language Models? A Systematic Evaluation of Claim-Level Unlearning

Moderne Systeme der Künstlichen Intelligenz, oft als große Sprachmodelle bezeichnet, fungieren als riesige Bibliotheken menschlichen Wissens. Sie werden darauf trainiert, enorme Textsammlungen zu lesen, einschließlich wissenschaftlicher Arbeiten, um zu lernen, wie man Fragen beantwortet und Probleme löst. Die Wissenschaft ist jedoch kein statisches Archiv; sie ist ein lebendiger, atmender Prozess ständiger Revision. Wenn eine neue Studie eine alte Idee widerlegt oder wenn eine Arbeit aufgrund eines Fehlers zurückgezogen wird, aktualisiert sich der wissenschaftliche Rekord. Das Problem ist, dass sich diese KI-Modelle nicht automatisch selbst aktualisieren. Sobald sie eine Tatsache gelernt haben, neigen sie dazu, an ihr festzuhalten, selbst nachdem die wissenschaftliche Gemeinschaft sie für falsch erklärt hat. Dies schafft ein Risiko, bei dem eine KI mit Zuversicht veraltete oder widerlegte Informationen wiederholen könnte, was Forscher potenziell in die Irre führen oder sogar in Feldern wie der Medizin Schaden anrichten kann.

Um dies zu adressieren, haben Forscher eine Technik namens „Machine Unlearning“ (maschinelles Vergessen) entwickelt. Das Ziel besteht darin, dem Modell beizubringen, bestimmte Teile von Informationen zu „vergessen“, während es gleichzeitig seine Fähigkeit behält, andere Fragen zu beantworten. Stellen Sie sich einen Bibliothekar vor, der ein bestimmtes, falsches Buch aus den Regalen entfernen muss, ohne die restliche Bibliothek zu stören oder die Fähigkeit zu verlieren, andere Bücher zu finden. Während dies bereits für das Entfernen personenbezogener Daten oder urheberrechtlich geschützten Materials getestet wurde, haben Wissenschaftler noch nicht herausgefunden, wie man spezifische wissenschaftliche Behauptungen effektiv entfernt. Diese Behauptungen sind knifflig, da sie tief miteinander vernetzt sind; das Wissen über eine Tatsache beruht oft auf dem Verständnis vieler anderer Tatsachen. Wenn man versucht, eine Tatsache zu entfernen, könnte das Modell die Information einfach leicht umformulieren, um das Wissen am Leben zu erhalten, oder es könnte versehentlich alles andere vergessen.

Ein Team von Forschern von TCS Research und der Yale University setzte sich zum Ziel, genau dieses Problem zu lösen. Sie schufen eine neue Testumgebung namens SciUnlearn, um zu sehen, ob aktuelle KI-Modelle wirklich in der Lage sind, wissenschaftliche Behauptungen zu vergessen. Sie erstellten einen Datensatz aus echten wissenschaftlichen Arbeiten aus der Informatik und der Medizin, einschließlich einer Gruppe von Papieren, die offiziell zurückgezogen wurden. Für jede Arbeit extrahierten sie die Kernbehauptungen und wandelten diese in verschiedene Arten von Fragen um, wie etwa Multiple-Choice-, Wahr-oder-Falsch-Fragen und Lückentexte. Um sicherzustellen, dass der Test fair war, teilten sie die Fragen in zwei Gruppen auf: eine Gruppe, um das Modell zum Vergessen zu bringen, und eine andere Gruppe aus umformulierten Fragen, die auf denselben zugrunde liegenden Fakten basieren, um zu sehen, ob das Modell tatsächlich das Konzept vergessen oder nur die spezifischen Fragen auswendig gelernt hatte.

Die Forscher nahmen dann bestehende Unlearning-Methoden und wandten sie auf diese Modelle an. Sie baten die Modelle, die erste Gruppe von Fragen zu vergessen, und testeten sie dann an der zweiten Gruppe sowie an allgemeinen Wissensfragen, um sicherzustellen, dass die Modelle nicht nutzlos geworden waren. Die Ergebnisse waren aufschlussreich. Die Methoden funktionierten gut dabei, die Modelle bei den spezifischen Fragen scheitern zu lassen, für die sie trainiert worden waren, um zu vergessen. Wenn sie jedoch mit den umformulierten Fragen konfrontiert wurden, die dieselbe zugrunde liegende wissenschaftliche Behauptung prüften, lieferten die Modelle oft immer noch die richtigen Antworten. Dies deutet darauf wir, dass die Modelle nicht tatsächlich das Wissen entfernten, sondern lediglich die spezifischen Wortmuster der Trainingsfragen unterdrückten. Es war, als hätte das Modell gelernt, eine bestimmte Satzstruktur zu ignorieren, anstatt die dahinterstehende Tatsache zu löschen.

Die Studie untersuchte auch, wie gut die Modelle sich an andere, nicht verwandte Informationen erinnerten. Einige Methoden, die versuchten, die Zielbehauptungen zu vergessen, verschlechterten versehentlich die Fähigkeit des Modells, allgemeine Fragen zu beantworten, während andere es schafften, das restliche Wissen intakt zu halten. Die Forscher fanden heraus, dass die Schwierigkeit, eine Behauptung zu vergessen, davon abhing, wie tief diese Behauptung in der wissenschaftlichen Literatur eingebettet war. Behauptungen aus Papieren, die von vielen anderen Studien häufig zitiert wurden, waren viel schwerer zu entfernen. Diese häufig zitierten Ideen wurden durch ein breites Netz verwandter Texte verstärkt, was sie resistent gegen eine einzige Unlearning-Versuch machte. Im Gegensatz dazu waren Behauptungen aus weniger zitierten Papieren leichter zu stören, aber selbst dann war das Vergessen oft auf die exakte Oberflächenform der Frage beschränkt.

Letztendlich kommt die Studie zu dem Schluss, dass aktuelle Methoden noch nicht in der Lage zu echtem wissenschaftlichem Behauptungs-Unlearning sind. Sie können spezifische Instanzen von Wissen verbergen, aber sie kämpfen damit, das zugrunde liegende konzeptionelle Verständnis zu entfernen. Die Forscher schlagen vor, dass zukünftige Arbeiten darauf fokussieren müssen, Methoden zu entwickeln, die auf diese tieferen, strukturierten Verbindungen innerhalb des Wissens des Modells abzielen können, anstatt nur oberflächliche Muster zu unterdrücken. Bis dahin werden diese KI-Modelle möglicherweise weiterhin das Gewicht veralteter Wissenschaft tragen und an Fakten festhalten, an denen der Rest der Welt bereits vorbeigegangen ist.