CleanScore: Black-Box Benchmark Audits with Negative Controls and Sensitivity Bounds

Im Wettlauf um den Bau intelligenterer Maschinen verlassen sich Forscher auf Standardtests, um zu messen, wie gut eine künstliche Intelligenz Probleme lösen kann. Diese Tests sind wie Schulprüfungen: eine Reihe von Fragen mit bekannten Antworten, die ein Modell lösen muss, um eine Punktzahl zu erhalten. Je höher die Punktzahl, desto fähiger gilt die Maschine. Doch ein Schatten ist über diese Ergebnisse gefallen. Da diese Tests online veröffentlicht werden, sind die Fragen und Antworten oft im Internet verfügbar, wo die Maschinen lernen. Es wächst die Angst, dass hohe Punktzahlen nicht immer Intelligenz beweisen; sie könnten schlichtweg beweisen, dass die Maschine die Testfragen während ihres Trainings auswendig gelernt hat. Wenn eine Maschine die exakten Fragen schon einmal gesehen hat, wird ihre Punktzahl künstlich aufgebläht, und das Ranking verschiedener Modelle wird zu einem Wettbewerb des Gedächtnisses statt des logischen Denkens.

Dies schafft ein schwieriges Problem für jeden, der diese Maschinen fair bewerten möchte. Die meisten leistungsstarken Modelle sind „Black Boxes“, was bedeutet, dass ihre internen Trainingsdaten geheim sind. Ein Auditor kann nicht einfach in die Maschine hineinsehen, um zu prüfen, ob sie eine spezifische Frage auswendig gelernt hat. Er kann nur die endgültige Punktzahl sehen. Jahrelang war die beste Methode, um Auswendiglernen zu überprüfen, die Fragen umzuformulieren. Wenn eine Maschine die zugrunde liegende Mathematik oder Wissenschaft eines Problems wirklich versteht, sollte sie eine umformulierte Version genauso gut lösen wie das Original. Wenn sie bei der umformulierten Version scheitert, hat sie wahrscheinlich das Original nur auswendig gelernt. Aber diese Methode hat einen verborgenen Fehler: Sie setzt voraus, dass eine Maschine das Konzept gelernt hat, wenn sie die umformulierte Frage richtig löst. Wenn die Maschine die umformulierte Frage nur deshalb richtig löst, weil sie den Lösungsschlüssel auswendig gelernt hat, versagt der Test dabei, das Auswendiglernen zu entlarven.

Ein Team von Forschern setzte sich zum Ziel, eine bessere Methode zu entwickeln, um diese Punktzahlen zu prüfen, ohne in die Black Box hineinsehen zu müssen. Sie entwickelten eine Methode namens CleanScore, die jede Testfrage wie ein Elternteil mit drei Kindern behandelt: die ursprüngliche öffentliche Frage und zwei frische, privat verfasste Versionen, die dieselben Zahlen und Fakten beibehalten, aber andere Wörter verwenden. Die Forscher baten fünf verschiedene Open-Source-Modelle, 200 Fragen aus zwei großen Benchmarks zu lösen, wobei ein Fokus auf Mathematik und der andere auf Naturwissenschaften lag. Für jede Frage verglichen sie, wie gut die Modelle bei der ursprünglichen öffentlichen Version im Vergleich zu den zwei frischen Versionen abschnitten. Wenn die Modelle bei der öffentlichen Version konsequent besser abschnitten, würde dies darauf hindeuten, dass sie die Testfragen auswendig gelernt hatten.

Das Audit ergab keinen Hinweis auf diese Art von Auswendiglernen. Über alle fünf Modelle und beide Benchmarks hinweg waren die Punktzahlen bei den öffentlichen Fragen nicht signifikant höher als die Punktzahlen bei den frischen, umgeschriebenen Fragen. Die Forscher berechneten, dass jeder Vorteil, der durch das Sehen der öffentlichen Formulierung entstand, wahrscheinlich weniger als fünf Prozentpunkte betrug. Dieses Ergebnis hielt auch stand, nachdem das Team einen technischen Fehler in ihrem ursprünglichen Setup behoben hatte, bei dem einige Modelle unterbrochen wurden, bevor sie ihre Antworten beendeten. Die Studie beinhaltete auch eine „Negativkontrolle“, einen Satz von Fragen, die die Modelle noch nie gesehen hatten und die sie nicht hätten auswendig lernen können, um sicherzustellen, dass der Prozess des Umschreibens die Fragen nicht schwieriger oder leichter machte. Die Ergebnisse zeigten, dass der Umschreibungsprozess fair war und dass das Fehlen einer Differenz in den Punktzahlen ein echendes Ergebnis war und kein Artefakt des Testdesigns.

Der bemerkenswerteste Teil der Studie kam jedoch aus einer Reihe von Experimenten, die darauf ausgelegt waren, zu sehen, was das Audit übersehen würde. Die Forscher trainierten absichtlich vier verschiedene Modelle auf die exakte Formulierung von 100 der Testfragen. Dann führten sie dasselbe Audit durch, um zu sehen, ob es das Auswendiglernen erfassen würde. Beim Mathematik-Benchmark verbesserten die Modelle, die die Fragen auswendig gelernt hatten, ihre Genauigkeit bei der gelernten Formulierung um 26 Punkte. Aber als sie an den frischen, umgeschriebenen Versionen derselben Fragen getestet wurden, verbesserten sie sich auch um 20 Punkte. Das Audit, das nur den Unterschied zwischen dem Original und der Umformulierung betrachtet, sah eine Differenz von nur etwa sechs Punkten. Mit anderen Worten: Das Audit erfasste nur einen kleinen Bruchteil des Auswendiglernens. Der Großteil des Vorteils – der Teil, der aus dem Verständnis des Problems statt nur des Auswendiglernens der Wörter resultierte – war für den Test unsichtbar.

Diese Blindheit war beim Naturwissenschafts-Benchmark noch extremer. In einem Experiment trainierten die Forscher ein Modell auf 100 Naturwissenschaftsfragen und testeten es dann auf den umgeschriebenen Versionen. Das Modell verbesserte seine Genauigkeit bei den gelernten Fragen um 49 Punkte. Da die umgeschriebenen Versionen die Multiple-Choice-Antworten exakt gleich ließen, erzielte das Modell auch bei den umgeschriebenen Fragen eine perfekte Punktzahl, indem es einfach die auswendig gelernte Antwortzeichenfolge erkannte. Das Audit berechnete eine Differenz von minus zwei Punkten und sah somit praktisch kein Auswendiglernen. Das Modell hatte die Antworten gelernt, aber das Testdesign, das die Antwortoptionen unverändert ließ, ermöglichte es dieser Kenntnis, im Verborgenen zu bleiben.

Die Forscher kamen zu dem Schluss, dass ihre Methode zwar erfolgreich messen konnte, ob ein Modell sich auf die spezifische Oberflächenformulierung einer Frage verließ, sie aber nicht das gesamte Ausmaß der Kontamination messen konnte. Ein Modell könnte intensiv auf einem Datensatz trainiert worden sein und dennoch „sauber“ erscheinen, wenn die Testfragen so umgeschrieben wurden, dass der Kern der Antwort erhalten blieb. Die Studie zeigte, dass es für die fünf geprüften Modelle keine starken Beweise dafür gab, dass sie die spezifische Formulierung der Testfragen auswendig gelernt hatten. Aber sie bewies auch, dass ein „sauberes“ Ergebnis nicht garantiert, dass das Modell das Material zuvor nicht gesehen hat; es garantiert nur, dass das Modell nicht auf die exakte Phrasierung angewiesen war. Das Audit maß erfolgreich die oberflächliche Inflation, konnte aber nicht ausschließen, dass die Modelle das Material auf eine Weise gelernt hatten, die den Umschreibungsprozess überlebte.

Die Studie verdeutlichte auch die Grenzen der geringen Größe eines Audits. Die Forscher fanden heraus, dass ein Audit mindestens 200 Fragen testen muss, um einen signifikanten Vorteil zuverlässig zu detektieren. Bei weniger Fragen ist die statistische Unsicherheit so groß, dass der Test nicht zwischen einem echten Vorteil und zufälligem Rauschen unterscheiden kann. Sie zeigten auch, dass es zwar möglich ist, Modelle mit weniger Fragen korrekt zu ranken, die Bestimmung der exakten Reihenfolge der Leistung jedoch eine viel größere Stichprobe erfordert. Die Arbeit dient als rigoroses, registriertes Experiment, das einen neuen Standard dafür setzt, wie man über Unsicherheit in der KI-Prüfung spricht. Sie erklärt die Modelle nicht für alle Formen des Auswendiglernens unschuldig, aber sie liefert eine klare, ehrliche Aussage darüber, was die Daten zeigen können und was nicht, wenn nur die endgültigen Punktzahlen verfügbar sind.