In der sich schnell entwickelnden Welt der künstlichen Intelligenz verlassen sich Forscher auf Tests, die Benchmarks genannt werden, um zu messen, wie gut ein Computerprogramm denkt. Diese Tests sind wie standardisierte Prüfungen für Maschinen, denen sie Rätsel, Logikprobleme oder kreative Aufgaben präsentieren, um zu sehen, wie sie abschneiden. Jahrelang galt die Annahme, dass Menschen diese Prüfungen entwerfen und die Fragen sowie die Bewertungsregeln sorgfältig ausarbeiten, um sicherzustellen, dass sie das messen, was sie zu messen vorgeben. Doch da sich die Technologie, mit der diese Tests erstellt werden, weiterentwickelt hat, ist eine neue Frage aufgetauchen: Was passiert, wenn die Tests selbst von genau jenen Maschinen geschrieben werden, die sie eigentlich bewerten sollen? Dieser Wandel wirft eine kritische Frage bezüglich der Zuverlässigkeit der erzielten Ergebnisse auf. Wenn eine künstliche Intelligenz einen Test entwirft, könnte sie versehentlich ein Rätsel erstellen, das sie leicht lösen kann, ohne tatsächlich intelligent zu sein, oder sie könnte einen Fehler übersehen, der es einer Maschine ermöglicht, das System auszunutzen. Zu verstehen, ob diese selbst erstellten Tests vertrauenswürdig sind, ist essenziell für jeden, der die wahren Fähigkeiten moderner Computersysteme einschätzen möchte.

Eine aktuelle Studie des unabhängigen Forschers Pooria Arab untersucht genau dieses Szenario. Der Forscher richtete ein Experiment ein, bei dem KI-Coding-Agenten damit beauftragt wurden, eine Suite aus dreiundzwanzig verschiedenen Benchmarks zu erstellen. Diese Agenten schrieben den Code, entwarfen die Aufgaben und erstellten die Bewertungssysteme für alles – vom Zeichnen von Bildern bis hin zum Lösen komplexer Logikrätsel. Um den Prozess streng zu gestalten, untersuchte eine separate Gruppe von KI-Reviewern, die als Rat fungierte, die Arbeit. Sie lasen die Codeänderungen und genehmigten neunundvierzigzig von einhundertdreiundzwanzig Updates, die in die endgültige Sammlung übernommen wurden. Auf dem Papier schien der Prozess erfolgreich zu sein: Die Tests wurden gebaut, überprüft und genehmigt. Eine tiefergehende Untersuchung enthüllte jedoch eine erschreckende Realität. Als der Forscher eine spezielle Art von Probe gegen die fertigen Tests durchführte – im Wesentlichen griff er sie mit einfachen, generischen Strategien an, die darauf ausgelegt waren, Schlupflöcher zu finden – ergab eine Überprüfung der Proben Defekte in allen 22 Paketen.

Die Untersuchung zeigte, dass die ursprünglichen Genehmigungen, obwohl sie die Codeänderungen tatsächlich und gründlich gelesen hatten, wesentliche Mängel nicht entdeckten, weil sie die Tests nicht gegen tatsächliche Angriffe prüften. Die Überprüfung der Proben ergab, dass jedes Paket mindestens eine Korrekturschleife benötigte, wobei einige bis zu neun Runden von Korrekturen erforderten. In den Aufzeichnungen wird vermerkt, dass diese Korrekturen zwar die protokollierten Probleme behoben, dies aber nicht zeigt, dass keine Defekte mehr bestehen. In vielen Fällen waren die Tests so fehlerhaft, dass ein Computerprogramm eine hohe Punktzahl erreichen konnte, indem es fast gar nichts tat. Beispielsweise konnten in dreizehn der Pakete Strategien, die die Aufgabe komplett ignorierten und stattdessen einfach eine konstante, generische Antwort lieferten, dennoch Punkte erhalten. In einem spezifischen Fall, der einen Test zum Zeichnen betraf, konnte ein Computer perfekt auf jede Frage antworten, indem er ein einziges, auswendig gelerntes Bild einreichte, obwohl der Test eigentlich die Fähigkeit bewerten sollte, eine bestimmte Szene zu zeichnen. In einem anderen Fall, ein Test zur Überprüfung, ob ein Computer einen Einkaufswagen verwalten kann, versäumte es, ein Programm zu sanktionieren, das die Artikel nie bezahlte.

Die Studie hebt eine spezifische Lücke in der Art und Weise hervor, wie diese Tests derzeit validiert werden. Der Reviewer-Rat hatte seine Aufgabe erfüllt, indem er den Code las und offensichtliche Fehler meldete, wie etwa einen versteckten Seed-Wert, der versehentlich im Code hinterlassen wurde, oder eine Behauptung in der Dokumentation, die nicht mit dem tatsächlichen Programm übereinstimmte. Dennoch übersah diese Überprüfung die tiefer liegenden Probleme, die erst auftraten, als die Tests tatsächlich ausgeführt wurden. Der Forscher fand heraus, dass die Defekte nicht zufällig waren; sie fielen in dreizehn verschiedene Kategorien, die von Aufgaben, die unmöglich zu lösen waren, bis hin zu Bewertungssystemen reichten, die gefälschte Berichte akzeptierten. Eines der häufigsten Versagen war, dass die Tests „blinde Strategien“ zuließen. Das bedeutet, ein Computer konnte gewinnen, indem er rät oder ein Muster wiederholt, ohne die Frage zu verstehen, schlichtweg weil der Test-Ersteller eine solche einfache Methode nicht antizipiert hatte.

Um zu testen, ob einfache Kontrollen diese Probleme aufdecken könnten, führte der Forscher ein geplantes Experiment mit acht generischen, trivialen Richtlinien durch. Dies waren grundlegende Regeln, wie etwa immer „Ja“ zu sagen oder immer eine leere Antwort zurückzugeben, die darauf ausgelegt waren, die Tests auszunutzen. Die Ergebnisse waren ernüchternd. Die beste triviale Punktzahl wurde nur in zwei Paketen erreicht, ein Nullresultat, das darauf hindeutet, dass generische Richtlinien die meisten protokollierten Defekte nicht erfassen können. Dies deutet darauf hin, dass die gefundenen Defekte keine offensichtlichen Lücken waren, die eine generische Prüfung leicht finden könnte; stattdessen handelte es sich um subtile Probleme, die ein tiefes Verständnis der spezifischen Aufgabe erforderten, um sie aufzudecken. Die Tatsache, dass die Reviewer diese Probleme übersahen, bedeutet nicht, dass sie inkompetent waren; vielmehr zeigt es, dass das Lesen von Code etwas anderes ist als das Angreifen eines laufenden Systems. Die Reviewer sahen den Plan, aber die Proben sahen die Realität dessen, wie das System reagierte, wenn es unter Druck gesetzt wurde.

Die Studie kommt zu dem Schluss, dass künstliche Intelligenz zwar erfolgreich komplexe Test-Frameworks bauen kann, die derzeitigen Genehmigungsmethoden jedoch nicht ausreichen, um deren Qualität zu garantieren. Der Forscher veröffentlichte die gesamte Sammlung der zweiundzwanzig Pakete zusammen mit der Engine, die sie ausführt, und den detaillierten Protokollen jeder gefundenen Korrektur und jedes Fehlers. Diese Veröffentlichung dient als transparenter Beleg dafür, was passiert, wenn Maschinen Tests für Maschinen bauen. Sie zeigt, dass selbst mit einem Rat von Reviewern und einer Pipeline automatisierter Prüfungen signifikante Defekte durchschlüpfen können, wenn der Testprozess kein aktives, adversariales Proben beinhaltet. Die Arbeit behauptet nicht, dass künstliche Intelligenz keine guten Tests bauen kann, legt aber nahe, dass die aktuellen Genehmigungsprozesse einen entscheidenden Schritt vermissen lassen. Bis Tests rigoros angegriffen und gegen einfache Ausbeutungsstrategien verifiziert werden, spiegeln die von ihnen erzeugten Ergebnisse möglicherweise nicht die wahre Intelligenz der gemessenen Systeme wider. Der Forscher betont, dass in dieser Studie keine echten Computermodelle auf diese Tests angewendet wurden, daher sind die Ergebnisse ein Maß für die Testdesigns selbst und nicht für die Fähigkeiten einer spezifischen künstlichen Intelligenz. Die Erkenntnisse stehen als Warnung: Ein grünes Licht von einem Reviewer ist nicht dasselbe wie ein makelloser Befund durch einen rigorosen Angriff.