Position: Evaluation Scores Are Perishable Knowledge Claims

Die Scorecard-Falle: Warum „Durchschnitt“ eine Lüge sein kann

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, ein Rätsel anhand von Hinweisen von drei verschiedenen Zeugen zu lösen. Ein Zeuge ist ein supergenauer Roboter, der nie lügt, aber das Verbrechen nur aus der Ferne gesehen hat. Ein anderer ist ein geschwätziger Mensch, der alles aus der Nähe gesehen hat, aber manchmal Dinge erfindet, um cool zu wirken. Der dritte ist ein Spiegel, der einfach nur das wiederholt, was der Verdächtige sagt. Wenn Sie den „Durchschnitt“ ihrer Berichte nehmen, erhalten Sie vielleicht eine ordentliche, mittelmäßige Version der Ereignisse, die vollkommen vernünftig klingt. Aber hier ist der Haken: Wenn der menschliche Zeuge sagt, dass der Verdächtige einen roten Hut trug (obwohl er eigentlich einen blauen trug), ruiniert dieses eine falsche Detail die gesamte Geschichte, egal wie perfekt die Beschreibung des Wetters vom Roboter war. In der Welt der Künstlichen Intelligenz, speziell wenn wir versuchen zu messen, wie intelligent diese Computergehirne sind, machen wir oft genau diesen Fehler. Wir behandeln Testergebnisse wie einfache mathematische Probleme, bei denen wir sie einfach zusammenzählen und durch die Anzahl der Tests teilen können, um eine „Endnote“ zu erhalten. Aber die Autoren dieses Papers argumentieren, dass diese Scores nicht bloß Zahlen sind; sie sind Behauptungen über die Wahrheit, die ein Verfallsdatum haben, spezifische Grenzen für ihren Anwendungsbereich besitzen und unterschiedliche Zuverlässigkeitsstufen aufweisen. Wenn wir diese verborgenen Regeln ignorieren und einfach alles zusammen mitteln, landen wir bei einer „Vertrauensinflation“ – eine schicke Art zu sagen, dass wir in ein System übermäßig vertrauensvoll werden, das in Wirklichkeit auf gefährliche Weise defekt sein könnte.

Die große Idee des Papers: Aufhören zu mitteln, anfangen zu prüfen, wo das schwächste Glied liegt

Das Paper, geschrieben von Sankalp und Shlok Gilda, argumenttiert, dass die aktuelle Art und Weise, wie wir KI-Modelle ranken, fundamental fehlerhaft ist, weil sie alle Testergebnisse so behandelt, als wären sie gleichermaßen stark und dauerhaft. Die Autoren nennen dieses Problem Vertrauensinflation. Es geschieht, wenn wir verschiedene Arten von Beweisen mischen – wie automatisierte Computerprüfungen, menschliche Meinungen und KI-Richter – zu einem einzigen „Durchschnittswert“. Das Problem ist, dass ein einzeres schwaches Glied das gesamte Bild zerstören kann, aber das Mitteln diese Schwäche verbirgt.

Um dies zu erklären, nutzen die Autoren eine einfache Analogie: Stellen Sie sich eine Kette vor. Die Stärke der gesamten Kette wird nicht durch die durchschnittliche Stärke aller ihrer Glieder bestimmt, sondern durch das schwächste Glied. Wenn Sie eine Kette haben, bei der 99 Glieder aus Stahl bestehen und eines aus Papier, wird die gesamte Kette unter dem Gewicht einer Feder reißen. Ähnlich verhält es sich, wenn ein KI-Modell großartig darin ist, Poesie zu schreiben, aber schrecklich darin, die Wahrheit zu sagen (Faktizität); ein „Durchschnittswert“ könnte es wie einen ordentlichen Allrounder aussehen lassen. Aber in der realen Welt, wenn diese KI verwendet wird, um medizinischen Rat zu geben, ist ihre Unfähigkeit, die Wahrheit zu sagen, eine Katastrophe, ungeachtet dessen, wie schön ihre Poesie auch sein mag.

Das Paper schlägt vor, dass wir aufhören sollten, den „Durchschnitt“ als unsere Standardmethode zu verwenden. Stattdessen sollten wir einen „Schwächstes-Glied“-Ansatz verfolgen, insbesondere für sicherheitskritische Aufgaben. Das bedeutet: Wenn eine KI auch nur einen wichtigen Test fehlschlägt, sollte ihre Gesamtbewertung sinken, um diesen Fehlschlag widerzuspiegeln, anstatt durch ihre anderen guten Ergebnisse gestützt zu werden.

Die drei Regeln der KI-Wahrheit

Die Autoren schlagen vor, dass jeder KI-Testwert mit einem „Etikett“ versehen sein sollte, das uns drei spezifische Dinge mitteilt, ganz so wie eine Lebensmittelverpackung Ihnen sagt, was drin ist, woher es kommt und wann es abläuft:

1. Formalität (Wie stark ist der Beweis?): Nicht alle Tests sind gleich. Das Paper erstellt ein „Stufen“-System.

   • Stufe F0 (Die Schwächste): Dies umfasst Scores von anderen KI-Modellen, die die Arbeit bewerten, oder Crowdsourcing-Meinungen. Die Autoren schlagen vor, dass diese nur bis zu einer Zuverlässigkeitsobergrenze von 0,70 vertrauenswürdig sind, da KI-Richter oft einfach nur lange, schicke Antworten mögen, selbst wenn sie falsch sind.
   • Stufe F1 & F2 (Stärker): Dies sind strukturierte Computerprüfungen oder kontrollierte menschliche Tests. Sie sind zuverlässiger, aber selbst menschliche Tests haben Grenzen (Zuverlässigkeit bis zu 0,95).
   • Stufe F3 (Die Stärkste): Dies ist ein formaler mathematischer Beweis. Dies ist das Einzige, das eine perfekte Zuverlässigkeit von 1,00 erreichen kann.
   • Die Regel: Wenn Sie einen F0-Score mit einem F2-Score mischen, wird das gesamte Ergebnis auf das F0-Niveau (0,70) gedeckelt. Man kann einen schwachen Test nicht stark machen, indem man einen starken Test hinzufügt.

2. Scope/Geltungsbereich (Wo gilt das?): Ein Testwert ist nur für die spezifische Situation wahr, in der er getestet wurde. Wenn eine KI auf englischen Fragen getestet wurde, bedeutet dieser Score nicht, dass sie gut in Spanisch ist. Wenn sie auf Allgemeinwissen getestet wurde, bedeutet das nicht, dass sie gut in Rechtsberatung ist. Das Paper argumenttiert, dass Scores explizit ihre Grenzen angeben sollten, damit wir sie nicht versehentlich am falschen Ort verwenden.

3. Validitätsfenster (Wann läuft es ab?): Testwerte haben eine Lebensdauer. Genau wie Milch können sie schlecht werden. Die Autoren weisen darauf hin, dass ein Testwert bedeutungslos wird, sobald eine KI die Testfragen während ihres Trainings gesehen hat (ein Problem namens „Kontamination“). Sie schlagen vor, dass jeder Score ein Verfallsdatum haben sollte. Eine KI-generierte Meinung ist vielleicht nur wenige Wochen gültig, während ein formaler mathematischer Beweis ewig halten kann.

Reale Beweise: Die „Vertrauensinflation“ in Aktion

Die Autoren haben nicht nur über Theorie gesprochen; sie haben ein echtes Testsystem für KI-Agenten gebaut und dabei einige beängstigende Bugs gefunden.

• Der stille Bug: Sie entdeckten, dass ein Mismatch zwischen ihren Computercodessprachen dazu führte, dass jeder einzelne Fehler als Erfolg registriert wurde. Das System hat sie angelogen und die Scores aufgebläht, ohne dass es jemand bemerkte. Dies ist „Vertrauensinflation“ auf der Infrastrukturebene.
• Die „Durchschnitts“-Lüge: Sie testeten diese Theorie an einem berühmten öffentlichen Leaderboard namens HELM. Sie untersuchten 54 Top-KI-Modelle in 10 verschiedenen Szenarien.
  • Als sie die Modelle nach dem Durchschnittswert rankten, bildeten die Top-5-Modelle eine Gruppe.
  • Als sie sie nach dem schwächsten Glied (dem niedrigsten Score in einer Kategorie) rankten, bildeten die Top-5-Modelle eine völlig andere Gruppe.
  • Tatsächlich war die Überschneidung zwischen den beiden Top-5-Listen Null. Die Modelle, die nach der alten Methode als die besten „Allrounder“ aussah, waren tatsächlich diejenigen mit den größten verborgenen Schwächen. Die Modelle, die nach der alten Methode „durchschnittlich“ aussah, waren tatsächlich die zuverlässigsten, weil sie keine katastrophalen Ausfälle hatten.

Was dies für die Zukunft bedeutet

Das Paper schließt mit einem Aufruf zum Handeln an die KI-Community. Sie wollen, dass wir aufhören, die Mathematik hinter den Scores zu verstecken.

• Zeigt eure Arbeit: Jeder Score sollte ein Etikett tragen, das angibt, wie stark der Beweis ist, wofra er gilt und wann er abläuft.
• Wählt euer Gift: Wenn wir Scores kombinieren müssen, sollten wir zugeben, welche Methode wir verwenden. Sind wir optimistisch (Verwendung des Durchschnitts) oder konservativ (Verwendung des schwächsten Glieds)? Das Paper argumentiert, dass wir aus Sicherheitsgründen standardmäßig die konservative „Schwächstes-Glied“-Methode wählen sollten, aber zumindest zugeben sollten, dass wir diese Wahl getroffen haben.
• Versionskontrolle: Genau wie Softwarecode sollte die Art und Weise, wie wir Testergebnisse aufzeichnen, versioniert sein, damit wir nicht versehentlich Äpfel mit Birnen vergleichen.

Die Autoren geben zu, dass dies ein „Position Paper“ ist, was bedeutet, dass sie eine neue Denkweise vorschlagen, die auf starker Logik und Engineering-Erfahrung basiert, anstatt ein massives neues Experiment, das alles zu 100 % beweist. Sie räumen ein, dass es zu konservativ sein kann, wodurch gute Modelle schlecht aussehen könnten, aber sie argumentieren, dass es besser ist, vorsichtig zu sein, als ein System einzusetzen, das im Durchschnitt großartig aussieht, aber auf eine Weise versagt, die Menschen schadet. Indem wir den „epistemischen Status“ (die Wahrhaftigkeit und die Grenzen) von Scores transparent machen, können wir bessere Entscheidungen darüber treffen, welchen KI-Systemen wir vertrauen können.