Stellen Sie sich vor, Sie versuchen, ein wirklich kniffliges mathematisches Rätsel zu lösen, wie ein Rätsel, das eine lange Logikkette erfordert, um es zu knacken. Sie haben einen superintelligenten Freund (ein Large Language Model, oder LLM), der mit Ihnen sprechen kann. Normalerweise gibt dieser Freund, wenn Sie ihn etwas fragen, sofort eine Antwort. Aber manchmal bleibt er beim ersten Schritt hängen und macht denselben Fehler den ganzen Weg bis zum Ende.

Um dies zu beheben, haben Wissenschaftler zwei Haupttricks ausprobiert. Der erste ist „Resampling“: Ihren Freund zu bitten, das Rätsel zehnmal zu versuchen und die Antwort zu wählen, die am häufigsten vorkommt. Es ist so, als würde man zehn verschiedene Menschen bitten, dasselbe Rätsel zu lösen, und sehen, wer sich einig ist. Der zweite Trick ist die Verwendung eines „Verifiers“: eines separaten, superstrengen Lehrers, der jede Antwort bewertet, um zu sehen, welche am besten ist. Aber der Haken dabei ist: Zehn Leute zu fragen, führt oft nur dazu, dass man zehn leicht unterschiedliche Versionen derselben falschen Idee erhält, und sich auf einen Lehrer zu verlassen bedeutet, darauf vertrauen zu müssen, dass der Lehrer nicht verwirrt oder voreingenommen ist.

Dieses Paper mit dem Titel „Refining Over Resampling“ schlägt einen dritten Weg vor. Anstatt den KI-Modellen nur vorzuschreiben, mehr Vermutungen anzustellen oder einen Lehrer einzustellen, schlagen die Autoren vor, die KI zu ihrem eigenen Editor zu machen. Sie lassen die KI ein paar verschiedene Ausgangsideen generieren, und dann lassen sie die KI innehalten, ihre eigene Arbeit kritisieren, ihre eigenen Fehler finden und sie korrigieren, bevor sie die endgültige Antwort gibt. Es ist, als würde man seinem Freund eine zweite Chance zum Nachdenken geben, indem man nicht sagt: „Fang von vorne an“, sondern: „Hey, warte, du hast in Schritt drei einen kleinen Fehler gemacht; lass uns das korrigieren und weitermachen.“

Das Problem: Die „Echo Kammer“ und der „Halluzinations-Boden“

Die Forscher bemerkten etwas Seltsames, wenn sie KI-Modelle baten, mathematische Probleme zu lösen, indem sie einfach immer mehr Antworten generierten. Sie nannten dies „Diversitäts-Sättigung“. Stellen Sie sich vor, Sie fragen eine Gruppe von Freunden, wie viele Jellybeans in einem Glas sind. Wenn Sie zehn Leute fragen, erhalten Sie vielleicht zehn verschiedene Schätzungen. Aber wenn Sie hundert Leute fragen, stellen Sie vielleicht fest, dass neunzig von ihnen nur Zahlen schätzen, die sehr nah beieinander liegen, weil sie alle denselben „offensichtlichen“ (aber falschen) Hinweis gesehen haben. Die KI tat dasselbe: Sie generierte immer wieder Variationen derselben wenigen falschen Pfade und verschwendete ihre Gehirnleistung an Repetition statt neue Lösungen zu finden.

Darüber hinaus gab es den „Halluzinations-Boden“. Selbst wenn die KI die richtige Antwort tief im Inneren kannte, konnte sie versehentlich über einen kleinen Rechenfehler oder einen logischen Ausrutscher stolpern, während sie sie aufschrieb. Da jede einzelne Vermutung unabhängig voneinander erstellt wurde, war jede einzelne Vermutung gleichermaßen anfällig, über dieselbe Art von Fehler zu stolpern. Mehr Vermutungen zu verlangen half nicht, denn es behob den Stolperer nicht; es lieferte Ihnen nur mehr Stolperer.

Die Lösung: Breite und Tiefe

Die Autoren entwickelten eine Strategie, die sie „Breadth-Depth Refinement“ nennen. Denken Sie an das Erkunden eines Labyrinths.

Breite (Breadth) bedeutet, ein weites Netz auszuwerfen. Anstatt nur einen Pfad zu gehen, generiert die KI mehrere verschiedene Startrouten (genannt „Rollouts“). Dies stellt sicher, dass sie nicht alle in derselben „Echo Kammer“ falscher Ideen feststecken.

Tiefe (Depth) ist die wahre Magie. Sobald sie diese verschiedenen Routen haben, wählen sie nicht sofort die beste aus. Stattdessen nehmen sie jede Route und schicken sie durch eine Schleife der Selbstverbesserung.

1. Der Generator: Die KI schreibt den nächsten Teil der Lösung auf.
2. Der Kritiker: Die KI hält inne und agiert wie ein strenger Editor, liest das, was sie gerade geschrieben hat, und sagt: „Warte, diese Mathematik geht nicht auf“, oder „Diese Logik ergibt keinen Sinn“.
3. Der Korrektor: Die KI hört auf den Kritiker und schreibt diesen spezifischen Teil um, um den Fehler zu beheben.

Sie führen diese Schleife einige Male durch (genannt „Tiefe“) für jede einzelne Route. Schließlich nehmen sie alle nun polierten, selbstkorrigierten Antworten und lassen sie abstimmen. Die Antwort, die die Abstimmung gewinnt, ist die endgültige Antwort.

Was sie herausfanden

Das Team testete diese Idee bei einigen sehr schweren Mathematikwettbewerben, wie der AIME (American Invitational Mathematics Examination) und dem MATH500-Datensatz. Sie verglichen ihre Methode mit den alten Wegen: einmaliges Raten (Greedy), achtmaliges Raten und Abstimmen (Majority Voting) oder achtmaliges Raten und das Überlassen der Entscheidung an eine „Lehrer“-KI (Verifier-based Best-of-N).

Die Ergebnisse waren sehr vielversprechend. Ihre Methode schlug die anderen konsequent. Zum Beispiel, als sie ein kleineres, weniger leistungsfähiges KI-Modell namens Qwen2.5-1.5B verwendeten, erreichte die alte „Lehrer“-Methode etwa 29,6 % der MATH500-Fragen richtig. Aber mit ihrer neuen „Selbst-Editier“-Methode sprang dasselbe Modell auf eine Genauigkeit von 58,0 %. Das ist fast das Doppelte! Beim AMC (American Mathematics Competitions) Test verbesserte dasselbe kleine Modell seine Leistung von 25,0 % auf 32,5 %.

Selbst bei größeren, intelligenteren Modellen verbesserte ihre Methode die Ergebnisse, obwohl die Zuwächse etwas geringer ausfielen, da die intelligenten Modelle bereits eine ordentliche Arbeit leisteten.

Warum es funktioniert (und warum es anders ist)

Die entscheidende Erkenntnis hier ist, dass die KI keinen externen Lehrer braucht, der ihr sagt, was falsch ist. Sie kann lernen, ihre eigenen Fehler zu erkennen, wenn man ihr die richtige Struktur gibt. Die Autoren legen nahe, dass der Schritt des „Kritikers“ entscheidend ist; als sie den Teil entfernten, in dem die KI ihre eigene Arbeit explizit kritisierte, sanken die Werte. Es stellt sich heraus, dass es nicht ausreicht, die KI einfach nur zu bitten, „es noch einmal zu versuchen“; man muss ihr sagen, was sie korrigieren soll.

Außerdem ist diese Methode „training-frei“. Sie mussten der KI nichts Neues beibringen oder ihr zehntausende Beispiele zeigen, wie sie sich selbst korrigiert. Sie haben einfach die vorhandene Gehirnleistung der KI auf eine intelligentere Weise während des Tests genutzt.

Der Kompromiss

Es gibt jedoch einen Preis. Diese Methode kostet mehr Rechenleistung und Zeit. Da die KI für jedes Problem mehrfach generieren, kritisieren und umschreiben muss, verbraucht sie mehr „Compute“ (der schicke Begriff für die Rechenleistung eines Computers) als das bloße einmalige Raten. Die Autoren berechneten jedoch, dass der Gewinn an Genauigkeit im Verhältnis zum Mehraufwand die Arbeit wert ist, insbesondere für kleinere Modelle, die Schwierigkeiten haben, die richtige Antwort beim ersten Versuch zu finden.

Letztendlich legt das Paper nahe, dass wir, wenn wir wollen, dass eine KI klüger wird, sie nicht nur härter arbeiten oder mehr Vermutungen anstellen lassen sollten. Wir sollten ihr die Zeit und die Struktur geben, nachzudenken, ihre Arbeit zu prüfen und ihre eigenen Fehler zu korrigieren, bevor sie uns die endgültige Antwort überreicht. Es ist ein Wechsel von „Mehr ist besser“ zu „Besser ist besser“.