Recursive Agentic Reasoning
Dieses Paper führt ein einheitliches Framework aus drei rekursiven Reasoning-Operatoren (GROW, PRUNE und BRANCH) ein und demonstriert durch umfangreiche Evaluierungen, dass wiederholtes Branching andere Test-Time-Reasoning-Methoden über verschiedene Modelle und Benchmarks hinweg konsistent übertrifft, während es gleichzeitig die entscheidende Bedeutung gepaarter Evaluierungsprotokolle hervorhebt, um irreführende Vergleichsschlüsse zu vermeiden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Wenn ein Computerprogramm versucht, ein schwieriges Problem zu lösen, produziert es oft einen einzigen Gedankenstrang, eine Sequenz von Wörtern, die zu einer Antwort führt. Jahrelang haben Forscher sich gefragt, ob es die Programme intelligenter machen würde, wenn man ihnen mehr Zeit und mehr Versuche gäbe. Könnte man den Computer, anstatt die erste Antwort einfach zu akzeptieren, bitten, es erneut zu versuchen, das Problem in kleinere Teile zu zerlegen oder mehrere verschiedene Lösungen zu generieren und die beste auszuwählen? Diese Frage steht im Zentrum der modernen Forschung zur künstlichen Intelligenz. Das Feld ist derzeit erfüllt von vielen verschiedenen Strategien, um zusätzliche Rechenleistung zur Verbesserung des logischen Schlussfolgerns einzusetzen. Einige Methoden fordern das Modell auf, seine eigene Antwort zu verfeinern, andere fordern es auf, eine komplexe Aufgabe in eine Reihe einfacherer Schritte zu zerlegen, und wieder andere fordern es auf, viele unabhängige Versuche zu generieren und über das Ergebnis abzustimmen. Da jede dieser Ansätze isoliert getestet wurde – mit unterschiedlichen Testfragen und unterschiedlichen Bewertungsregeln –, war es unmöglich zu wissen, welche Strategie tatsächlich am besten funktioniert, wenn das Rechenbudget gleich bleibt.
Ein Team von Forschern setzte sich zum Ziel, diese Debatte zu klären, indem sie diese verschiedenen Strategien als Variationen eines einzigen Prozesses behandelten: Rekursion, oder dem Akt, bei dem ein System sich selbst aufruft, um ein Problem zu lösen. Sie definierten drei verschiedene Arten, wie ein Computer dies tun könnte. Die erste, die sie „grow“ (wachsen) nannten, beinhaltete, einen einzelnen Denkstrang zu nehmen und den Computer zu bitten, ihn zu erweitern, also denselben Pfad immer wieder zu verfeinern. Die zweite, „prune“ (stutzen), beinhaltete, den Computer zu bitten, ein schwieriges Problem in eine Liste kleinerer, geordneter Fragen zu zerlegen, diese nacheinander zu lösen und die Antworten dann wieder zusammenzufügen. Die dritte, „branch“ (verzweigen), beinhaltete, den Computer zu bitten, gleichzeitig fünf völlig unterschiedliche Lösungen zu generieren und dann diejenige auszuwählen, die unter ihnen am häufigsten vorkam. Um einen fairen Vergleich zu gewährleisten, ließen die Forscher alle drei Methoden zusammen mit einem Standardversuch in einem Durchgang (single-pass) auf exakt derselben Menge an Problemen unter Verwendung exakt derselben Computermodelle laufen. Sie testeten diese Methoden über fünf verschiedene Arten von Herausforderungen hinweg, die von komplexen mehrstufigen Logikrätseln bis hin zu akademischen Fragen auf Graduiertenniveau reichten, unter Verwendung drei der fortschrittlichsten verfügbaren KI-Modelle.
Die Ergebnisse dieses kontrollierten Experiments waren eindeutig und etwas überraschend. Die Strategie, mehrere Lösungen zu generieren und über die beste abzustimmen – die „branch“-Methode –, verbesserte die Genauigkeit der Antworten in jedem einzelnen Testfall, den sie durchführten. Im Durchschnitt steigerte diese Methode die korrekte Antwortrate um fast sechs Prozentpunkte im Vergleich zu einem Standardversuch. Im Gegensatz dazu waren die anderen beiden Methoden inkonsistent. Die „grow“-Methode, die einen einzelnen Pfad vertieft, verbesserte die Leistung in den meisten Fällen, machte den Computer aber bei bestimmten Arten schwieriger Fragen tatsächlich schlechter. Die „prune“-Methode, die Probleme aufteilt, zeigte nur eine winzige Verbesserung, die oft nicht von zufälligem Rauschen zu unterscheiden war. Die Daten deuteten darauf hin, dass es keine Notwendigkeit für ein komplexes System gab, um zu entscheiden, welche Methode für welches Problem zu verwenden ist; die Methode, die einfach mehrere Pfade ausprobte und den Konsenssieger wählte, war flächendeckend die überlegene Wahl.
Die Forscher gruben tiefer, um zu verstehen, warum diese Abstimmungsmethode so gut funktionierte, und sie entdeckten, dass der Grund nicht das war, was die meisten Menschen erwarteten. Die verbreitete Annahme war, dass das Generieren mehrerer Antworten hilft, weil es dem Computer ermöglicht, viele verschiedene logische Pfade zu erkunden und die korrekte unter ihnen zu finden. Die Daten zeigten jedoch, dass der primäre Vorteil aus einer anderen Quelle stammte: der Erholung von Fehlern (recovery from failure). Wenn diese fortschrittlichen Computermodelle gebeten werden, lange nachzudenken, geht ihnen oft der zugewiesene Speicherplatz aus, bevor sie ihre Antwort fertig schreiben können. In einem einzelnen Versuch führt dies zu einer leeren Antwort, was als falsche Antwort gezählt wird. Aber wenn der Computer gebeten wird, fünfmal zu versuchen, ist die Wahrscheinlichkeit, dass alle fünf Versuche exakt im selben Moment scheitern, sehr gering. Das Abstimmungssystem verwirft die leeren Antworten automatisch und wählt eine gültige Antwort aus den erfolgreichen Versuchen aus. Die Forscher fanden eine starke Verbindung zwischen der Häufigkeit, mit der die Standardmethode keine Antwort produzierte, und dem Ausmaß, um das die Abstimmungsmethode die Punktzahl verbesserte. In den schwierigsten Tests halbierte die Abstimmungsmethode die Rate der leeren, fehlgeschlagenen Antworten.
Dieser Befund verändert die Art und Weise, wie wir darüber denken sollten, künstliche Intelligenz intelligenter zu machen. Er legt nahe, dass ein großer Teil des Vorteils daraus resultiert, einen Computer mehrmals probieren zu lassen, einfach weil er Antworten zurückgewinnt, die ansonsten durch technische Grenzen verloren gingen. Die Forscher hoben auch eine kritische Lektion für zukünftige Studien hervor: Wie man die Ergebnisse zählt, ist immens wichtig. In ihrer ersten Analyse fanden sie, dass die Abstimmungsmethode auf einigen Aufgaben schlechter abschnitt, wenn sie fehlgeschlagene Netzwerkverbindungen oder Timeouts als falsche Antworten zählten. Dies lag daran, dass die Abstimmungsmethode mehr Versuche unternahm und somit mehr Chancen hatte, auf ein technisches Problem zu stoßen. Indem sie die Methoden streng nur auf den Fragen verglichen, die alle erfolgreich beantwortet hatten, enthüllten die Forscher die wahre Leistung. Ihre Arbeit zeigt, dass für die heute verfügbaren leistungsfähigsten Modelle die einfachste Strategie, mehrmals zu versuchen und den Konsens zu wählen, der zuverlässigste Weg ist, um bessere Antworten zu erhalten, und dass die Gewinne größtenteils daraus resultieren, sicherzustellen, dass der Computer seinen Gedanken zu Ende führt, anstatt einen clevereren Weg zur Lösung zu finden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.