The Optimizer Is the Agent: Reasoning-Driven Search across Prompts, Programs, and ML Workflows
Das Papier stellt ReASearch vor, ein vereinheitlichtes Framework, in dem ein einziger, durch Schlussfolgerungen gesteuerter Agent den gesamten Optimierungsprozess für Prompts, Programme und ML-Workflows autonom verwaltet, indem es komplexe Suchrichtlinien effektiv verinnerlicht und spezialisierte Systeme über verschiedene Aufgaben hinweg übertrifft.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, einem Roboter beizubringen, ein Rätsel zu lösen, ein Gedicht zu schreiben oder einen Videospiel-Charakter zu trainieren, um zu gewinnen. In der Welt der künstlichen Intelligenz nennt man das „Optimierung“. Normalerweise agieren Menschen dabei wie die strengen Trainer am Spielfeldrand. Sie entwerfen einen starren Spielplan: „Versuch es hiermit, dann versuch es damit, und wenn es fehlschlägt, geh zurück und versuch etwas anderes.“ Der Roboter (ein großes Sprachmodell) ist dabei nur der Spieler, der blind den Befehlen folgt, um kleine Änderungen vorzunehmen, während der menschliche Coach die große Strategie entscheidet. Aber was wäre, wenn der Roboter auch der Coach sein könnte? Was wäre, wenn er den Spielstand lesen, herausfinden könnte, warum er verloren hat, entscheiden könnte, die Regeln des Spiels zu ändern, oder sogar erkennen könnte, dass er feststeckt und einen völlig neuen Ansatz benötigt würde – und zwar ganz von selbst? Dieses Paper untersucht genau diese Frage: Kann ein einzener, intelligenter KI-Agent lernen, seine eigene Suche nach der besten Lösung zu verwalten, ohne dass ein vom Menschen geschriebenes Skript ihm vorschreibt, wie er zu denken hat?
Die Forscher hinter dieser Studie, veröffentlicht auf der COLM 2026 Konferenz, führen ein neues System namens ReASearch ein. Stellen Sie sich das so vor, als würde man dem Roboter ein Schweizer Taschenmesser statt nur eines Hammers in die Hand drücken. In der Vergangenheit waren KI-Optimierer wie eine Fabrik-Montageband, bei der ein von Menschen entworfener Algorithmus entschied, welche Kandidatenlösung als Nächstes getestet wird, wie viel Zeit dafür aufgewendet wird und wann man aufgibt. Die einzige Aufgabe der KI war es, eine kleine Änderung an der aktuellen Lösung vorzunehmen. ReASearch dreht das Blatt um. Es gibt dem KI-Agenten einen Satz an Werkzeugen – wie einen Python-Interpreter zum Ausführen von Code, eine Speicherdatei, um vergangene Fehler zu behalten, und die Fähigkeit, Experimente durchzuführen – und lässt den Agenten dann alles entscheiden. Der Agent fragt sich selbst: „Sollte ich diese Idee erst an einer kleinen Stichprobe testen? Habe ich gerade denselben Fehler zweimal gemacht? Sollte ich meinen aktuellen Plan wegwerfen und zu einer besseren Version zurückkehren, die ich früher ausprobiert habe?“ Der Agent rät nicht einfach nur; er denkt den Prozess durch und entwickelt währenddessen eine Strategie.
Das Team testete diesen „selbstcoachenden“ Agenten bei 14 verschiedenen Herausforderungen, die von der Verfeinerung von Text-Prompts zur intelligenteren Gestaltung über die Evolution von Computerprogrammen zur Lösung von Mathe-Rätseln bis hin zur Optimierung von Machine-Learning-Trainings-Workflows reichten. Die Ergebnisse waren überraschend stark. In vielen Fällen schlug ReASearch spezialisierte Systeme, die von menschlichen Experten mit spezifischen, fest programmierten Regeln entwickelt worden waren. Beispielsweise entdeckte der Agent bei einer Aufgabe namens „Circle Packing“ (das möglichst dichte Packen von Kreisen in ein Quadrat) Lösungen, die besser waren als die bisher besten, von Menschen gefundenen Ergebnisse. In anderen Aufgaben verbesserte er die Leistung um anywhere von 2 % bis hin zu massiven 40 %.
Was wirklich faszinierend ist, ist das Wie des Agenten. Die Forsler fanden heraus, dass der Agent ganz natürlich begann, wie ein erfahrener Wissenschaftler oder ein Schachgroßmeister zu agieren, obwohl ihm niemand dies gesagt hatte. Er begann, vielversprechende Ideen zu „doppelchecken“, bevor er sie fest einsetzte. Er lernte, zu früheren, sichereren Versionen einer Lösung „zurückzukehren“, wenn ein neuer Pfad in eine Sackgasse führte. Er begann, ein „Lessons Learned“-Journal zu führen, um dieselben Fehler nicht zu wiederholen. Am beeindruckendsten war, dass er begriff, dass man manchmal zwei verschiedene Techniken kombinieren muss, um ein Problem zu lösen – eine Entdeckung, die normalerweise tiefe menschliche Einsicht erfordert. Das Paper legt nahe, dass, wenn man einer KI die richtigen Werkzeuge gibt und sie den Prozess durchdenken lässt, sie komplexe Suchstrategien verinnerlichen kann, von denen wir zuvor annahmen, dass sie ein von Menschen entworfenen Algorithmus zur Steuerung benötigen würden. Es stellt sich heraus, dass der Optimierer nicht ein separater, starrer Controller sein muss; der Optimierer kann der Agent selbst sein.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.