🤖 AI

Learning the ARTS of Search for Automated Discovery

Das Paper stellt ARTS vor, ein agentisches Reasoning-Framework, das ein Sprachmodell nutzt, um zwischen fehlerhaften Hypothesen und Ausführungsfehlern zu unterscheiden und dabei Test-Time-Training einsetzt, um Kontextbeschränkungen zu überwinden, wodurch es führende Suchalgorithmen übertrifft und mit signifikant geringeren Inferenzkosten bei wissenschaftlichen Entdeckungsaufgaben mit Frontier-Modellen gleichzieht.

Ursprüngliche Autoren: Gurusha Juneja, Arnav Kumar Jain, Deepak Nathani, William Yang Wang, Xin Eric Wang

Veröffentlicht 2026-06-23

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Gurusha Juneja, Arnav Kumar Jain, Deepak Nathani, William Yang Wang, Xin Eric Wang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, ein riesiges, komplexes Puzzle zu lösen, aber Sie haben das Bild auf dem Karton nicht. Sie müssen raten, wie die Teile aussehen, versuchen, sie zusammenzufügen und zu sehen, ob sie funktionieren. Wenn ein Teil nicht passt, müssen Sie entscheiden: Ist das Teil selbst die falsche Form, oder habe ich nur versucht, es auf die falsche Weise hineinzuzwängen?

Dies ist die Kernherausforderung der automatisierten wissenschaftlichen Entdeckung, und das Paper stellt ein neues System namens ARTS (Agentic Reasoning for Tree Search) vor, um dieses Problem zu lösen.

So funktioniert ARTS, erklärt durch einfache Analogien:

1. Das Problem: Die „Gute Idee vs. Schlechte Ausführung“-Falle

Bei bisherigen Methoden versuchte eine KI-Wissenschaftlerin (oder ein KI-Wissenschaftler) eine Hypothese (eine neue Idee), schrieb Code, um sie zu testen, und erhielt einen Score.

Der Fehler: Wenn der Score niedrig war, warf die alte KI die Idee sofort weg und versuchte etwas völlig anderes.
Die Realität: Manchmal erhält eine brillante Idee einen niedrigen Score, nur weil der Code einen winzigen Bug hatte, das Training nicht abgeschlossen war oder die Einstellungen leicht daneben lagen. Es ist, als würde ein Koch ein perfektes Rezept kochen, aber das Toast verbrennen, weil der Ofen zu heiß war. Die alte KI würde sagen: „Dieses Rezept ist schlecht!“ und es wegwerfen, ohne jemals zu merken, dass das Rezept eigentlich großartig war.

2. Die Lösung: Der „Detektiv-Wissenschaftler“

ARTS führt einen Wissenschaftler (einen intelligenten KI-Reasoner) und einen Executor (einen schnellen KI-Coder) ein. Sie arbeiten zusammen wie ein Detektiv und ein Labortechniker.

Der Detektiv (Wissenschaftler): Anstatt nur auf den Endwert zu schauen, betrachtet der Detektiv die gesamte Historie des Experiments. Er lift die Protokolle, prüft den Code und betrachtet die Trainingskurven.
- Die Analogie: Wenn ein Auto bei einem Test versagt, sagt der Detektiv nicht einfach: „Dieses Auto ist Schrott.“ Er prüft die Protokolle und sagt: „Der Motor ist in Ordnung, aber der Mechaniker hat vergessen, Öl einzufüllen.“
- Das Ergebnis: Wenn die Idee gut war, aber die Ausführung schlecht, weist der Detektiv den Executor an, dieselbe Idee noch einmal zu versuchen, aber mit besseren Anweisungen. Dies rettet die „vielversprechenden“ Ideen, die andere Methoden vorzeitig verworfen hätten.
Der Labortechniker (Executor): Diese KI ist schnell und gut darin, Code zu schreiben. Sie nimmt die spezifischen Anweisungen des Detektivs entgegen und baut das Experiment auf.

3. Vermeidung der „Echo-Kammer“

Alte Suchmethoden bleiben oft in einer Schleife stecken. Sie finden eine Idee, die ganz gut funktioniert, und nehmen dann immer wieder nur winzige, langweilige Anpassungen daran vor (wie das Ändern der Farbe eines Autos, ohne jemals den Motor zu reparieren).

ARTS’ Trick: Es verwendet eine Technik namens „Verbalized Sampling“. Anstatt nur die eine „beste“ Idee auszuwählen, listet der Wissenschaftler mehrere verschiedene Möglichkeiten auf (z. B. „Versuche einen neuen Motor“, „Versuche einen neuen Treibstoff“, „Versuche ein neues Rad-Design“) und weist ihnen Wahrscheinlichkeiten zu.
Die Analogie: Anstatt nur den Pfad zu erkunden, der gerade am vielversprechendsten aussieht, schickt ARTS Forscher auf viele verschiedene Pfade aus, um zu sehen, ob es irgendwo ein verborgenes Tal gibt. Dies stellt sicher, dass man keinen Durchbruch verpasst, nur weil man zu sehr auf einen Punkt fixiert war.

4. Das „Gedächtnis-Problem“: Wenn das Notizbuch zu voll wird

Während die KI sucht, generiert sie eine massive Historie von Experimenten. Irgendwann wird diese Historie zu lang, um von der KI erinnert zu werden (sie läuft in das Problem des „Context Window“ bzw. des geistigen Raums).

Der alte Weg: Die KI löscht alte Notizen, um Platz zu schaffen, und vergisst dabei, warum sie bestimmte Dinge versucht hat.
Der ARTS-Weg (Test-Time Training): Wenn das Notizbuch zu voll wird, löscht ARTS nicht einfach die Notizen. Es nimmt die aus den vergangenen Experimenten gelernten Lektionen und „backt“ sie in das Gehirn der KI ein.
- Die Analogie: Stellen Sie sich einen Studenten vor, der tausend Bücher gelesen hat. Anstatt alle Bücher mit sich herumzutragen, legt er eine Prüfung ab, die ihn zwingt, die wichtigsten Lektionen aufzuschreiben. Sobald er die Prüfung bestanden hat, sind diese Lektionen fester Bestandteil seines Gedächtnisses.
- Das Ergebnis: Eine kleinere, günstigere KI (Qwen3-4B), die die Suchhistorie „studiert“ hat, kann genauso gut performen wie eine riesige, teure KI (wie GPT-o3 oder Gemini), aber zu einem Bruchteil der Kosten.

5. Die Ergebnisse: Schlauer, nicht nur härter

Das Paper hat ARTS bei 22 verschiedenen Machine-Learning-Herausforderungen getestet (wie der Vorhersage von Hauspreisen, der Erkennung von Krankheiten in Röntgenbildern oder dem Spielen von Spielen).

Performance: ARTS schlug die bisher besten Methoden in 16 von 22 Aufgaben.
Effizienz: Es war nicht nur Glück; es fand bessere Lösungen, indem es klüger analysierte, warum Experimente fehlschlugen.
Kosten: Durch den „Test-Time Training“-Trick konnte ein kleines, Open-Source-KI-Modell die Leistung der teuersten, geschlossenen Super-KIs erreichen, was die Rechenkosten um bis zu das 5-fache einsparte.

Zusammenfassung

ARTS ist eine neue Art und Weise für KI, Wissenschaft zu betreiben. Anstatt blind Dinge auszuprobieren und alles sofort wegzuwerfen, was nicht sofort funktioniert, agiert es wie ein neugieriger Detektiv. Es untersucht, warum Dinge fehlgeschlagen sind, rettet vielversprechende Ideen, die nur schlecht ausgeführt wurden, erkundet viele verschiedene Pfade gleichzeitig und lernt aus seinen Fehlern, damit es keinen riesigen Speicher benötigt, um weiterzumachen. Dies ermöglicht es, bessere wissenschaftliche Entdeckungen schneller und kostengünstiger als bisher zu machen.

Technisches Resümee: Agentic Reasoning for Tree Search (ARTS)

Problemstellung

Wissenschaftliche Entdeckung, insbesondere im Bereich des maschinellen Lernens (ML), kann als iterative Suche über einen Raum von Hypothesen und Experimenten formuliert werden. Aktuelle Methoden der automatisierten Entdeckung verlassen sich häufig auf Heuristiken wie die Monte Carlo Tree Search (MCTS) oder evolutionäre Algorithmen. Diese Ansätze leiden unter zwei primären Einschränkungen:

Vermischung von Hypothesenqualität und Ausführungsqualität: Score-basierte Heuristiken bewerten Knoten basierend auf ihren finalen Ausführungswerten. Dies vermischt die Qualität der zugrunde liegenden Hypothese mit der Qualität ihrer Code-Implementierung. Infolgedessen wird eine vielversprechende Hypothese mit einer vorläufigen oder fehlerhaften Ausführung oft zugunsten einer bescheidenen Hypothese mit einer verfeinerten Implementierung verworfen.
Beschränkungen des Kontextfensters: Mit fortschreitender Suche überschreitet die akkumulierte Historie aus Logs, Code und Scores das Kontextfenster der Reasoning-Modelle. Bestehende Methoden kürzen diese Historie entweder (was zum Verlust kritischer Informationen führt) oder fassen sie zusammen (was die Zuverlässigkeit der Argumentation reduziert), was zu einem Verlust der globalen Backtracking-Fähigkeiten führt.

Methodik: Agentic Reasoning for Tree Search (ARGS)

Die Autoren schlagen ARTS vor, ein Framework, das ein Large Reasoning Model (LRM) als „agentischen Wissenschaftler“ einsetzt, um den Suchraum zu navigieren. Im Gegensatz zu bisherigen Methoden, die feste Heuristiken zur Knotenauswahl verwenden, nutzt ARTS ein Reasoning-Modell, um vorangegangene Ausführungsprotokolle zu inspizieren, die Ursachen von Fehlern zu diagnostizieren und den vielversprechendsten Pfad für die Zukunft auszuwählen.

Kernarchitektur

ARTS trennt den Suchprozess in zwei distinkte Komponenten:

Der Wissenschaftler (The Scientist): Ein Reasoning-Modell (z. B. OpenAI o3), das für die High-Level-Entscheidungsfindung verantwortlich ist. Es inspiziert den Suchbaum, analysiert Code und Logs, diagnostiziert, ob ein niedriger Score auf eine fehlerhafte Hypothese oder einen korrigierbaren Implementierungsfehler zurückzuführen ist, und wählt den Elternknoten für die Expansion aus.
Der Ausführer (The Executor): Ein Coding-Agent (z. B. Gemini 3 Flash), der für die Implementierung der Hypothese des Wissenschaftlers in Code verantwortlich ist, diesen in einer Sandbox ausführt und den Score zurückgibt.

Schlüsselmechanismen

Knoteninspektion und Diagnose: Der Wissenschaftler nutzt ein INSPECT-Tool, um den Code, Trainingskurven und Logs eines jeden Knotens zu lesen. Dies ermöglicht es dem System, zwischen einer „schlechten Idee“ und einer „schlechten Implementierung“ zu unterscheiden. Wenn beispielsweise ein Modell aufgrund unzureichender Trainingszeit unterperformt statt aufgrund einer schwachen Architektur, behält der Wissenschaftler die Hypothese bei und verfeinert die Ausführung.
Baseline-Audit: Bevor er den Baum erweitert, führt der Wissenschaftler eine Audit-Phase durch, in der er Aufgaben-Daten und Baseline-Code liest, ohne etwas zu modifizieren. Dies stellt sicher, dass der Agent strukturelle Biases (z. B. spärliche Labels) versteht, bevor er Lösungen vorschlägt.
Verbalisiertes Sampling: Um einen Kollaps der Diversität zu verhindern, generiert der Wissenschaftler eine Verteilung von $K$ Kandidatenhypothesen mit zugehörigen Wahrscheinlichkeiten. Ein externer Sampler wählt eine davon aus, wodurch sichergestellt wird, dass die Suche in diverse Richtungen exploriert, anstatt gierig dem einzigen Output mit der höchsten Wahrscheinlichkeit zu folgen.
Memory-Modul: Ein editierbares Memory-Modul speichert kurze Erkenntnisse (z. B. Fehlermodi, Scores) aus jeder Expansion, sodass der Wissenschaftler Schlüsselinformationen behalten kann, ohne den gesamten Baum erneut lesen zu müssen.

ARTS*: Test-Time Training

Um das Kontext-Overflow-Problem in langen Suchen zu adressieren, führen die Autoren ARTS* ein, welches Test-Time Training (TTT) nutzt.

Mechanismus: Das Wissenschaftler-Modell wird mittels LoRA-Adaptern auf der bisher generierten Suchhistorie feinjustiert. Dies „destilliert“ die Sucherfahrung in die Gewichte des Modells und fungiert als Gedächtnismechanismus.
Trainingsschleife: Das Modell wird unter Verwendung von Group Relative Policy Optimization (GRPO) aktualisiert. Es sampelt mehrere Aktionen (Elternknoten + Hypothese), führt sie aus und erhält Belohnungen basierend auf der Perzentil-Leistung im Vergleich zu den aktuellen Werten des Baums.
Ziel: Dies ermöglicht es kleineren Open-Source-Modellen (z. B. Qwen3-4B), die Performance von Frontier-Modellen (Closed-Source) zu erreichen, indem sie das Wissen des Suchbaums internalisieren, was die Abhängigkeit von langen Kontextfenstern reduziert.

Kernbeiträge

Agentic Reasoning for Tree Search (ARTS): Ein neuartiges Suchframework, bei dem ein LRM Ausführungsprotokolle inspiziert, um über die Fehlerursache zu argumentieren und so Hypothesenqualität von Implementierungsqualität zu trennen.
ARTS mit Test-Time Training:* Eine Methode zur Bewältigung von Kontext-Overflow durch das Fine-Tuning des Wissenschaftlers auf seiner eigenen Suchhistorie, was es kleineren Modellen ermöglicht, die Sucherfahrung zu internalisieren und die Leistung größerer Modelle zu erreichen.
Empirische Überlegenheit: Die Demonstration von Verbesserungen über 22 Aufgaben aus MLGym und MLEBench hinweg, wobei das reasoning-basierte Suchen lineare, baumbasierte und evolutionäre Baselines übertrifft.

Ergebnisse

Das Paper evaluiert ARTS und ARTS* gegen führende Baselines (Linear Search, AIRA/MCTS, MLEvolve) und menschliche Bestwerte.

Leistungssteigerungen: ARTS übertrifft führende Algorithmen in 16 von 22 Aufgaben. Es erzielt eine relative Verbesserung von 15,3 % im normalisierten Mittelwert im Vergleich zur stärksten Baseline.
Zuverlässigkeit: ARTS erreicht den höchsten Inter-Quartil-Mittelwert (IQM) und die geringste Optimalitätslücke, was auf eine konsistente Leistung hindeutet und nicht auf die Abhängigkeit von glücklichen Ausreißern.
Diversität und Qualität:
- ARTS exploriert ein breiteres Spektrum an Hypothesenfamilien (4,43 Achsen pro Durchlauf vs. ~4,05 bei Baselines) und weist eine höhere Entropie in seiner Vorschlagsverteilung auf.
- Menschliche Analysen zeigen, dass 45 % der ARTS-Expansionen völlig neue Hypothesen einführen, verglichen mit nur 3 % bei AIRA.
- Das System kann vielversprechende Richtungen (z. B. Lösungen mit rekurrentem Gedächtnis in teilweise beobachtbaren RL-Aufgaben) erfolgreich wiederherstellen, die von score-basierten Heuristiken aufgrund früher Instabilität vorzeitig verworfen wurden.
Kosteneffizienz: Mit Test-Time Training erreicht ein Qwen3-4B Wissenschaftler auf mehreren Aufgaben die Performance eines o3 Wissenschaftlers, während er 5-mal geringere Inferenzkosten verursacht. Auf der MetaMaze-Aufgabe übertrifft der TTT-trainierte Qwen3-4B sogar den o3-Wissenschaftler, indem er menschliche Bestlösungen wiederentdeckt, die andere Methoden bereits aufgegeben hatten.

Bedeutung und Behauptungen

Das Paper behauptet, dass die primäre Bedeutung von ARTS in der Fähigkeit liegt, Hypothesenqualität von der Ausführungsqualität zu entkoppeln. Durch den Einsatz eines agentischen Wissenschaftlers, der über Logs und Code argumentiert, vermeidet das System die „vorzeitige Aufgabe“ vielversprechender Ideen, die score-basierten Heuristiken zutrifft.

Darüber hinaus zeigt die Arbeit, dass Test-Time Training eine praktikable Strategie zur Skalierung automatisierter Entdeckung ist. Es ermöglicht kleineren, kostengünstigeren Modellen, komplexe Suchstrategien zu internalisieren und somit die Beschränkungen der Kontextlänge zu überwinden, ohne massive Kontextfenster zu benötigen. Die Autoren positionieren dies als einen Schritt hin zu effizienterer und zuverlässigerer automatisierter wissenschaftlicher Entdeckung, insbesondere in Domänen, in denen Experimente teuer sind und der Suchraum riesig ist.

Das Paper schließt mit dem Hinweis, dass ARTS zwar von der Qualität der zugrunde liegenden Modelle abhängt, sein modularer Aufbau jedoch eine unabhängige Aufrüstung der Reasoning- und Coding-Komponenten ermöglicht, was einen skalierbaren Weg für KI-gestützte Forschung eröffnet.