💻 computer science

Adaptive Test-Time Compute Allocation with Evolving In-Context Demonstrations

Diese Arbeit stellt einen adaptiven Testzeit-Compute-Rahmen vor, der durch eine Warm-up-Phase und die Nutzung sich entwickelnder In-Context-Demonstrationen die Rechenressourcen dynamisch auf schwierige Anfragen konzentriert und dabei die Generierungsverteilung anpasst, was zu einer besseren Leistung bei deutlich geringerem Inferenzaufwand führt.

Ursprüngliche Autoren: Bowen Zuo, Dongruo Zhou, Yinglun Zhu

Veröffentlicht 2026-04-24

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Bowen Zuo, Dongruo Zhou, Yinglun Zhu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stell dir vor, du hast einen sehr klugen, aber manchmal etwas sturen Freund, der dir bei schwierigen Aufgaben hilft – sei es eine Matheaufgabe, ein Programmiercode oder ein logisches Rätsel.

Wenn diese Aufgabe schwer ist, sagst du ihm normalerweise: „Versuch es einfach noch ein paar Mal!" (Das nennt man im Fachjargon Test-Time Compute oder Rechenzeit am Ende).

Das Problem bei den bisherigen Methoden war jedoch: Dein Freund hat immer genau gleich versucht, die Antwort zu finden, egal wie oft er es schon probiert hat. Er hat immer denselben Gedankenweg eingeschlagen, auch wenn dieser Weg offensichtlich in eine Sackgasse führte. Das war wie ein Wanderer, der immer wieder denselben falschen Pfad hochläuft, nur weil er glaubt, er müsse einfach nur öfter laufen, um ans Ziel zu kommen.

Diese neue Forschung von Zuo und Kollegen bringt eine viel schlauere Strategie: „Adaptive Rechenzeit mit sich entwickelnden Beispielen".

Hier ist die Idee, einfach erklärt:

1. Die zwei Phasen des neuen Systems

Stell dir den Prozess wie eine Schulklasse vor, die eine Prüfung macht.

Phase 1: Der Warm-up (Die leichten Fragen)
Zuerst gibt der Lehrer (das System) jedem Schüler eine kleine, feste Menge an Zeit, um die Fragen zu lösen.

Die einfachen Fragen werden sofort gelöst. Diese Schüler gehen nach Hause und brauchen keine weitere Hilfe.
Die Antworten der erfolgreichen Schüler werden gesammelt. Das ist wie eine Sammlung von gelösten Rätseln, die als Vorbilder dienen.

Phase 2: Die adaptive Phase (Die harten Fragen)
Jetzt konzentriert sich der Lehrer nur noch auf die Schüler, die die Aufgabe noch nicht geschafft haben. Aber hier kommt der Clou:

Statt dem Schüler nur zu sagen: „Versuch es noch mal!", holt der Lehrer die Lösungen der anderen Schüler herbei, die eine ähnliche Aufgabe gelöst haben.
Er sagt: „Schau dir an, wie Sarah das gemacht hat! Sie hat genau dieses Problem gelöst. Versuche es jetzt mit ihrer Methode."
Das System passt also nicht nur an, wie viel Zeit es investiert, sondern auch wie es denkt. Es nutzt die erfolgreichen Lösungen als Leitfaden (Beispiele im Kontext), um den Denkprozess für die nächste Frage zu verändern.

2. Die Metapher: Der Detektiv und die Akten

Stell dir vor, du bist ein Detektiv, der viele Fälle lösen muss.

Der alte Weg (Best-of-N): Du hast einen Fall, der schwer ist. Du rufst 10 verschiedene Detektive, die alle genau denselben Weg gehen, um den Täter zu finden. Wenn keiner es schafft, rufst du 10 weitere, die wieder denselben Weg gehen. Das kostet viel Zeit und Geld (Rechenleistung), bringt aber oft nichts.
Der neue Weg (Adaptive ICL): Du rufst zuerst 10 Detektive. Die leichten Fälle sind schnell gelöst. Für die schweren Fälle holst du dir die Akten der erfolgreichen Fälle aus der Schublade.
- Du sagst: „Hey, dieser Fall hier sieht dem Fall von Frau Müller sehr ähnlich. Frau Müller hat ihn so gelöst, indem sie auf den Hintern des Verdächtigen geachtet hat. Versuche das jetzt auch!"
- Durch diese Anpassung des Denkstils (basierend auf erfolgreichen Beispielen) finden die Detektive die Lösung viel schneller und mit weniger Versuchen.

3. Warum ist das so genial?

Effizienz: Du verschwendest keine Zeit mit endlosem „Rumprobieren" auf dem gleichen falschen Weg. Du lernst aus den Erfolgen der anderen.
Dynamik: Das System wird mit jeder gelösten Aufgabe klüger. Je mehr Fälle gelöst sind, desto mehr „gute Beispiele" hat es in seiner Sammlung, um die nächsten, noch schwereren Fälle zu lösen. Es ist ein sich selbst verbessernder Kreislauf.
Ressourcenschonung: In der Welt der KI bedeutet das: Weniger Rechenleistung (weniger „Token" oder digitale Wörter), die verbraucht werden, um das gleiche oder sogar ein besseres Ergebnis zu erzielen.

Zusammenfassung

Statt wie ein sturer Roboter immer wieder denselben Fehler zu machen, bis er zufällig richtig liegt, nutzt diese Methode Intelligenz und Erfahrung. Sie schaut sich an, was bei ähnlichen Problemen funktioniert hat, und passt den Denkprozess sofort an.

Es ist der Unterschied zwischen:

„Ich schreie lauter, damit die Tür aufgeht." (Alter Weg)
„Ich schaue mir an, wie die Tür bei den anderen Räumen geöffnet wurde, und nutze diesen Schlüssel." (Neuer Weg)

Das Ergebnis: Schnellere Lösungen, weniger Verschwendung und ein intelligenterer Umgang mit der Rechenkraft der KI.

1. Problemstellung

Das Paper adressiert die Herausforderungen bei der Skalierung von Rechenleistung zur Laufzeit (Test-Time Scaling) bei Large Language Models (LLMs). Während bestehende Ansätze wie Best-of-N (mehrere Stichproben, Auswahl der besten) oder Self-Consistency die Leistung verbessern können, leiden sie unter zwei Hauptmängeln:

Statische Verteilung: Die Generierungsverteilung bleibt für jede Frage über den gesamten Prozess hinweg unverändert. Selbst wenn mehr Rechenleistung für schwierige Fragen eingesetzt wird, wird weiterhin aus derselben, oft suboptimalen bedingten Verteilung $p(\cdot|x)$ gesampelt.
Fehlende Adaptivität: Viele Methoden verteilen Rechenressourcen entweder gleichmäßig oder basierend auf statischen Schwierigkeitsschätzungen, ohne die Art und Weise, wie generiert wird, dynamisch anzupassen.

Das Ziel ist es, einen Rahmen zu schaffen, der nicht nur entscheidet, wo Rechenleistung eingesetzt wird (welche Fragen), sondern auch wie diese Leistung genutzt wird, um die Generierungsverteilung während des Inferenzvorgangs zu verbessern.

2. Methodik

Die Autoren schlagen einen zweistufigen, adaptiven Framework vor, der Test-Time-Compute-Allokation mit sich entwickelnden In-Context Learning (ICL)-Demonstrationen kombiniert. Der Prozess läuft wie folgt ab:

A. Warm-up-Phase (Schwierigkeitsschätzung und Pool-Erstellung)

Jeder Testfrage wird zunächst ein kleiner, fester Rechenbudget zugewiesen (z. B. $K$ Stichproben).
Einfache Fragen werden sofort gelöst und aus dem aktiven Set entfernt.
Die erfolgreich gelösten Fragen und ihre Antworten bilden einen initialen Pool $D_{test}$ von Kandidaten-Demonstrationen.
Dies dient gleichzeitig als Schätzung der Schwierigkeitsverteilung des Datensatzes.

B. Adaptive Verteilungs-Sampling-Phase (Self-Evolving ICL)

Für die verbleibenden, schwierigeren Fragen wird der Prozess iterativ fortgesetzt:

Semantische Nachbarschaft: Für jede aktive Frage $x$ werden die $P$ semantisch ähnlichsten Fragen aus dem aktuellen Pool $D_{test}$ identifiziert (mittels Cosinus-Ähnlichkeit von Embeddings).
Dynamische Prompt-Konstruktion: Es wird ein ICL-Prompt $\Pi(x)$ erstellt, der die erfolgreich gelösten Antworten der Nachbarn als Demonstrationsbeispiele enthält.
Bedingte Generierung: Anstatt aus der statischen Basisverteilung zu sampeln, generiert das Modell neue Antworten unter der bedingten Verteilung $p(\cdot | x, \Pi(x))$ .
Feedback-Schleife: Sobald eine Frage gelöst ist, wird ihre Antwort dem Pool $D_{test}$ hinzugefügt. Dies erweitert den Pool für nachfolgende Iterationen und verändert die Verteilung der zukünftigen Demonstrationen („Evolving").

Dieser Ansatz ermöglicht es dem Modell, sich während der Inferenz „selbst zu verbessern", indem es erfolgreich gelöste Probleme als Kontext für ähnliche, noch ungelöste Probleme nutzt, ohne die Modellparameter zu aktualisieren.

3. Schlüsselbeiträge

Einheitliche Sichtweise: Das Paper verbindet erstmals die Allokation von Rechenressourcen (wie viele Samples pro Frage) mit der Anpassung der Generierungsverteilung (wie die Samples generiert werden).
Selbst-evolvierende ICL: Statt statischer oder externer Demonstrationen nutzt das System erfolgreich gelöste Testfragen als dynamische Demonstrationen. Dies nutzt die semantische Struktur des Testdatensatzes, um die Sampling-Wahrscheinlichkeit für korrekte Antworten zu erhöhen.
Effizienz: Der Ansatz reduziert den Overhead, da keine zusätzlichen Suchalgorithmen oder externen Reward-Modelle für jede einzelne Abfrage benötigt werden; die Anpassung erfolgt rein durch Prompting.

4. Ergebnisse

Die Methode wurde auf mehreren Benchmarks (MATH-500, GPQA-Diamond, LiveCodeBench, MinervaMath, Reasoning Gym) mit verschiedenen Modellfamilien (Gemini, GPT-4.1 Mini, GPT-5 Nano) evaluiert.

Leistung: Die adaptive Methode (Ours (Adpt)) übertrifft konsistent sowohl die uniforme Basislinie (Unif) als auch adaptive Allokationsmethoden ohne Verteilungsanpassung (Elim).
Token-Effizienz: Ein entscheidender Vorteil ist die hohe Effizienz. Die Methode erreicht höhere Abdeckungsraten (Coverage) mit deutlich weniger ausgegebenen Tokens als die Baselines. Dies liegt daran, dass schwierige Fragen durch die ICL-Conditioning früher gelöst werden und somit teure, wiederholte Fehlversuche vermieden werden.
Robustheit: Auch bei zufälliger Auswahl von Demonstrationen (Ours (Rand)) wurden Verbesserungen erzielt, jedoch war die semantisch basierte Auswahl (Ours (Adpt)) signifikant stabiler und effektiver, insbesondere bei komplexen Reasoning-Aufgaben.
Ablationsstudien: Die Studie zeigt, dass statische ICL-Prompts weniger effektiv sind als die dynamische, sich entwickelnde Variante. Auch andere Verteilungsanpassungen (wie Temperatur-Tuning) wurden getestet, aber ICL erwies sich als überlegen.

5. Bedeutung und Fazit

Die Arbeit zeigt, dass Test-Time-Scaling nicht nur eine Frage des „Mehr Rechenaufwand" ist, sondern vielmehr der intelligenten Nutzung von bereits generierten Informationen zur Steuerung des Generierungsprozesses.

Paradigmenwechsel: Statt nur mehr Stichproben aus einer starren Verteilung zu ziehen, ermöglicht der Ansatz eine dynamische Verschiebung der Verteilung hin zu erfolgreichen Lösungswegen.
Praktische Relevanz: Da Inferenzkosten ein Hauptlimit für den Einsatz von LLMs sind, bietet diese Methode einen Weg, die Leistung bei gleichzeitiger Reduktion der Token-Kosten zu steigern.
Zukunftsperspektive: Der Rahmen ist modular und kann mit anderen Mechanismen zur Verteilungsanpassung kombiniert werden. Er unterstreicht die Bedeutung temporaler Strukturen in der Inferenz, bei der frühere Ausgaben als Leitfaden für spätere Berechnungen dienen.

Zusammenfassend demonstriert das Paper, dass die Kombination aus adaptiver Ressourcenallokation und sich selbst optimierenden In-Context-Demonstrationen ein kraftvolles Werkzeug ist, um die Grenzen der aktuellen LLM-Leistung ohne Nachtraining zu erweitern.