💬 NLP

R2-Router: A New Paradigm for LLM Routing with Reasoning

Dieses Paper stellt R2-Router vor, ein neuartiges Routing-Framework, das die Ausgabelänge als steuerbare Variable behandelt, um gemeinsam das optimale LLM und Budget auszuwählen und dadurch durch die Überwindung der Einschränkungen bestehender Router, welche längenabhängige Qualitäts- und Kostenvariationen ignorieren, eine State-of-the-Art-Leistung bei signifikant geringeren Kosten zu erzielen.

Ursprüngliche Autoren: Jiaqi Xue, Qian Lou, Jiarong Xing, Heng Huang

Veröffentlicht 2026-06-02

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Jiaqi Xue, Qian Lou, Jiarong Xing, Heng Huang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das Problem: Der „Einheitsmaß“-Fehler

Stellen Sie sich vor, Sie sind der Manager eines Restaurants mit einer Speisekarte voller Köche.

Koch A ist ein weltberühmter Meister (teuer, langsam, aber er macht fantastisches Essen).
Koch B ist ein schneller, erschwinglicher Küchenhelfer (günstig, schnell, aber er macht ordentliches Essen).

Alte Router (die Systeme, die entscheiden, welchen Koch man nutzt) funktionieren so: Sie schauen auf die Speisekarte und sagen: „Koch A kostet 50 $ pro Gericht und Koch B kostet 5 $. Wenn Ihr Budget 10 $ beträgt, sagt der alte Router sofort: ‚Kein Koch A für Sie! Nur Koch B.‘“

Der Fehler: Der alte Router geht davon aus, dass Koch A immer 50 $ kostet. Aber was ist, wenn Sie Koch A nur bitten würden, eine einfache Beilage statt eines kompletten 5-Gänge-Menüs zuzubereiten? Koch A könnte dieses einfache Gericht für 10 $ zubereiten, und es würde immer noch besser schmecken als das 5-$-Gericht von Koch B. Der alte Router übersieht diese Chance, weil er jeden Koch als einen einzigen, festen Preispunkt behandelt.

Die Lösung: R2-ROUTER (Der „clevere Verhandler“)

Das Paper stellt R2-ROUTER vor, ein neues System, das nicht nur einen Koch auswählt, sondern auch die Größe der Bestellung verhandelt.

Anstatt Koch A als einen einzelnen Punkt (50 $) zu sehen, sieht R2-ROUTER ihn als eine Kurve. Es erkennt:

„Wenn ich nach einem winzigen Aperitif frage, kostet mich Koch A 5 $.“
„Wenn ich nach einer vollen Mahlzeit frage, kostet mich Koch A 50 $.“

R2-ROUTER stellt eine entscheidende Frage: „Wie verändert sich die Qualität des Essens, wenn ich die Größe des Gerichts einschränke?“

Dann trifft es eine kluge Entscheidung: „Lass uns den teuren Meisterkoch engagieren, aber ihm sagen: ‚Gib uns nur einen einfachen 3-Zutaten-Aperitif.‘ Das kostet uns 10 $, aber die Qualität ist trotzdem erstklassig.“ Dies ist ein Geschäft, das der alte Router nie kommen sah.

Das neue Werkzeug: R2-BENCH (Das „Degustationsmenü“)

Um dieses neue System zu trainieren, haben die Autoren einen neuen Datensatz namens R2-BENCH erstellt.

Alte Datensätze: Waren wie ein Fotoalbum, in dem jeder Koch genau ein Foto gemacht hat. Man wusste nur, wie sie in einem ganz bestimmten Outfit aussehen.
R2-BENCH: Ist wie ein Video, das zeigt, wie jeder Koch 16 verschiedene Mahlzeiten zubereitet, von einem winzigen Snack bis hin zu einem riesigen Bankett. Es zeichnet auf, wie gut das Essen bei jedem einzelnen Preispunkt ist.

Dies ermöglicht es dem System, die „Kurve“ jedes Kochs zu lernen, anstatt nur ein einzelnes statisches Foto auswendig zu lernen.

Wie es in der Praxis funktioniert

Der Input: Sie geben dem Router eine Frage (z. B. „Was ist die Hauptstadt von Frankreich?“).
Das Denken (Reasoning): Der Router schaut sich alle verfügbaren Modelle (Köche) an. Er sagt voraus: „Wenn ich das große Modell bitte, in 10 Wörtern zu antworten, wird es großartig und günstig sein. Wenn ich das kleine Modell frage, wird es vielleicht okay sein, aber nicht so gut.“
Die Entscheidung: Er wählt die beste Kombination aus Modell + Wortbegrenzung.
Die Ausführung: Er sendet die Frage an das gewählte Modell mit einer spezifischen Anweisung: „Beantworte dies, aber verwende höchstens 50 Wörter.“

Die Ergebnisse: Mehr bekommen für weniger Geld

Das Paper behauptet, dass durch diesen „Denk“-Ansatz:

Kosteneinsparungen: Man kann die gleiche hohe Antwortqualität wie bei alten Systemen erhalten, aber für 4- bis 5-mal weniger Geld.
Bessere Entscheidungen: Es verhindert, dass leistungsstarke Modelle abgelehnt werden, nur weil sie scheinbar teuer sind. Es erkennt, dass mächtige Modelle günstig sein können, wenn man die Antworten kurz hält.
Flexibilität: Es funktioniert selbst dann, wenn man später neue Köche (Modelle) in die Küche bringt, ohne das gesamte System von Grund auf neu trainieren zu müssen.

Das große Ganze: Von „Reaktiv“ zu „Denkend“ (Reasoning)

Die Autoren nennen dies einen Wechsel von Reaktiv zu Reasoning (Denkend).

Reaktiv (Der alte Weg): „Das große Modell ist teuer. Lehne es ab.“ (Blind für Nuancen).
Reasoning (Der neue Weg): „Das große Modell ist normalerweise teuer, aber wenn ich die Ausgabelänge einschränke, wird es ein großartiges Angebot. Lass uns es nutzen.“ (Absichtsvoll und strategisch).

Kurz gesagt: R2-ROUTER ist wie ein kluger Einkaufsassistent, der nicht einfach nur das billigste Teil kauft, sondern herausfindet, wie viel man von dem teuren Artikel tatsächlich braucht, um den besten Wert zu erzielen – und so Geld spart, ohne die Qualität zu opfern.

Technisches Resümee: R2-ROUTER: Ein neues Paradigma für das LLM-Routing mit Reasoning

1. Problemstellung

Aktuelle Routing-Systeme für Large Language Models (LLMs) zielen darauf ab, das optimale Modell für eine gegebene Abfrage auszuwählen, indem sie die Antwortqualität und die Inferenzkosten ausbalancieren. Bestehende Router unterliegen jedoch einer kritischen Einschränkung: Sie setzen implizit voraus, dass jedes LLM über ein einzelnes, festes Qualitäts-Kosten-Profil für jede gegebene Eingabe verfügt. Dieses „punktbasierte“ Profiling ignoriert die Intra-Modell-Variabilität, also die Tatsache, dass die Qualität der Ausgabe eines Modells eine Funktion der Ausgabelänge ist.

Infolgedessen schließen traditionelle Router leistungsstarke, hochpreisige Modelle (z. B. 235B-Parameter-Modelle) oft einfach aus, weil deren geschätzte Kosten ein Budget überschreiten. Dabei wird übersehen, dass diese Modelle eine hohe Antwortqualität liefern könnten, wenn sie auf kürzere Ausgabelängen beschränkt würden. Dies führt zu suboptimalen Routing-Entscheidungen, bei denen schwächere Modelle gegenüber leistungsstarken Modellen bevorzugt werden, die unter einem begrenzten Budget besser abschneiden könnten.

2. Methodik: R2-ROUTER

Die Autoren schlagen R2-ROUTER vor, ein Routing-Framework, das das Paradigma von „Routing auf Punkten“ hin zu „Routing auf Kurven“ verschiebt. Anstatt ein einzelnes Modell auszuwählen, wählt R2-ROUTER gemeinsam das beste LLM und ein angemessenes Budget für die Ausgabelänge aus.

Kernkonzept: Routing als Reasoning

R2-ROUTER behandelt das Budget für die Ausgabelänge als eine steuerbare Variable. Durch das Erzwingen von Längenbeschränkungen via Instruktionen (z. B. „verwende höchstens $K$ Token“) untersucht der Router den Trade-off zwischen Qualität und Kosten für jedes Modell. Dies transformiert den Suchraum des Routings von einer diskreten Menge an Modellen in einen kontinuierlichen (oder diskretisierten) Raum von (LLM, Token-Budget)-Paaren.

Architektur

Qualitäts-Kosten-Prädiktor: R2-ROUTER verwendet einen gemeinsamen Encoder, um Query-Repräsentationen zu generieren. Für jedes LLM im Pool nutzt es einen Multi-Head-Prädiktor, wobei jeder Head einem spezifischen „Anker“-Token-Budget entspricht. Diese Heads sagen die erwartete Qualitätsbewertung für dieses Modell bei diesem spezifischen Budget voraus.
Interpolation: Um den Rechenaufwand für das Training von Heads für jede mögliche Token-Anzahl zu vermeiden, verwendet das System eine dünnbesetzte Menge von Anker-Budgets (z. B. 6 bis 16 Punkte) und nutzt stückweise lineare Interpolation, um die Qualität für Zwischenbudgets zu schätzen.
Decision Maker: Zur Laufzeit berechnet der Router einen Trade-off-Score $S = (1-\lambda)Q - \lambda C$ für alle (Modell, Budget)-Kombinationen und wählt das Paar aus, das diesen Score maximiert. Das ausgewählte Modell wird dann mit einem Prompt aufgerufen, der das spezifische Token-Budget erzwingt.

Integration

Die Reasoning-Fähigkeit ist als Plug-in-Modul konzipiert. Die Arbeit demonstriert die Integration von R2-ROUTER in UniRouter, ein Framework für dynamische LLM-Pools. Durch die Erweiterung der Feature-Repräsentation von UniRouter von einem einzelnen Betriebspunkt auf eine Qualitäts-Kosten-Kurve behält das integrierte System die Anpassungsfähigkeit an neue Modelle bei und verbessert gleichzeitig die Effizienz erheblich.

3. Wichtigste Beiträge

R2-BENCH: Der erste längenbewusste Routing-Datensatz

Um Router zu trainieren und zu evaluieren, die über die kostenabhängige Qualität nachdenken (reasoning), haben die Autoren R2-BENCH erstellt.

Datenerhebung: Im Gegensatz zu bisherigen Benchmarks, die eine einzige Antwort pro Modell und Abfrage aufzeichnen, sammelt R2-BENCH mehrere Antworten für dasselbe (Query, Modell)-Paar unter diversen Ausgabelängen-Budgets (von 10 bis 4000 Token).
Umfang: Der Datensatz umfasst 30.968 Abfragen über 6 Benchmarks (einschließlich GPQA, MMLU-Pro und MATH) und 15 Open-Source-LLMs unterschiedlicher Größe (0,6B bis 235B Parameter).
Evaluierung: Er führt eine „Oracle“-Obergrenze ein, die das optimale (Modell, Budget)-Paar auswählt, und zeigt eine Verbesserung der Area Under the Deferral Curve (AUDC) um 15 % gegenüber statischen Benchmarks wie SPROUT auf.

Theoretische Formulierung

Das Paper formalisiert den Übergase von reaktivem Routing (Auswahl aus festen Punkten) zu Reasoning-basiertem Routing (Auswahl aus dem kartesischen Produkt von Modellen und Budgets). Die Autoren beweisen, dass der Suchraum des Reasoning-basierten Routings eine Obermenge des reaktiven Routings ist, was garantiert, dass die von R2-ROUTER gefundene optimale Lösung mindestens so gut wie und potenziell besser als die eines jeden reaktiven Routers ist.

4. Experimentelle Ergebnisse

Leistungssteigerungen

Kosteneffizienz: R2-ROUTER erreicht eine State-of-the-Art-Performance und erzielt vergleichbare Qualitätsniveaus wie bestehende Methoden bei 4- bis 5-mal geringeren Kosten.
Metriken: Auf R2-BENCH erreicht R2-ROUTER eine AUDC von 0,71 (gegenüber 0,67 für den nächstbesten Baseline, CARROT-L) und reduziert die Query-Normalisierte Kosten (QNC) auf 0,26 (gegenüber 0,56 für CARROT-L).
Leaderboard: Zum Zeitpunkt der Annahme belegte R2-ROUTER den ersten Platz auf dem öffentlichen RouterArena-Leaderboard.

Generalisierung und Robustheit

Dynamische Pools: Bei der Integration mit UniRouter zur Handhabung eines erweiterten Pools ungesehener Modelle verbesserte das System die AUDC um 5 % und reduzierte die Kosten um 80 % im Vergleich zum ursprünglichen UniRouter.
Out-of-Distribution (OOD): Das Modell zeigte Robustheit bei OOD-Abfragen (STEM vs. Non-STEM Splits) und behielt eine überlegene Performance gegenüber den Baselines bei.
Dateneffizienz: Das System ist hochgradig dateneffizient; das Training mit nur 6–8 Ankerpunkten liefert eine nahezu optimale Performance, und das Training des gesamten Routers für 15 Modelle dauert auf einer einzelnen GPU etwa 30 Minuten.

Ablationsstudien

Embedding-Modelle: Das Framework bleibt robust, wenn das Standard-Embedding-Modell (Qwen3-Embedding-0.6B) durch kleinere Alternativen wie MiniLM ersetzt wird.
Prädiktor-Architektur: Die Leistungssteigerungen werden der kurvenbasierten Optimierungsstrategie zugeschrieben und nicht der spezifischen Prädiktor-Architektur, da das System sowohl mit MLPs als auch mit Gradient Boosting (LGBM) Regressoren gut funktioniert.
Prompting vs. Routing: Das bloße Hinzufügen von Längenbeschränkungs-Prompts zu reaktiven Baselines liefert nicht dieselben Vorteile, da reaktive Router immer noch auf statischen Kostenschätzungen beruhen, die leistungsstarke Modelle ausschließen. Der Vorteil von R2-ROUTER liegt in seiner Fähigkeit, über die Qualitäts-Kosten-Kurve zu reasonen und die optimale Konfiguration zu wählen.

5. Bedeutung und Behauptungen

Das Paper behauptet, eine neue Richtung in der LLM-Infrastruktur eröffnet zu haben: „Routing als Reasoning“.

Paradigmenwechsel: Es argumentiert, dass Router sich von reaktiven Selektoren (Wahl eines festen Modells) zu bewussten Reasonern entwickeln sollten, die den vollen Konfigurationsraum von Modellen und deren operativen Parametern (speziell der Ausgabelänge) explorieren.
Aufdeckung verborgener Effizienz: Die primäre Bedeutung liegt in der Entdeckung „effizienter Konfigurationen, die für bisherige Methoden unsichtbar sind“ – insbesondere, dass leistungsstarke LLMs leistungsfähiger als schwächere LLMs bei vergleichbaren Kosten sein können, wenn ihre Ausgabelänge angemessen begrenzt wird.
Zugänglichkeit: Durch die Ermöglichung hochwertiger Antworten bei signifikant reduzierten Rechenkosten zielt die Arbeit darauf ab, LLM-Kapazitäten zugänglicher zu machen und den ökologischen Fußabdruck von KI-Systemen zu verringern.

Die Autoren betonen, dass dieser Ansatz das Verhalten von LLMs als kontrollierbar statt als fix definiert – ein Konzept, das ihrer Meinung nach in der zukünftigen Forschung auf andere Variablen wie Dekodierungsstrategien oder Reasoning-Tiefe ausgeweitet werden könnte.