🤖 machine learning

Retriever Portfolios: A Principled Approach to Adaptive RAG

Dieses Paper schlägt „Retriever Portfolios“ vor, eine fundierte Methode, die automatisch eine diverse Teilmenge von Retrievern auswählt, um heterogene Abfragen zu handhaben, wodurch eine überlegene Genauigkeit bei geringerer Latenz und niedrigeren Kosten im Vergleich zu Single-Retriever- oder naiven Multi-Retriever-Baselines erreicht wird.

Ursprüngliche Autoren: Miltiadis Stouras, Vincent Cohen-Addad, Silvio Lattanzi, Ola Svensson

Veröffentlicht 2026-06-01

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Miltiadis Stouras, Vincent Cohen-Addad, Silvio Lattanzi, Ola Svensson

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, eine Frage zu beantworten, und Sie haben eine riesige Bibliothek von Büchern (das Internet), die Ihnen dabei helfen kann. In der Welt der Künstlichen Intelligenz wird dies als RAG (Retrieval-Augmented Generation) bezeichnet. Die KI bittet einen „Bibliothekar“ (einen Retriever), die besten Seiten zu finden, und dann nutzt ein „Schreiber“ (das Large Language Model), um die Antwort zu verfassen.

Lange Zeit verwendeten diese Systeme einen einzigen Bibliothekar für jede einzelne Frage. Das Problem? Manche Fragen sind einfach („Wer ist der Präsident?“), während andere komplexe Rätsel sind, die erfordern, dass man Punkte über viele verschiedene Bücher hinweg verbindet („Wie beeinflusste die Erfindung des Buchdrucks die Französische Revolution?“).

Ein Bibliothekar, der gut darin ist, einfache Fakten zu finden, ist vielleicht schlecht darin, komplexe Rätsel zu lösen, und umgekehrt. Sich auf nur einen Bibliothekar zu verlassen, bedeutet, dass man oft die falschen Seiten erhält, was zu falschen Antworten oder „Halluzinationen“ (erfundenen Fakten) führt.

Die Lösung: Ein „Retriever-Portfolio“

Die Autoren dieser Arbeit schlagen einen klügeren Weg vor: Anstatt nur einen Bibliothekar einzustellen, stellen Sie ein kleines Team von spezialisierten Bibliothekaren (ein „Portfolio“) ein.

Denken Sie an eine medizinische Klinik.

Der alte Weg: Sie haben einen Allgemeinmediziner, der versucht, alles zu behandeln, vom Zehenbruch bis zum Herzinfarkt. Er übersieht den Herzinfarkt vielleicht, weil er darauf spezialisiert ist, auf Füße zu schauen.
Der neue Weg (die Idee des Papers): Sie haben eine Klinik mit einem Fußarzt, einem Herzspezialisten und einem Neurologen. Wenn Sie reinkommen, schaut eine kluge Triage-Pflegekraft (der „Router“) schnell auf Ihre Symptome und schickt Sie an den besten Spezialisten für Ihr spezifisches Problem.

In diesem Paper sind die „Spezialisten“ unterschiedliche Suchalgorithmen (Retriever) mit verschiedenen Einstellungen. Einige sind gut darin, exakte Wortübereinstimmungen zu finden, andere sind gut darin, Ideen zu finden, die ähnlich klingen, und andere sind gut darin, verwandte Konzepte zu verknüpfen.

Wie sie das Team aufgebaut haben

Die Forscher haben nicht einfach geraten, wen sie einstellen sollten. Sie haben eine mathematische Methode entwickelt, um das perfekte Team aufzubauen:

Der große Pool: Sie begannen mit einem riesigen Pool von 360 verschiedenen „Bibliothekaren“ (verschiedene Suchstrategien und Einstellungen).
Das „Best-of-K“-Ziel: Sie stellten eine einfache Frage: „Wenn wir ein kleines Team von 5 Bibliothekaren auswählen, welche 5 decken das meiste Gelände ab?“ Sie wollten nicht 5 Bibliothekare, die alle genau das Gleiche tun. Sie wollten ein diverses Team, bei dem, wenn einer versagt, ein anderer erfolgreich ist.
Der Algierismus: Sie verwendeten einen gierigen Algorithmus (einen schrittweisen Auswahlprozess), um das Team auszuwählen. Er wählt zuerst den besten Bibliothekaren aus, dann wählt er den zweiten Bibliothekaren, der bei den Fragen hilft, die der erste verpasst hat, und so weiter.
Das Ergebnis: Sie endeten mit einem kleinen, diversen Team (z. B. 4 oder 5 Spezialisten), das fast alle Arten von Fragen abdeckt.

Wie es in der Praxis funktioniert

Wenn ein Benutzer eine Frage stellt:

Der Router: Eine leichtgewichtige KI sieht sich die Frage an und entscheidet: „Das sieht wie ein komplexes Rätsel aus; lassen Sie uns den Graph-Experten und den Diversitäts-Experten fragen.“
Parallele Suche: Anstatt zuerst einen Bibliothekaren zu fragen, dann zu warten und dann einen anderen zu fragen, fragt das System die ausgewählten Teammitglieder gleichzeitig (parallel).
Die endgültige Antwort: Das System erhält einige verschiedene Sätze von Seiten. Eine „Richter“-KI sieht sich die aus diesen Seiten generierten Antworten an und wählt die beste aus.

Warum das besser ist (Die Ergebnisse)

Das Paper testete dies auf mehreren schwierigen Frage-Antwort-Benchmarks (wie HotpotQA und TriviaQA). Hier ist, was sie herausgefunden haben:

Bessere Genauigkeit: Das Team der Spezialisten fand die richtigen Informationen häufiger als jeder einzelne Bibliothekar es könnte, selbst wenn dieser einzelne Bibliothekar im Durchschnitt der „beste“ war.
Schneller und günstiger: Andere Methoden versuchten, den Bibliothekaren während der Beantwortung der Frage zu „tunen“ (indem sie z. B. verschiedene Einstellungen nacheinander ausprobten, bis es funktionierte). Das ist langsam und teuer. Die Methode des Papers wählt das Team im Voraus. Da die Teammitglieder parallel arbeiten, ist es viel schneller und verbraucht weniger Computerressourcen (Tokens), während es die gleichen oder sogar bessere Ergebnisse liefert.
Nicht nur „mehr Bücher“: Sie bewiesen, dass die Verbesserung nicht nur dadurch zustande kam, dass sie mehr Seiten lasen. Es war, weil sie die richtigen Seiten vom richtigen Spezialisten lasen.

Das Fazle Fazit

Dieses Paper führt einen fundierten Weg ein, um aufzugehen, die Nutzung einer „Einheitslösung“ für die Suche in der KI zu stoppen. Indem man ein kleines, diverses Team von Suchspezialisten aufbaut und einen smarten Router verwendet, um die richtigen für die Aufgabe auszuwählen, wird das System genauer, schneller und effizienter. Es ist der Unterschied zwischen einem Generalisten, der versucht, alles zu machen, und einem spezialisierten Team, das zusammenarbeitet, um das Problem zu lösen.

Technisches Resümee: Retriever-Portfolios: Ein prinzipgestützter Ansatz für adaptives RAG

1. Problemformulierung

Retrieval-Augmented Generation (RAG)-Systeme verlassen sich typischerweise auf einen einzelnen Retriever mit einem festen Satz von Hyperparametern, um alle Benutzeranfragen zu bearbeiten. Die Query-Verteilungen in realen Anwendungen sind jedoch hochgradig heterogen und reichen von einfachen Faktfragen bis hin zu komplexen Multi-Hop-Reasoning-Aufgaben. Unterschiedliche Retrieval-Konfigurationen (Modelle, Strategien oder Hyperparameter) spezialisieren sich oft auf unterschiedliche Regime, was bedeutet, dass kein einzelner Retriever optimal für alle Anfragen ist. Jüngere Arbeiten wie Adaptive-RAG und Vendi-RAG versuchen zwar, Retrieval-Strategien anzupassen, operieren jedoch entweder über eine kleine, handgestaltete Menge von Strategien oder führen ein teures Hyperparameter-Tuning pro Anfrage zur Inferenzzeit durch, was zu hoher Latenz und hohen Token-Kosten führt.

Dieses Paper adressiert die Einschränkung des „Einheitsansatzes“ (One-size-fits-all) beim Retrieval durch den Vorschlag eines prinzipgestützten Ansatzes zur Retriever-Portfolio-Optimierung. Das Kernproblem wird als Auswahl einer kleinen, diversen Teilmenge (ein Portfolio) von $k$ Retrievern aus einem großen Pool von $m$ Kandidaten definiert. Das Ziel besteht darin, die erwartete Leistung des „Best-of- $k$ “-Retrievers für eine zufällige Anfrage aus der zugrunde liegenden Verteilung zu maximieren, anstatt die durchschnittliche Leistung eines einzelnen Retrievers zu maximieren.

2. Methodik

2.1. Theoretischer Rahmen

Die Autoren formalisieren das Problem unter Verwendung eines Expected Best-of- $k$ -Ziels. Sei $Q$ die Menge der Anfragen mit einer unbekannten Verteilung $D$ , und $\mathcal{R}$ die Menge der Kandidaten-Retriever. Eine Score-Funktion $s(q, r) \in [0, 1]$ misst die Eignung eines Retrievers $r$ für eine Anfrage $q$ . Die Qualität eines Portfolios $S \subseteq \mathcal{R}$ (wobei $|S| \le k$ ) ist definiert als:
$F(S) = \mathbb{E}_{q \sim D} \left[ \max_{r \in S} s(q, r) \right]$
Das Ziel ist es, ein $S$ zu finden, das $F(S)$ maximiert. Die Autoren beweisen, dass für jede feste Anfrage $q$ die Funktion $f_q(S) = \max_{r \in S} s(q, r)$ nicht negativ, monoton und submodular ist. Folglich sind die Populations-Zielgröße $F(S)$ und deren empirische Schätzung ebenfalls submodulare Mengenfunktionen.

2.2. Algorithmus: Greedy-Portfolio-Selektion

Um dieses Optimierungsproblem effizient zu lösen, schlägt das Paper Algorithmus 1 vor, ein stichprobenbasiertes Greedy-Verfahren:

Sampling: Ziehe $N$ i.i.d. Anfragen aus der Verteilung $D$ .
Empirische Schätzung: Ersetze die Populations-Zielgröße durch eine empirische Schätzung $\hat{F}_Q(S)$ .
Greedy-Konstruktion: Wähle iterativ den Retriever $r$ aus, der den marginalen Gewinn $\hat{F}_Q(S \cup \{r\}) - \hat{F}_Q(S)$ maximiert. Der Algorithmus führt einen memoisierten Vektor der aktuellen Best-Scores pro Anfrage, um Gewinne effizient zu berechnen.
Garantien: Der Algorithmus läuft in $O(k |\mathcal{R}| N)$ Zeit. Die theoretische Analyse zeigt, dass er eine $(1 - 1/e)$ -Approximation des optimalen Portfolios erreicht, bis auf einen statistischen Fehlersatz $\epsilon$ , sofern die Stichprobengröße $N$ angemessen mit der Poolgröße und der gewünschten Konfidenz skaliert.

2.3. Inferenz-Pipeline

Das vorgeschlagene System besteht aus zwei Phasen:

Offline-Portfolio-Konstruktion: Unter Verwendung von Algorithmus 1 wird ein diverses Portfolio aus $k$ komplementären Retrievern aus einem großen Pool (einschließlich Dense-, Diversitäts-basierter und Graph-basierter Retriever) basierend auf Trainingsdaten ausgewählt.
Adaptive Inferenz: Ein leichtgewichtiger Router wird trainiert, um den besten (oder die besten) Retriever dynamisch für eine spezifische Anfrage auszuwählen.
- Der Router kodiert die Anfrage mittels Rohtext und gecachten dichten Embeddings (MPNet/E5).
- Er bewertet die $k$ Mitglieder des Portfolios mittels Ähnlichkeit zu gelernten Retriever-Embeddings.
- Die Top- $\ell$ Retriever werden parallel ausgeführt, um die Latenz zu minimieren.
- Ein Selector-LLM aggregiert die Antworten der parallelen Retriever, um die endgültige Ausgabe zu erzeugen.

Dieser Ansatz amortisiert die Kosten der Anpassung offline und vermeidet die iterative Suche, die bei Methoden mit Tuning zur Inferenzzeit erforderlich ist.

3. Zentrale Beiträge

Problemformulierung: Einführung des „RAG-Portfolio-Optimierungsproblems“, die Auswahl eines kleinen, diversen Satzes von Retrievern zur Abdeckung heterogener Query-Verteilungen via eines Expected-Best-of- $k$ -Ziels.
Theoretische Garantien: Beweis der Submodularität des Ziels, was die effiziente Konstruktion nahezu optimaler Portfolios mit nachweisbaren $(1 - 1/e)$ -Approximationsgarantien ermöglicht.
Praktische Pipeline: Ein vollständiges System, bestehend aus Offline-Portfolio-Selektion und einem leichtgewichtigen Router, der paralleles Retrieval und Beantwortung ermöglicht, was die Inferenzlatenz im Vergleich zu sequentiellen adaptiven Methoden signifikant reduziert.
Empirische Validierung: Umfassende Evaluierung über vier diverse QA-Benchmarks (HotpotQA, 2WikiMultiHopQA, TriviaQA, MusiQue), die eine überlegene Leistung gegenüber Single-Retriever-Baselines und Inferenzzeit-Tuning-Ansätzen demonstriert.

4. Experimentelle Ergebnisse

Die Methode wurde auf vier Open-Domain-QA-Datensätzen unter Verwendung zweier Antwort-Modelle (Gemma-3-27B-IT und Llama-3.1-70B-Instruct) evaluiert.

Retrieval-Coverage: Gelernte Portfolios übertreffen die „Average-Best“-Retriever-Auswahl signifikant. Beispielsweise erreichte ein Portfolio der Größe $k=5$ einen Support Recall von 0,594 im Vergleich zu 0,492 für die Top-5 Average-Retriever. Die Gewinne resultierten nachweislich aus Komplementarität (Abdeckung unterschiedlicher Query-Subpopulationen) statt lediglich aus dem Abruf von mehr Dokumenten.
End-to-End Genauigkeit: Geroutete Portfolios erreichten konsistent höhere Exact Match (EM) Scores als Single-Retriever-Baselines und Vendi-RAG (einen Baseline-Ansatz mit Tuning zur Inferenzzeit). Das „All-Pool“-Portfolio (Kombination aus Dense-, Vendi- und GraphDense-Retrievern) lieferte den besten durchschnittlichen EM über alle Datensätze hinweg.
Effizienz vs. Genauigkeit: In kontrollierten Vergleichen mit Vendi-RAG (unter Verwendung desselben Vendi-Suchraums) erreichte der Offline-Portfolio-Ansatz eine vergleichbare oder bessere Genauigkeit bei deutlich geringerer Latenz und geringeren Token-Kosten. Dies liegt daran, dass das Portfolio die parallele Ausführung eines festen Satzes von Retrievern ermöglicht, während Vendi-RAG eine sequentielle, iterative Generierung und Bewertung erfordert.
Effektivität des Routers: Ablationsstudien zeigten, dass der gelernte Router die Zufallsauswahl signifikant übertrifft und konsistent die Retriever auswählt, die sich gegenüber dem besten einzelnen Durchschnittsmitglied verbessern, indem er Anfragen effektiv an die am besten geeigneten Portfolio-Mitglieder routet.

5. Bedeutung und Behauptungen

Das Paper behauptet, das Feld des RAG voranzubringen, indem es die Last der Optimierung von der teuren, sequentiellen Anpassung zur Inferenzzeit auf die effiziente Offline-Portfolio-Konstruktion verlagert. Die Autoren argumentieren:

Kein einzelner Retriever ist optimal: Das Festlegen einer einzigen Strategie lässt Performance-Potenziale ungenutzt.
Komplementarität ist der Schlüssel: Ein kleiner Satz diverser Retriever kann die Query-Verteilung effektiver abdecken als ein einzelner „bester“ Retriever oder die bloße Erhöhung des Dokumentenbudgets.
Effizienz: Feste Portfolios ermöglichen paralleles Retrieval und LLM-Aufrufe, was einen praktischen Kompromiss darstellt, der eine hohe Genauigkeit bei vorhersagbarer, niedriger Latenz und Token-Nutzung bietet, wodurch adaptives RAG in Produktionsumgebungen einsatzfähiger wird.

Die Arbeit beansprucht nicht, alle RAG-Herausforderungen zu lösen, bietet aber eine prinzipielle, theoretisch fundierte Methode zur Auswahl und zum Routing zwischen Retrieval-Strategien, die sowohl nachweislich nahezu optimal als auch empirisch effektiv ist.