💻 computer science

Context Attribution with Multi-Armed Bandit Optimization

Die vorgestellte Arbeit schlägt einen neuartigen Rahmen vor, der die Kontextattribution als kombinatorisches Multi-Armed-Bandit-Problem mit Linear Thompson Sampling formuliert, um die einflussreichsten Kontextsegmente effizient zu identifizieren und dabei die Anzahl der Modellabfragen im Vergleich zu bestehenden Methoden um bis zu 30 % zu reduzieren.

Ursprüngliche Autoren: Deng Pan, Keerthiram Murugesan, Ting Hua, Nuno Moniz, Nitesh Chawla

Veröffentlicht 2026-04-23

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Deng Pan, Keerthiram Murugesan, Ting Hua, Nuno Moniz, Nitesh Chawla

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen sehr klugen, aber manchmal etwas verwirrten Freund (das ist unser Künstliche Intelligenz-Modell). Dieser Freund beantwortet Ihre Fragen, indem er eine riesige Bibliothek (den Kontext) durchsucht. Aber manchmal liest er nur die ersten drei Seiten, manchmal die letzten, und manchmal mixt er alles durcheinander.

Die große Frage ist: Welche genau dieser Seiten hat er eigentlich benutzt, um seine Antwort zu finden?

Das ist das Problem, das dieses Papier löst. Es nennt sich CAMAB. Hier ist eine einfache Erklärung, wie es funktioniert, ohne komplizierte Mathe-Begriffe:

1. Das Problem: Die "Nadel im Heuhaufen"-Suche

Stellen Sie sich vor, die Bibliothek hat 100 Seiten. Um herauszufinden, welche 5 Seiten wichtig waren, müssten Sie theoretisch jede mögliche Kombination ausprobieren: "Was passiert, wenn ich Seite 1 und 2 wegnehme? Und wenn ich nur Seite 3 wegnehme?"

Das wäre wie ein Koch, der herausfinden will, welche Zutat in einem Suppe am wichtigsten ist. Wenn er jede einzelne Kombination von Zutaten probieren müsste, würde er nie fertig werden und die Suppe wäre längst kalt. Das ist auch das Problem bei herkömmlichen Methoden: Sie sind zu langsam und zu teuer, weil sie zu oft den KI-Modell "fragen" müssen.

2. Die Lösung: Der kluge Detektiv (Multi-Armed Bandit)

Die Autoren von CAMAB haben eine clevere Idee: Statt blind alle Kombinationen zu testen, nutzen sie einen intelligenten Detektiv, der auf einem Spielautomaten sitzt.

Der Spielautomat (Multi-Armed Bandit): Stellen Sie sich einen Automaten mit 100 Hebeln vor. Jeder Hebel steht für eine Seite in der Bibliothek. Wenn Sie einen Hebel ziehen, bekommen Sie eine Belohnung (oder eine Strafe).
Das Ziel: Der Detektiv will herausfinden, welche Hebel die besten sind, aber er darf nur wenige Hebel ziehen (weil das Fragen der KI Geld kostet und Zeit braucht).

3. Wie der Detektiv lernt (Thompson Sampling)

Der Detektiv ist nicht dumm. Er macht Folgendes:

Zuerst probiert er ein bisschen aus: Er zieht zufällig ein paar Hebel, um ein Gefühl zu bekommen.
Dann wird er schlau: Wenn er merkt, dass Hebel 1 und Hebel 5 zusammen eine tolle Antwort ergeben, aber Hebel 3 nichts bringt, konzentriert er sich darauf.
Er lernt aus Fehlern: Wenn er eine Seite weglässt und die Antwort der KI plötzlich "dumm" wird, weiß er: "Aha! Diese Seite war super wichtig!"

Dieses Verfahren heißt Lineares Thompson Sampling. Es ist wie ein Spieler, der lernt, welche Karten im Poker die besten sind, ohne jedes Mal das ganze Deck durchmischen zu müssen. Er nutzt seine bisherigen Erfahrungen, um die nächsten Züge klüger zu planen.

4. Der Trick mit der "Belohnung"

Wie weiß der Detektiv, ob eine Seite wichtig war? Er schaut sich die Wahrscheinlichkeit an, mit der die KI ihre Antwort gegeben hat.

Wenn die KI eine Seite weglässt und plötzlich unsicher wird (die Wahrscheinlichkeit sinkt), ist das ein riesiges "Aha!"-Erlebnis. Das bedeutet: "Diese Seite war der Schlüssel!"
Wenn die KI die Antwort trotzdem gut gibt, war die Seite wahrscheinlich unwichtig.

5. Warum ist das besser als die alten Methoden?

Frühere Methoden (wie SHAP) waren wie jemand, der alle Hebel des Spielautomaten nacheinander zieht, egal ob sie funktionieren oder nicht. Das dauert ewig.
CAMAB ist wie ein Sparsamer: Er zieht nur die Hebel, die vielversprechend aussehen.

Ergebnis: Sie brauchen bis zu 30 % weniger Fragen an die KI, um das gleiche Ergebnis zu erzielen.
Vorteil: Es ist schneller, günstiger und funktioniert auch bei sehr langen Texten, wo andere Methoden scheitern würden.

Zusammenfassung in einem Satz

CAMAB ist wie ein sparsamer Detektiv, der mit einem cleveren Spiel-System herausfindet, welche wenigen Seiten in einem riesigen Buch für die Antwort einer KI wirklich entscheidend waren, ohne dabei das ganze Buch mühsam Seite für Seite durchlesen zu müssen.

Das macht KI-Systeme nicht nur schneller, sondern auch verständlicher und vertrauenswürdiger, weil wir genau wissen, worauf sie sich stützen.

1. Problemstellung

Im Bereich der Retrieval-Augmented Generation (RAG) ist es entscheidend zu verstehen, welche Teile des bereitgestellten Kontexts (z. B. Sätze oder Absätze) tatsächlich zu der Antwort eines Large Language Models (LLM) beigetragen haben. Dies ist notwendig, um Halluzinationen zu vermeiden und die Vertrauenswürdigkeit sowie Interpretierbarkeit der Modelle zu erhöhen.

Bestehende Methoden zur Kontextattribution (Zuordnung von Wichtigkeit) leiden unter zwei Hauptproblemen:

Trainingsbasierte Ansätze: Modelle werden trainiert, Zitate zu generieren, aber die Zuverlässigkeit dieser Zitate ist nicht verifizierbar.
Post-hoc-Störungsansätze (Perturbation): Methoden wie SHAP oder ContextCite maskieren oder verändern Kontextsegmente systematisch, um deren Einfluss zu messen. Diese Ansätze sind zwar genau, aber extrem rechenintensiv, da sie eine große Anzahl von Modellabfragen (Queries) erfordern, um stabile Schätzungen zu erhalten. Dies macht sie für lange Kontexte oder Black-Box-APIs (wo nur begrenzte Abfragen möglich sind) unpraktisch.

Das Ziel ist es, die wichtigsten Kontextsegmente mit einem minimalen Budget an Modellabfragen zu identifizieren.

2. Methodik: CAMAB Framework

Die Autoren schlagen CAMAB (Context Attribution with Multi-Armed Bandit) vor, ein Framework, das die Kontextattribution als kombinatorisches Multi-Armed-Bandit-Problem (CMAB) formuliert.

Kernkonzepte:

Problemformulierung:
- Jedes Kontextsegment ( $s_i$ ) wird als „Arm" (Arm) eines Bandits betrachtet.
- Eine Aktion besteht darin, eine Teilmenge (Super-Arm) dieser Segmente auszuwählen.
- Das Ziel ist es, innerhalb eines begrenzten Abfragebudgets die einflussreichsten Segmente zu finden.
Reward-Modellierung (Belohnung):
- Die Wichtigkeit eines Segments wird durch die Wahrscheinlichkeit der ursprünglichen Antwort des Modells gemessen, wenn das Segment enthalten ist oder fehlt.
- Die Belohnung $V(S)$ für eine Teilmenge $S$ wird als durchschnittlicher Log-Logarithmus der Token-Wahrscheinlichkeiten der ursprünglichen Antwort definiert:
  $V(S) = \frac{1}{T} \sum_{t=1}^{T} \log P_M(r_t | Q, S, r_{1:t-1})$
- Dies funktioniert sowohl für Open-Source- als auch für Black-Box-Modelle, solange Token-Log-Probabilites verfügbar sind.
Algorithmus: Lineare Thompson Sampling (LinTS):
- Anstatt alle Kombinationen zu testen, nutzt CAMAB Lineares Thompson Sampling, eine Bayessche Methode, die Exploration (Testen unbekannter Kombinationen) und Exploitation (Nutzung bekannter guter Kombinationen) balanciert.
- Lineare Annahme: Die Belohnung wird als lineare Funktion der Segmente approximiert: $V(S) = w^T x + \epsilon$ . Dabei repräsentiert der Gewichtsvektor $w$ die Beiträge der einzelnen Segmente.
- Interaktionserfassung: Obwohl das Modell linear ist, erfasst die Präzisionsmatrix $B_t$ (Teil der Posterior-Verteilung) implizit Interaktionen zwischen Segmenten. Wenn Segmente oft gemeinsam gut performen, spiegelt sich dies in den Korrelationen der Matrix wider, ohne explizite nicht-lineare Modellierung zu benötigen.
- Ablauf: In jedem Schritt wird ein Gewichtvektor aus der aktuellen Posterior-Verteilung gesampelt. Segmente mit positiven Gewichten werden für die nächste Abfrage ausgewählt. Nach der Abfrage wird die Posterior-Verteilung aktualisiert.

3. Hauptbeiträge

Neue Problemformulierung: Umwandlung der segmentbasierten Kontextattribution in ein kombinatorisches Multi-Armed-Bandit-Problem.
Effiziente Exploration: Anwendung von Linear Thompson Sampling (LinTS), um den Raum der Kontext-Teilmengen adaptiv zu erkunden und die Anzahl der benötigten Modellabfragen drastisch zu reduzieren.
Robustheit in Black-Box-Szenarien: Umfassende Experimente mit kommerziellen APIs (LLaMA-3.1-8B, Qwen2.5-7B), die zeigen, dass die Methode auch ohne Zugriff auf interne Modellzustände (nur Log-Probabilities) effektiv ist.

4. Ergebnisse

Die Methode wurde auf drei Benchmark-Datensätzen getestet: HotpotQA (Multi-Hop-Fragen), CNN/DailyMail (Zusammenfassung) und TyDi QA (mehrsprachige Fragen).

Query-Effizienz: CAMAB reduziert die Anzahl der Modellabfragen um bis zu 30 % im Vergleich zu SHAP, während die Qualität der Attribution gleich bleibt oder besser ist.
Leistung bei begrenztem Budget:
- Bei einem Budget von nur 20–40 Abfragen übertrifft CAMAB SHAP und ContextCite deutlich.
- SHAP benötigt oft 60+ Abfragen, um die Leistung zu erreichen, die CAMAB bereits bei 40 Abfragen erzielt.
- In Information-Such-Aufgaben (HotpotQA, TyDi QA) identifiziert CAMAB kritische Beweissätze schneller und genauer.
Qualitätsmetriken:
- Log-Probability Drop: CAMAB zeigt einen stärkeren Rückgang der Wahrscheinlichkeit, wenn wichtige Segmente entfernt werden (höhere Werte = besser).
- BERTScore: CAMAB erreicht niedrigere Scores (besser), was bedeutet, dass die Antwort bei Entfernung der attribuierten Segmente semantisch stärker abweicht.
- Alignment mit Gold-Standard: Auf HotpotQA stimmt CAMAB besser mit menschlich annotierten unterstützenden Fakten überein (höherer Precision@1 und F1-Score) als SHAP.
Skalierbarkeit: Der Overhead durch die Matrix-Inversion ( $O(N^3)$ ) für das Update der Posterior-Verteilung ist im Vergleich zu den Kosten einer LLM-Abfrage vernachlässigbar.

5. Bedeutung und Fazit

CAMAB stellt einen bedeutenden Fortschritt für die Interpretierbarkeit von RAG-Systemen dar, insbesondere in ressourcenbeschränkten Umgebungen.

Kosteneffizienz: Durch die Reduktion der Abfragen macht es die Attribution für teure kommerzielle APIs und lange Kontexte praktikabel.
Adaptivität: Im Gegensatz zu uniformen Sampling-Strategien (wie bei SHAP) lernt CAMAB dynamisch, welche Segmente informativ sind, und konzentriert seine Ressourcen darauf.
Praktische Anwendbarkeit: Die Methode ist unabhängig von der Modellarchitektur und funktioniert mit Black-Box-Modellen, solange Log-Probabilites verfügbar sind.

Die Autoren weisen jedoch auf eine Limitierung hin: Bei sehr komplexen, mehrdeutigen Szenarien könnte die lineare Annahme zu suboptimalen lokalen Lösungen führen, wenn das Explorations-Budget zu streng ist. Dennoch etabliert CAMAB sich als skalierbare Lösung für generative QA-Systeme mit geringen Ressourcen. Der Code ist öffentlich verfügbar.