💬 NLP

Beyond Self-Knowledge: Propagating Uncertainty Across Reasoning and Retrieval in LLMs

Das Papier stellt BeyondUncertainty vor, eine Methode der Retrieval-Augmented Generation, die verbalisierte Konfidenz von Sprachmodellen nutzt, um Abfragen selektiv an das Retrieval zu leiten, wodurch im Vergleich zu Baselines, die entweder immer oder nie abrufen, eine verbesserte Genauigkeit und ein reduzierter Token-Verbrauch erreicht werden, trotz eines moderaten Overheads durch die initiale Konfidenz-Abfrage.

Ursprüngliche Autoren: Chandan Kumar Sah, Xiaoli Lian, Li Zhang

Veröffentlicht 2026-07-29

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Chandan Kumar Sah, Xiaoli Lian, Li Zhang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein superintelligenter Roboter-Bibliothekar, der fast jedes Buch im Universum gelesen hat. Sie können Fragen sofort beantworten, weil Sie so viel auswendig gelernt haben. Aber manchmal verändert sich die Welt, oder Sie haben ein winziges Detail vergessen, oder Sie müssen einfach nur einen Fakt über eine bestimmte Person oder einen Ort überprüfen. Wenn Sie raten und falsch liegen, klingen Sie vielleicht selbstbewusst, sind aber vollkommen inkorrekt. Hier kommt „Retrieval-Augmented Generation“ (RAG) ins Spiel. Denken Sie an RAG als eine Regel, die besagt: „Wenn du dir nicht zu 100 % sicher bist, geh kurz in die Bibliothek, um nachzuschlagen, bevor du antwortest.“

Es gibt jedoch einen Haken. In die Bibliothek zu laufen, kostet Zeit und Energie. Wenn Sie für jede einzelne Frage, selbst für die einfachen, in die Bibliothek rennen, verschwenden Sie viel Zeit und Treibstoff. Andererseits, wenn Sie niemals in die Bibliothek gehen, könnten Sie bei den schwierigen Fragen falsche Antworten geben. Die große Frage, die Wissenschaftler zu lösen versuchen, lautet: Wie kann der Roboter genau wissen, wann er aufhören muss zu arbeiten und stattdessen etwas nachschlagen muss, ohne dabei Energie für das einfache Zeug zu verschwenden? Diese Arbeit untersucht, ob ein Roboter einfach „sagen“ kann, wie sicher er sich bei einer Antwort fühlt, und dieses Gefühl nutzen kann, um zu entscheiden, ob er in die Bibliothek geht oder einfach direkt spricht.

Das „Confidence Check“-Experiment

In dieser Studie versuchten die Forscher Chandan Kumar Sah, Xiaoli Lian und Li Zhang von der Beihang University, einen klügeren Bibliothekar mit einem System namens BeyondUncertainty zu bauen. Sie wollten herausfinden, ob eine „Black-Box“-KI (ein Modell, bei dem man seine internen Zahnräder nicht sehen kann, sondern nur seine Antworten) ihre eigene verbalisierte Zuverlässigkeit nutzen kann, um zu entscheiden, wann sie zusätzliche Informationen abrufen muss.

So lief ihr Experiment Schritt für Schritt ab:

Die Sonde (The Probe): Zuerst stellten sie der KI eine Frage und wiesen sie an, eine schnelle, strukturierte Antwort zusammen mit einem „Konfidenzwert“ (einer Zahl zwischen 0 und 1, die angibt, wie sicher sie sich ist) zu geben. Sie baten die KI nicht darum, ihren Lösungsweg aufzuzeigen oder laut zu denken; sie fragten lediglich nach einer schnellen Schätzung und einer Konfidenzbewertung.
Die Entscheidung: Sie legten für jedes KI-Modell einen „Schwellenwert“ (eine spezifische Konfidenzlinie) fest.
- Wenn die KI sagte: „Ich bin mir super sicher (über der Linie)“, akzeptierte das System diese Antwort sofort. Kein Bibliotheksbesuch nötig!
- Wenn die KI sagte: „Ich bin mir nicht so sicher (unter der Linie)“, schickte das System die Frage an eine Suchmaschine (unter Verwendung der Methode TF-IDF), um die 5 relevantesten Absätze zu finden. Dann las die KI diese Absätze und gab eine endgültige, bessere Antwort.
Der Test: Sie führten dies mit 27.000 verschiedenen Fragen aus sechs verschiedenen Trivia- und Wissensdatensätzen durch, unter Verwendung von drei verschiedenen populären KI-Modellen.

Was sie fanden: Das Gute, das Schlechte und das Kostspielige

Die Ergebnisse waren eine Mischung aus Erfolg und einem überraschenden Kompromiss.

Die gute Nachricht: Klügere Suche
Das System funktionierte sehr gut dabei, zu erkennen, welche Fragen Hilfe benötigten. Wenn sich die KI unsicher fühlte, lag sie meist richtig damit, dass sie Dinge nachschlagen musste.

Bessere Antworten: Das „Confidence Routing“-System erreichte einen Durchschnittswert von 0,483 (ein Maß für die Antwortqualität namens F1). Dies war besser als das bloße Raten ohne Nachschlagen (0,401) und sogar etwas besser als das Nachschlagen bei jeder einzelnen Frage (0,467).
Einsparung von Bibliotheksbesuchen: Da das System die Bibliothek bei den einfachen Fragen übersprang, rief es 20,4 % weniger Textpassagen ab als die „Immer nachschlagen“-Methode. Es war viel selektiver.
Besser als zufälliges Raten: Selbst wenn sie das System dazu zwangen, exakt dieselbe Anzahl an Fragen nachzuschlagen wie ein zufälliges Computerprogramm, lieferte das konfidenzbasierte System in 17 von 18 Fällen bessere Antworten. Dies bewies, dass das „Gefühl“ der Unsicherheit der KI tatsächlich nützlich war, um die richtigen Fragen zu recherchieren.

Die schlechte Nachricht: Die Kosten der „Sonde“ (The Probe Cost)
Hier liegt die Wendung. Während das System Zeit beim Suchen sparte (weniger Bibliotheksbesuche), verbrauchte es tatsächlich mehr gesamte Rechenleistung.

Um den Konfidenzwert zu erhalten, musste die KI zuerst einen zusätzlichen „Sonden-Schritt“ durchlaufen. Dieser zusätzliche Schritt erhöhte die Gesamtzahl der verwendeten „Tokens“ (die Basiseinheiten des Textes, die die KI verarbeitet) um 28,2 %.
Das bedeutet: Während das System retrieval-sparend war (es rief weniger Dokumente ab), war es nicht token-sparend (es verbrauchte mehr gesamte Rechenenergie). Es ist, als würde man einen Detektiv engagieren, um zu prüfen, ob man eine Karte braucht, bevor man eine Reise antritt; der Detektiv spart einem zwar den Kauf der falschen Karte, aber man muss trotzdem die Gebühr des Detektivs bezahlen.

Die Realität des „Nicht ganz sicher sein“
Die Forscher fanden auch heraus, dass die Konfidenz der KI nicht perfekt war.

Schlechte Kalibrierung: Die Zahlen, die die KI für die Konfidenz angab, waren keine mathematisch perfekten Wahrscheinlichkeiten. Wenn eine KI sagte „90 % sicher“, war sie nicht tatsächlich in 90 % der Fälle richtig.
Modellunterschiede: Das System verhielt sich je nach verwendetem KI-Modell sehr unterschiedlich. Ein Modell (OpenAI) war so selbstbewusst, dass es fast immer trotzdem nachschlagen wollte, was das „smarte Routing“ weniger nützlich machte. Ein anderes Modell (Gemini) war wesentlich selektiver.
Kein Allheilmittel: Die Verbesserung war nicht riesig oder perfekt. In einigen spezifischen Fällen war die Methode „Immer nachschlagen“ tatsächlich besser als das smarte Routing. Das System ist eine durchschnittliche Verbesserung, kein universeller Fix.

Das Fazit

Diese Arbeit legt nahe, dass es eine kluge Methode ist, eine KI zu fragen: „Wie sicher bist du?“, um zu entscheiden, wann sie zusätzliche Recherche betreiben soll. Es hilft der KI, Zeit zu sparen, indem sie nicht nach Dingen sucht, die sie bereits weiß, und führt insgesamt zu etwas besseren Antworten. Allerdings ist der Preis für das Stellen dieser Frage hoch. Das System spart Ihnen zwar das Abrufen zu vieler Dokumente, aber der zusätzliche Schritt, nach der Konfidenz zu fragen, macht den gesamten Prozess in Bezug auf die gesamte Rechenleistung teurer.

Es ist ein vielversprechender Schritt in Richtung smarterer, effizienterer KI-Assistenten, zeigt aber auch: Es gibt kein Gratis-Essen – man kann zwar selektiver entscheiden, was man nachschlägt, aber man zahlt dennoch einen Preis, um diese Entscheidung zu treffen.

Technisches Resümee: Jenseits der Selbsterkenntnis: Propagation von Unsicherheit über Reasoning und Retrieval in LLMs

Problemstellung

Retrieval-Augmented Generation (RAG) verbessert wissensintensive Beantwortung von Fragen (QA), indem sie Antworten in externen Belegen verankert. Die unbedachte Abfrage (indiscriminate retrieval) führt jedoch zu erheblichen Ineffizienzen: Sie erhöht die Kontextlänge und Latenz, und irrelevante oder widersprüchliche Passagen können die Antwortqualität verschlechtern. Während es adaptive RAG-Strategien gibt, verlassen sich viele auf interne Modellzustände (Logits, Aktivierungen) oder komplexe Reflexionsmechanismen, die in Black-Box-API-Umgebungen nicht zugänglich sind.

Die zentrale Forschungsfrage lautet, ob verbalisiertes Vertrauen (verbalized confidence) von Black-Box-Sprachmodellen als ein wirksames Signal für Routing-Entscheidungen dienen kann. Konkret: Kann ein strukturierter Pre-Retrieval-Probe eine Unsicherheitsschätzung hervorrufen, die effektiv identifiziert, welche Fragen von externen Belegen profitieren, um so den Kompromiss zwischen Antwortqualität, Retrieval-Häufigkeit und Token-Effizienz zu optimieren?

Methodik: BeyondUncertainty

Die Autoren schlagen BeyondUncertainty vor, ein modellagnostisches Black-Box-Routing-Framework, das ein beobachtbares Vertrauenssignal in eine Entscheidung zur externen Evidenzakquise propagiert. Das System arbeitet ohne Zugriff auf verborgene Chain-of-Thought, Logits oder interne Aktivierungen und erfordert kein Fine-Tuning des Modells.

Workflow

Strukturierter Probe: Für eine gegebene Frage $q$ $q$ wird das LLM angewiesen, ein kompaktes JSON-Objekt zu generieren, das Folgendes enthält:
- Eine vorläufige Antwort ( $\hat{a}_0$ ).
- Eine verbalisierte Vertrauenseinschätzung ( $c_0 \in [0, 1]$ ).
- Eine prägnante Zustandszusammenfassung ( $m_0$ ).
- Eine vorgeschlagene Aktion ( $d_0$ ), die protokolliert, aber nicht für das Routing verwendet wird.
Routing-Entscheidung: Ein modellspezifischer Schwellenwert ( $\tau_m$ $τ_{m}$ ), der auf Validierungsdaten ermittelt und vor dem Testen eingefroren wurde, bestimmt den Pfad:
- Hohes Vertrauen ( $c_0 \geq \tau_m$ ): Das System gibt die vorläufige Antwort $\hat{a}_0$ direkt zurück (Kein Retrieval).
- Niedriges Vertrauen ( $c_0 < \tau_m$ ): Das System löst einen Retrieval-Schritt aus. Ein deterministischer, spärlicher Retriever (TF-IDF) ruft die Top-5-Passagen aus einem festen Korpus ab. Das LLM führt dann einen zweiten Aufruf mit der Frage und dem abgerufenen Kontext durch, um eine finale Antwort zu generieren.
- Hinweis: Fehlendes oder nicht parsbares Vertrauen wird konservativ auf Retrieval abgebildet.

Experimentelles Design

Umfang: Evaluierung über 27.000 Policy-Instanzen involving 3.000 eindeutiger Fragen aus sechs QA-Benchmarks (Natural Questions, HotpotQA, 2WikiMultiHopQA, SQuAD, TriviaQA, MuSiQue) und drei Modellfamilien (OpenAI, Gemini, Claude).
Baselines:
- No Retrieval: Ein einzelner Antwortaufruf ohne Kontext.
- Always Retrieval: Top-5-Retrieval gefolgt von einem einzelnen Antwortaufruf.
- Random Matched Control: Eine Post-hoc-Kontrolle, die exakt dieselbe Anzahl an Fragen an das Retrieval weiterleitet wie BeyondUncertainty, diese jedoch mittels eines stabilen Hashes statt anhand von Vertrauen auswählt.
- Oracle: Eine theoretische obere Schranke, die das bessere Ergebnis zwischen „No Retrieval“ und „Always Retrieval“ für jede Instanz auswählt.
Metriken: Normalisierter Token-Level F1 (primär), Exact Match, abgerufene Passagenanzahl und Gesamttokenverbrauch (Input + Output).

Zentrale Beiträge

Modellagnostische Routing-Schnittstelle: Einführung einer Methode, die beobachtbare Black-Box-Vertrauenssignale in Retrieval-Entscheidungen propagiert, ohne internen Modellzugriff oder Fine-Tuning zu erfordern.
Groß angelegte Paar-Evaluierung: Eine umfassende Studie über 27.000 Policy-Instanzen über diverse Datensätze und Modelle hinweg, wobei API- und strukturierte Output-Fehler im Nenner der Evaluierung beibehalten werden, um Robustheit zu gewährleisten.
Isolation des Allokationswerts: Demonstration, dass vertrauensgesteuertes Routing einen Wert bei der Allokation auf Fragenebene bietet, der über die bloße Reduktion der Retrieval-Häufigkeit hinausgeht, validiert durch eine nach der Routen-Anzahl gematchte Zufallskontrolle.

Ergebnisse

1. Prädiktive Nützlichkeit von Vertrauen (RQ1)

Ordinal vs. Absolut: Verbalisiertes Vertrauen ist als absolute Wahrscheinlichkeit schlecht kalibriert (Expected Calibration Error $E_{5} \approx 0.43\text{--}0.53$ ). Es dient jedoch als konsistentes ordinales Signal, das positiv mit der finalen Antwortqualität korreliert ( $\rho \approx 0.28\text{--}0.31$ ).
Retrieval-Nutzen: Unsicherheit ( $u = 1 - c_0$ ) sagt moderat voraus, ob Retrieval die Antwort verbessert ( $\text{AUROC} = 0.628$ ).

2. Qualitäts–Effizienz-Trade-offs (RQ2)

Antwortqualität: BeyondUncertainty erreicht den höchsten aggregierten Mittelwert F1 (0.483) und übertrifft damit „No Retrieval“ (0.401) und „Always Retrieval“ (0.467).
Passagen-Einsparung: Es reduziert die abgerufenen Passagen um 20,4 % im Vergleich zu „Always Retrieval“ (3,952 vs. 4,966 Passagen pro Instanz).
Token-Kosten: Entgegen der Ziele der Token-Einsparung erhöht der zusätzliche Probe den Gesamttokenverbrauch um 28,2 % (1.539,8 vs. 1.201,5 Token pro Instanz). Die Methode ist retrieval-sparend, aber nicht token-sparend.
Heterogenität: Verbesserungen gegenüber „Always Retrieval“ sind nicht uniform. Während das Vertrauens-Routing in 16 von 18 Datensatz-Modell-Zellen die Leistung von „Always Retrieval“ übertrifft, ist die statistische Signifikanz (nach Holm-Korrektur) begrenzt (z. B. NQ–OpenAI, SQuAD–Claude). In einigen Fällen (z. B. Gemini auf 2Wiki) verschlechtert Retrieval die Leistung, und die adaptive Methode vermeidet dies erfolgreich.

3. Allokation vs. Zufall (RQ3)

Wenn auf die Anzahl der an das Retrieval weitergeleiteten Fragen gematcht wird, übertrifft BeyondUncertainty die Zufallsallokation in 17 von 18 Datensatz-Modell-Zellen mit einem durchschnittlichen Gewinn von 0,024 F1. Dies bestätigt, dass Vertrauenssignale effektiv identifizieren, welche Fragen von Belegen profitieren, anstatt nur das Volumen des Retrievals zu reduzieren.

Bedeutung und Behauptungen

Das Paper behauptet bescheiden, dass Black-Box-verbalisiertes Vertrauen ein nützliches Signal für die Retrieval-Allokation unter kontrollierten QA-Bedingungen ist, selbst wenn es schlecht kalibriert ist.

Primäre Erkenntnis: Die Methode verbessert erfolgreich die Allokation externer Belege, indem sie unnötiges Retrieval reduziert und gleichzeitig die Antwortqualität beibehält oder verbessert.
Kritische Einschränkung: Die aktuelle Implementierung erreicht keine End-to-End-Token-Effizienz. Die Kosten des initialen Vertrauens-Probes überwiegen die Token-Einsparungen durch das Überspringen des Retrievals in Fällen mit hohem Vertrauen.
Kontextuelle Nuance: Die Effektivität des Routings ist stark modellabhängig. Für Modelle mit hoher Vertrauens-Sättigung (z. B. OpenAI-Routing >95 % der Anfragen) nimmt der adaptive Nutzen ab und verhält sich ähnlich wie „Always Retrieval“.
Zukünftige Richtungen: Die Autoren schlagen vor, dass zukünftige Arbeiten sich auf günstigere Vertrauesschätzer, execution-path-gematchte randomisierte Kontrollen und Open-Domain-Retrieval-Settings konzentrieren sollten, um echte Token-Effizienz zu realisieren.

Die Studie kommt zu dem Schluss, dass BeyondUncertainty zwar die Akquise von Belegen optimiert, derzeit jedoch die totale Token-Effizienz zugunsten einer höheren Antwortqualität und eines reduzierten Retrieval-Overheads eintauscht.