🤖 AI

Measuring Black-Box Confidence via Reasoning Trajectories: Geometry, Coverage, and Verbalization

Dieser Artikel schlägt eine neuartige Black-Box-Methode zur Konfidenzschätzung vor, die Chain-of-Thought-Reasoning-Trajektorien einbettet, um die geometrische Konvergenz hin zu Antwortankern zu messen, und zeigt, dass die Fusion dieses trajektorienbasierten Scores mit Coverage- und Verbalisierungskanälen traditionelle Selbstkonsistenz-Baselines über verschiedene Benchmarks und große Sprachmodelle hinweg signifikant übertrifft, ohne Zugriff auf interne Modellzustände zu erfordern.

Ursprüngliche Autoren: Marc Boubnovski Martell, Josefa Lia Stoisser, Kaspar Märtens, Jialin Yu, Robert Kitchen, Philip Torr, Jesper Ferkinghoff-Borg

Veröffentlicht 2026-05-08

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Marc Boubnovski Martell, Josefa Lia Stoisser, Kaspar Märtens, Jialin Yu, Robert Kitchen, Philip Torr, Jesper Ferkinghoff-Borg

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie stellen einen brillanten, aber mysteriösen Berater ein, um ein schwieriges Rätsel zu lösen. Sie können nur dessen schriftliche Notizen (den „Gedankengang") sehen, nicht jedoch dessen interne Gehirnwellen, Konfidenzwerte oder die Rohdaten, die er verarbeitet. Sie müssen wissen: Können wir seiner Antwort vertrauen?

Normalerweise fragen Sie, um zu prüfen, ob dieser Berater zuversichtlich ist, ihn auf, das gleiche Rätsel 10-mal zu lösen, und sehen, ob er 10-mal dieselbe Antwort gibt. Dies nennt man „Selbstkonsistenz". Es funktioniert, ist jedoch teuer (Sie müssen für 10 Antworten bezahlen) und etwas ungeschickt – es ist, als würden Sie fragen: „Haben Sie 10-mal dasselbe Ergebnis erzielt?", anstatt zu betrachten, wie sie dorthin gelangt sind.

Dieser Artikel stellt eine neue, günstigere und intelligentere Methode vor, um das Vertrauen zu messen, indem er die Geometrie (Form und Pfad) der Notizen des Beraters betrachtet.

Hier ist die Aufschlüsselung ihrer Entdeckung anhand einfacher Analogien:

1. Die Analogie des „Wegs zu Fuß" (Geometrie)

Stellen Sie sich den Denkprozess des Beraters als eine Person vor, die durch einen nebligen Wald zu einem bestimmten Ziel (der richtigen Antwort) wandert.

Der alte Weg: Sie warten einfach, bis sie am Ende ankommen, und fragen: „Sind Sie sich sicher?"
Der neue Weg: Sie beobachten ihren Pfad. Wandern sie, während sie gehen, immer näher an das richtige Ziel heran, noch bevor sie den Namen des Ziels laut aussprechen?

Die Forscher stellten fest, dass, wenn man die Notizen des Beraters kurz vor dem Schreiben der endgültigen Antwort (dem „vorletzten" Schritt) betrachtet, sich seine Worte in einem mathematischen Raum natürlicherweise näher an der richtigen Antwort gruppieren. Es ist, als würde man sehen, wie die Fußspuren des Wanderers enger und enger um den richtigen Baum werden, bevor er schließlich darauf zeigt. Diese „geometrische Konvergenz" ist ein starkes Signal dafür, dass er zuversichtlich und korrekt ist, selbst wenn man sein inneres Gehirn nicht sehen kann.

2. Die dreiteilige Vertrauensprüfung

Der Artikel argumentiert, dass man sich nicht auf nur ein Signal verlassen kann. Sie unterteilen das Vertrauen in drei verschiedene Kanäle, wie man vor einer langen Reise ein Auto überprüft:

Abdeckung (Die Kartenprüfung): Hat der Berater überhaupt die richtige Karte betrachtet? Hat er die richtige Antwort überhaupt als Möglichkeit in Betracht gezogen? Wenn er nie auf die richtige Antwort gekommen ist, spielt kein Maß an Zuversicht eine Rolle. Dies ist eine „Erreichbarkeitsprüfung".
Geometrie (Die Pfadprüfung): Sobald er die richtige Karte betrachtet, wandert er dann stetig auf den richtigen Ort zu? Dies ist das oben beschriebene „Pfad"-Signal. Es misst, wie fest sein Denken eine bestimmte Option verankert.
Verbalisierung (Die Selbstauskunft): Schließlich fragen Sie den Berater: „Auf einer Skala von 0 bis 100, wie sicher sind Sie?"
- Überraschende Erkenntnis: Dieser letzte Teil ist für sich genommen am wenigsten zuverlässig. Manchmal sagt der Berater, er sei zu 100 % sicher, wandert aber tatsächlich im Kreis. Es hilft nur, wenn die anderen beiden Prüfungen bereits gut aussehen.

3. Das „vorletzte" Geheimnis

Eine der coolsten Entdeckungen ist der Zeitpunkt, wann man hinschaut.

Wenn man den allerletzten Satz betrachtet, in dem er die Antwort sagt, wird das Signal unübersichtlich. Es ist, als würde der Wanderer anhalten und rufen: „Ich bin hier!", obwohl er tatsächlich neben dem falschen Baum steht.
Die Forscher fanden die Sweet Spot im Satz direkt vor der endgültigen Antwort. Hier ist die interne Logik des Beraters am stärksten an die Wahrheit gebunden, bevor er durch den Akt des Schreibens des letzten Wortes abgelenkt wird.

4. Das Ergebnis: Intelligenter und günstiger

Durch die Kombination dieser drei Signale (Karte, Pfad und Selbstauskunft) schufen die Forscher ein System, das:

Weniger kostet: Es benötigt nur 4 Versuche, um einen besseren Vertrauenswert zu erhalten als die 8 Versuche der alten Methode.
Besser funktioniert: Es sagt die richtige Antwort genauer voraus (höhere „AUC"-Werte) bei medizinischen und wissenschaftlichen Prüfungen.
Robust ist: Es funktioniert auch, wenn Sie verschiedene KI-Modelle oder verschiedene Methoden zur Messung der „Distanz" zwischen Wörtern verwenden.

Das Fazit

Sie müssen kein Gedankenleser sein, um zu wissen, ob eine KI zuversichtlich ist. Sie müssen nur beobachten, wie sie denkt. Wenn ihr Denkpfad sich kurz vor dem Sprechen natürlicherweise um die richtige Antwort herum strafft und wenn sie die richtige Antwort überhaupt in Betracht gezogen hat, können Sie ihr mehr vertrauen, als wenn Sie sie einfach bitten, die Antwort zehnmal zu wiederholen.

Wichtige Einschränkung: Der Artikel weist darauf hin, dass, wenn die KI die richtige Antwort überhaupt nicht in Betracht zieht, kein Maß an „Pfadbeobachtung" dies beheben kann. Das System kann Ihnen nur mitteilen, wie zuversichtlich die KI in die Optionen ist, die sie tatsächlich in Betracht gezogen hat.

Technische Zusammenfassung: Messung des Black-Box-Vertrauens mittels Reasoning-Trajektorien

Problemstellung

Eine zuverlässige Vertrauensschätzung ist eine Voraussetzung für den sicheren Einsatz von Chain-of-Thought (CoT)-Reasoning über textbasierte APIs, bei denen kein Zugriff auf Logits, versteckte Zustände oder interne Abrufmechanismen besteht. Die dominierende Black-Box-Baseline, Selbstkonsistenz (Sampling von $K$ CoTs und Nutzung der Stimmenkonzentration als Vertrauenssignal), leidet unter drei primären Einschränkungen:

Lineare Kosten: Sie erfordert das Sampling von $K$ Spuren, was linear in $K$ kostspielig ist.
Geometrische Blindheit: Sie ignoriert die innere Geometrie der Reasoning-Spur und behandelt diese lediglich als Mittel zum endgültigen Ergebnis.
Diskrete Auflösung: Sie erzeugt einen diskreten Vertrauensscore ( $k/K$ ), der bei kleinem $K$ an Auflösung verliert und Gleichstände nicht effektiv rangieren kann.

Diese Arbeit untersucht ein alternatives Signal: die Trajektorie des CoT selbst. Die Autoren schlagen vor, zu messen, wie sich die Einbettung einer Reasoning-Spur zu externen Antwort-Ankern hin konvergiert, mit dem Ziel, einen kontinuierlichen Vertrauensscore allein aus Text abzuleiten, ohne Zugriff auf die Modellinterne zu haben.

Methodik

Der vorgeschlagene Rahmen zerlegt das Black-Box-Vertrauen in drei komplementäre Kanäle: Abdeckung (C), Geometrie (G) und Verbalisierung (V).

1. Der Geometrische Kanal (G)

Dieser Kanal misst das „innerhalb der Spur liegende räumliche Commitment" eines CoT gegenüber einem externen Antwort-Anker.

Trajektorienkonstruktion: Ein CoT wird als Trajektorie überlappender gleitender Fenster ( $W=30$ Wörter, Schrittweite $S=15$ ) unter Verwendung eines festen Einbettungsmodells $\phi$ eingebettet.
Externe Anker: Im verblindeten Protokoll generiert der Generator ohne Einsicht in die Optionsliste. Die Optionstexte werden extern als feste Anker eingebettet.
Bewertung: Die Methode berechnet die Kosinusdistanz vom vorletzten gleitenden Fenster der Spur zu jedem Optionsanker. Die „Auswahl" ist der Anker mit der minimalen mittleren Distanz.
Kalibrierung: Ein Softmax-Modell mit einem Parameter bildet diese Distanzen auf eine Vertrauenswahrscheinlichkeit ab:
$\text{GEO}(q) = \frac{\exp(\hat{\beta}_{\text{all}} D_{\hat{y}})}{\sum_{j'} \exp(\hat{\beta}_{\text{all}} D_{j'})}$
wobei $\hat{\beta}_{\text{all}}$ über Maximum-Likelihood angepasst wird. Ein stark negatives $\hat{\beta}$ zeigt an, dass nähere Anker mit höherer Wahrscheinlichkeit korrekt sind.
Auswahl des vorletzten Fensters: Eine empirische Analyse zeigt, dass das Kalibrierungssignal im vorletzten Fenster seinen Höhepunkt erreicht. Das letzte Fenster enthält oft die wörtliche Antwortverbalisierung, die mit der vom Modell gewählten Antwort übereinstimmt und nicht mit der goldenen Antwort, was in bestimmten Benchmarks wie GPQA Diamond dazu führt, dass sich das Signal umkehrt (positives $\hat{\beta}$ ).

2. Die Drei-Kanal-Zerlegung

Um das strukturelle Limit zu adressieren, bei dem eine Spur die korrekte Hypothese möglicherweise nie erreicht, führen die Autoren ein offenes Regime mit einem Proposer/Judge-Setup ein:

Abdeckung (C): Ein durch einen Judge vermittelter Prior, der misst, ob die korrekte Hypothese überhaupt erreichbar ist. Es verwendet ein proposer-LLM zur Generierung eines Hypothesenpools und ein judge-LLM zur Bewertung der Erreichbarkeit. Dies fungiert als Signal für die Schwierigkeit der Frage.
Geometrie (G): Wie oben definiert, jedoch mit von Proposern generierten Hypothesen als Anker anstelle von festen Dataset-Optionen.
Verbalisierung (V): Dem Generator wird sein eigener CoT gezeigt, und er wird gebeten, eine numerische Selbsteinschätzung (0–100) seines Vertrauens abzugeben.

Fusion: Die drei Kanäle werden über eine logistische Regression fusioniert, um einen endgültigen Vertrauensscore zu erzeugen.

Hauptbeiträge

Black-Box-Trajektorien-Vertrauensscore: Eine Methode, um $(\text{text}, \text{embedder}, \text{anchor set})$ unter Verwendung eines einparametrigen Softmax auf gleitenden Fenster-Einbettungen auf einen kontinuierlichen Vertrauensscore abzubilden. Das Vorzeichen und die Signifikanz der angepassten Steigung ( $\hat{\beta}$ ) replizieren sich über drei verschiedene Einbettungsmodelle (Gemini, OpenAI, E5), drei Reasoner und drei Benchmarks hinweg.
Signature des späten Spur-Commitments: Die Autoren identifizieren eine mechanistische Signatur, bei der das Geometriesignal im vorletzten Fenster am tiefsten (am negativsten $\hat{\beta}$ ) ist und sich im terminalen Fenster bei GPQA Diamond umkehrt. Dies validiert das vorletzte Fenster als robuste Bewertungsposition, die das Antwort-Commitment vor der wörtlichen Verbalisierung erfasst.
Asymmetrische Drei-Kanal-Zerlegung:
- Abdeckung (C) und Geometrie (G) tragen in nahezu allen Settings unabhängige Signale bei (18/18 bzw. 16/18 Kombinationen).
- Verbalisierung (V) leistet in nur 6/18 Settings einen einzigartigen residualen Beitrag und fungiert als gateder metakognitiver Kanal anstelle eines universellen Pfeilers.
- Die Fusion von C+G+V bei $K=4$ Pareto-verbessert die Selbstkonsistenz bei $K=8$ in allen sechs Closed-Set-Settings (medianes $\Delta \text{AUC} = +0.075$ ).

Ergebnisse

Die Arbeit evaluiert die Methode auf MedQA-USMLE, GPQA Diamond und MMLU-Pro unter Verwendung von Gemini 3.1 Pro und Claude Sonnet 4.6.

Geometrisches Signal: Das einzelne geometrische Merkmal (G) erreicht in verblindeten Protokollen einen AUC für selektive Vorhersage von 0,71–0,82 und übertrifft die Selbstkonsistenz in 9/10 Benchmark-Modell-Kombinationen bei budgetangepassten Bedingungen signifikant.
Fusionsgewinn: Der fusionierte C+G+V-Score bei $K=4$ $K = 4$ übertrifft die Selbstkonsistenz bei $K=8$ $K = 8$ (SC@8) in allen sechs Closed-Set-Settings.
- Medianes $\Delta \text{AUC} = +0.075$ (Stouffer $z = 5.67, p = 7.1 \times 10^{-9}$ ).
- Der Gewinn bleibt bestehen, selbst wenn die gewählte Antwort auf die Mehrheitswahl von SC@8 festgelegt wird, was bestätigt, dass die Verbesserung auf einer besseren Kalibrierung und nicht auf einem Wechsel der Antwort beruht.
Robustheit:
- Die Ergebnisse gelten über verschiedene Einbettungsmodelle hinweg (einschließlich E5-large-v2).
- Der Austausch des Judge-LLM (von GPT-5-mini zu Claude Sonnet 4.6) lässt den AUC nur für Geometrie unverändert ( $|\Delta| \le 0.013$ ) und verschiebt den AUC nur für Abdeckung um maximal $\pm 0.02$ , was darauf hindeutet, dass die Signale keine Artefakte eines einzelnen Anbieters sind.
- Die Methode ist robust gegenüber dem Anker-Design; die Verwendung von Dataset-Options-Ankern ist kritisch, während Anker, die vom eigenen Output des Modells abgeleitet sind, auf nahezu Zufallsleistung kollabieren.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass Black-Box-CoT-Vertrauen zuverlässiger aus der geometrischen Konvergenz einer Spur im Einbettungsraum gelesen werden kann als aus der Übereinstimmung von Stichproben-Stimmen, und dies bei geringeren Sampling-Kosten und ohne Zugriff auf Logits oder versteckte Zustände erreicht.

Von den Autoren hervorgehobene Kernaussagen:

Struktur vor Sampling: Vertrauen ist ein strukturiertes Signal, das aus unterschiedlichen Kanälen (Erreichbarkeit, Commitment, Selbstbericht) besteht, anstatt ein einzelner Skalar zu sein.
Mechanistische Einsicht: Das Geometriesignal erreicht seinen Höhepunkt, bevor das Modell seine Antwort wörtlich verbalisiert, was darauf hindeutet, dass „Antwort-Commitment" eine distincte Phase in der Reasoning-Trajektorie ist, die über die Dynamik des Einbettungsraums erkannt werden kann.
Praktische Effizienz: Die Fusion von C+G+V bei $K=4$ bietet eine bessere Kalibrierung als SC@8 und reduziert gleichzeitig die gesamten API-Kosten um etwa 51% (aufgrund weniger Generierungsaufrufe und der Effizienz des Einbettungsdurchlaufs).
Einschränkungen: Die Autoren vermerken bescheiden, dass der Abdeckungskanal durch einen LLM-Judge vermittelt wird (was potenzielle Judge-Priors einführt), Verbalisierung nicht universell nützlich ist und kein innerhalb der Spur liegender Score eine korrekte Hypothese wiederherstellen kann, wenn das Modell sie nie vorgeschlagen hat (das „strukturelle Limit").

Die Arbeit liefert eine Vertrauens-Primitive auf Spur-Ebene für Pipelines, die Black-Box-Zugriff erfordern, und ermöglicht sichereres Absehen und selektive Vorhersage in hochriskanten Domänen wie der klinischen Entscheidungsunterstützung.