💬 NLP

Uncertainty Quantification for Language Models: A Suite of Black-Box, White-Box, LLM Judge, and Ensemble Scorers

Dieses Paper stellt UQLM vor, ein vielseitiges Python-Toolkit und ein abstimmbares Ensemble-Framework, das Black-Box-, White-Box- und LLM-as-a-Judge-Techniken zur Unsicherheitsquantifizierung integriert, um standardisierte Konfidenzwerte für die Erkennung von Halluzinationen in großen Sprachmodellen bereitzustellen, wobei es eine überlegene Leistung gegenüber bestehenden Methoden über verschiedene Benchmarks hinweg demonstriert.

Ursprüngliche Autoren: Dylan Bouchard, Mohit Singh Chauhan

Veröffentlicht 2026-01-29

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Dylan Bouchard, Mohit Singh Chauhan

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie hätten einen sehr intelligenten, aber gelegentlich übermütigen Roboter-Assistenten. Sie stellen ihm Fragen, und er gibt Antworten, die perfekt klingen. Aber manchmal erfindet er Dinge komplett dazu – das nennt man eine „Halluzination“. In verantwortungsvollen Berufen wie dem Gesundheitswesen oder dem Finanzwesen ist ein erfundener Fakt nicht nur ein Fehler; er ist gefährlich.

Dieses Paper stellt ein „Truth-o-Meter“-Toolkit vor, das Menschen dabei helfen soll, herauszufinden, wann dieser Roboter-Assistent sie anlügt, ohne dass sie zuerst in einem Nachschlagewerk nachsehen müssen („Closed-Book“-Szenario).

So funktioniert das Framework des Papers, erklärt durch einfache Analogien:

1. Die drei Arten von „Wahrheitsdetektiven“

Die Autoren haben eine Reihe verschiedener Methoden entwickelt, um zu prüfen, ob eine Antwort echt ist. Betrachten Sie dies als drei verschiedene Arten von Detektiven:

Der „Gruppendenken“-Detektiv (Black-Box UQ):
Stellen Sie sich vor, Sie stellen dem Roboter dieselbe Frage 15 Mal. Wenn der Roboter selbstbewusst ist und die Antwort kennt, wird er jedes Mal etwa die gleiche Antwort geben, nur etwas anders formuliert. Wenn der Roboter jedoch halluziniert, werden seine Antworten völlig unterschiedlich sein – jedes Mal eine ganz andere Geschichte.
- Die Sicht des Papers: Sie nutzen Mathematik, um zu messen, wie ähnlich sich diese 15 Antworten sind. Wenn sie sich alle sehr ähnlich sind, ist der „Konfidenzwert“ hoch. Wenn sie chaotisch sind, ist der Wert niedrig. Sie verwenden verschiedene Wege, um diese Ähnlichkeit zu messen, wie zum Beispiel zu prüfen, ob sich Sätze widersprechen (wie ein Faktencheck) oder wie stark sie sich in ihrer Bedeutung überschneiden.
Der „Innerer Monolog“-Detektiv (White-Box UQ):
Stellen Sie sich vor, der Roboter schreibt eine Antwort Wort für Wort. Während er jedes Wort auswählt, hat er ein winziges „Bauchgefühl“ (Wahrscheinlichkeit) darüber, ob dieses Wort das richtige ist.
- Die Sicht des Papers: Wenn der Roboter bei jedem einzelnen Wort, das er wählt, sehr sicher ist, sind seine internen „Bauchgefühl“-Werte hoch, und die Antwort ist wahrscheinlich wahr. Wenn der Roboter zögert und Wörter mit geringem Vertrauen wählt, ist die Antwort wahrscheinlich eine Halluzination. Dies erfordert den Zugriff auf die internen „Gedanken“ des Roboters (Token-Wahrscheinlichkeiten).
Der „Peer-Review“-Detektiv (LLM-as-a-Judge):
Stellen Sie sich vor, Sie bitten einen zweiten, ebenso intelligenten Roboter, die Antwort des ersten Roboters zu lesen und zu bewerten.
- Die Sicht des Papers: Man füttert einen anderen KI-Modell mit der Frage und der Antwort und fragt: „Wie sicher bist du, dass dies korrekt ist?“ Die zweite KI vergibt eine Punktzahl von 0 bis 100, die dann in einen Konfidenzwert von 0 bis 1 umgewandelt wird. Interessanterweise fanden die Autoren heraus, dass der beste „Richter“ meist ein Roboter ist, der auch selbst sehr gut darin ist, diese spezifischen Arten von Fragen zu beantworten.

2. Das „Mix-and-Match“-Superteam (Das Ensemble)

Die größte Innovation des Papers ist die Erkenntnis, dass kein einzelner Detektiv perfekt ist. Manchmal hat der „Gruppendenken“-Detektiv recht, ein anderes Mal ist der „Peer-Review“-Detektiv besser.

Deshalb haben sie ein „Tunable Ensemble“ erstellt. Betrachten Sie dies als einen Trainer, der das Gewicht der Meinung jedes Detektivs anpassen kann.

Wenn Sie mathematische Fragen stellen, hört der Trainer vielleicht mehr auf den „Inneren Monolog“-Detektiv.
Wenn Sie Geschichtsfragen stellen, hört er vielleicht mehr auf den „Peer-Review“-Detektiv.
Wie es funktioniert: Sie geben dem System einige Beispiele für Fragen, bei denen Sie die richtigen Antworten bereits kennen. Das System „lernt“, wie es die Werte aller Detektiven mischt, um das genaueste Ergebnis für Ihre spezifischen Bedürfnisse zu erzielen.

3. Die Ergebnisse: Warum es wichtig ist

Die Autoren testeten dieses Toolkit an vier verschiedenen KI-Modellen bei sechs verschiedenen Arten von Fragen (wie Matheaufgaben, Multiple-Choice-Quizfragen und offene Fakten).

Das Team gewinnt: Das „Mix-and-Match“-Superteam schlug fast immer jeden einzelnen Detektiv, der alleine arbeitete.
Filtern funktioniert: Sie zeigten, dass es die Genauigkeit erheblich steigert, wenn man diese Scores nutzt, um Antworten mit geringem Vertrauen zu blockieren. Beispielsweise: Wenn sie die untersten 40 % der Antworten basierend auf dem Score blockten, stieg die Genauigkeit der verbleibenden Antworten signifikant an.
Abnehmender Grenznutzen: Sie fanden heraus, dass es zwar gut ist, den Roboter nach 15 verschiedenen Antworten zu fragen, aber das 30-fache oder 50-fache nicht viel mehr bringt. Es ist wie bei dem Versuch, 50 Freunde um Rat zu fragen, anstatt 15: Es dauert einfach nur länger, ohne dass man wesentlich bessere Ratschläge erhält.

4. Das Toolkit: `uqlm`

Um dies für jeden leicht nutzbar zu machen, haben die Autoren ein kostenloses Softwarepaket namens uqlm veröffentlicht. Es ist wie ein vorgefertigtes Werkzeugset, mit dem Entwickler diese verschiedenen „Detektive“ und den „Trainer“ (Ensemble) einbinden können, ohne die Mathematik dahinter selbst entwickeln zu müssen.

Das Faznt:

Das Paper kommt zu dem Schluss, dass es keine „Einheitslösung“ gibt, um KI-Lügen zu entlarven. Der beste Ansatz ist ein flexibles System, das verschiedene Methoden kombiniert und diese spezifisch auf die Art der Fragen abstimmt, die man stellt. Dies hilft sicherzustellen, dass wir wissen, wie sehr wir einer KI vertrauen können, wenn sie spricht.

Wichtiger Hinweis aus dem Paper: Die Autoren warnen davor, dass ein hoher Konfidenzwert nicht garantiert, dass die Antwort in der realen Welt wahr ist; es bedeutet nur, dass sich die KI ihrer Antwort sicher ist. Daher sollten in kritischen Bereichen wie Medizin oder Recht Menschen die Arbeit dennoch doppelt prüfen.

Technisches Resümee: Unsicherheitsschätzung für Sprachmodelle

Problemstellung
Große Sprachmodelle (LLMs) werden zunehmend in hochsensiblen Bereichen wie dem Gesundheitswesen und dem Finanzwesen eingesetzt, in denen die faktische Genauigkeit entscheidend ist. Ein primäres Risiko in diesen Anwendungen ist die „Halluzination“, die hier als die Generierung von Inhalten definiert wird, die zwar plausibel klingen, aber faktisch falsch sind. Während Evaluierungen vor dem Deployment, bei denen generierter Text mit der Grundwahrheit (Ground Truth) verglichen wird, üblich sind, unterstützen sie kein Echtzeit-Monitoring von eingesetzten Systemen. Darüber hinaus beruhen viele bestehende Detektionsmethoden auf dem Zugriff auf Quellinhalte oder Datenbanken mit Grundwahrheit, die in „Closed-Book“-Szenarien nicht verfügbar sind. Die Arbeit adressiert den Bedarf an einem vielseitigen Closed-Book-Framework, das Antwort-basierte Konfidenzscores zum Zeitpunkt der Generierung berechnen kann, um Halluzinationen ohne Zugriff auf Referenzantworten oder externe Datenbanken zu erkennen.

Methodik
Die Autoren schlagen ein einheitliches Framework vor, das bestehende Techniken zur Unsicherheitsschätzung (Uncertainty Quantification, UQ) in standardisierte Konfidenzscores im Bereich von 0 bis 1 adaptiert (wobei 1 eine hohe Konfidenz anzeigt). Das Framework kategorisiert die Scorers in drei verschiedene Typen und führt einen abstimmbaren Ensemble-Ansatz ein:

Black-Box UQ Scorers: Diese Methoden nutzen die stochastische Natur von LLMs aus, indem sie mehrere Kandidaten-Antworten ( $m$ ) aus demselben Prompt generieren und diese mit der ursprünglichen Antwort vergleichen. Das Paper implementiert und normalisiert mehrere Ansätze:
- Exact Match Rate (EMR): Misst den Anteil der Kandidaten, die identisch mit der ursprünglichen Antwort sind.
- Non-Contradiction Probability (NCP): Verwendet ein Natural Language Inference (NLI) Modell, um die Wahrscheinlichkeit zu berechnen, dass Kandidaten der ursprünglichen Antwort nicht widersprechen.
- BERTScore (BSC): Berechnet den durchschnittlichen F1-Score basierend auf kontextualisierten Wort-Embeddings zwischen der ursprünglichen und den Kandidaten-Antworten.
- Normalized Cosine Similarity (NCS): Misst die semantische Ähnlichkeit mittels Sentence-Transformern, normalisiert auf den Bereich [0, 1].
- Normalized Semantic Negentropy (NSN): Eine normalisierte Version der semantischen Entropie, die Antworten durch gegenseitige Implikation clustert, um die Antwort-Volatilität zu messen.
White-Box UQ Scorers: Diese nutzen die internen Token-Wahrscheinlichkeiten des Generierungsprozesses des LLMs:
- Length-Normalized Token Probability (LNTP): Das geometrische Mittel der Token-Wahrscheinlichkeiten, normalisiert für die Antwortlänge.
- Minimum Token Probability (MTP): Die niedrigste Wahrscheinlichkeit unter allen Tokens der generierten Antwort.
LLM-as-a-Judge Scorers: Ein separates LLM wird angewiesen, die faktische Korrektheit eines Frage-Antwort-Paares zu bewerten, wobei ein Score auf einer Skala von 0–100 ausgegeben wird, der dann auf [0, 1] normalisiert wird.
Abstimmbarer Ensemble-Ansatz (Tunable Ensemble Approach): Der Kernbeitrag ist der gewichtete Durchschnitt der oben beschriebenen einzelnen Scorers. Die Gewichte ( $w$ ) werden unter Verwendung eines vom Nutzer bereitgestellten Satzes graduierter LLM-Antworten (bei denen die Ground-Truth-Labels bekannt sind) und einer Klassifikations-Zielfunktion (z. B. AUROC oder F1-Score) optimiert. Dies ermöglicht es, das Ensemble für spezifische Anwendungsfälle, LLMs und Datensätze anzupassen.

Zentrale Beiträge

Standardisiertes Framework: Das Paper skizziert eine Methode, um diverse UQ-Techniken in eine konsistente, Antwort-basierte Konfidenzmetrik zu transformieren, die für die Echtzeit-Halluzinationserkennung im Closed-Book-Modus geeignet ist.
Open-Source-Toolkit: Die Autoren veröffentlichen uqlm, ein Python-Paket, das gebrauchsfertige Implementierungen aller vorgeschlagenen Scorers und des Ensemble-Tuning-Mechanismus bereitstellt.
Erweiterbarkeit: Das Ensemble-Design ist modular aufgebaut, was es Praktikern ermöglicht, neue Scoring-Methoden mit fortschreitender Forschung zu integrieren.
Empirische Erkenntnisse: Die Studie liefert datengestützte Orientierungshilfe bei der Auswahl von Scorern, wie etwa den abnehmenden Grenznutzen beim Sampling zusätzlicher Kandidaten-Antworten und die Korrelation zwischen der Generierungsgenauigkeit eines Modells und seiner Effektivität als Judge.

Experimentelle Ergebnisse
Die Autoren evaluierten das Framework über sechs Benchmarks (GSM8K, SVAMP, CSQA, AI2-ARC, PopQA, NQ-Open) unter Verwendung von vier LLMs (GPT-4o, GPT-4o-mini, Gemini-2.5-Flash, Gemini-2.5-Flash-Lite).

Ensemble-Leistung: Das abstimmbare Ensemble übertraf die einzelnen Komponenten konsistent in 20 von 24 LLM-Datensatz-Szenarien für AUROC und in 17 von 24 für den F1-Score.
Variabilität der Scorers: Die Leistung der einzelnen Scorers variierte signifikant je nach Datensatz. NLI-basierte Black-Box-Scorers (NSN und NCP) schnitten im Allgemeinen besser ab als andere Black-Box-Methoden.
Judge-Auswahl: Die Genauigkeit eines Modells auf einem spezifischen Datensatz korrelierte positiv mit seiner Leistung als Judge für denselben Datensatz. Beispielsweise war Gemini-2.5-Flash exzellent als Judge auf Mathematik-Benchmarks, während GPT-4o am besten auf Short-Answer-Benchmarks performte.
White-Box vs. Black-Box: White-Box-Scorers (LNTP, MTP) performten etwa gleich stark untereinander, schnitten jedoch in vielen Szenarien generell schlechter ab als die besten Black-Box- oder Ensemble-Methoden, insbesondere wenn Token-Wahrscheinlichkeiten nicht das primäre Signal für Unsicherheit darstellten.
Effizienz der Filterung: Die Anwendung von Konfidenzschwellenwerten zur Filterung von Antworten mit niedriger Konfidenz führte zu einer monotonen Steigerung der Modellgenauigkeit. Beispielsweise steigerte das Filtern von GPT-4o-Antworten auf GSM8K mit dem Ensemble-Scorer die Genauigkeit von einem Baseline-Wert von 0,55 auf 0,93 bei einem Schwellenwert von 0,6.

Bedeutung und Ansprüche
Das Paper behauptet, dass maßgeschneiderte Strategien zur Halluzinationserkennung, insbesondere durch abstimmbare Ensembles, eine praktische und effektive Lösung zur Verbesserung der Zuverlässigkeit von LLMs in der Produktion bieten. Die Autoren betonen, dass es keine „Einheitslösung“ gibt; vielmehr hängt der optimale Ansatz vom spezifischen LLM, dem Datensatz und den operativen Einschränkungen (z. B. Latenz, API-Zugriff auf Token-Wahrscheinlichkeiten) ab.

Die Autoren nehmen eine moderate Haltung bezüglich der Limitationen ein und merken an, dass ihre Ergebnisse ohne Modifikation möglicherweise nicht auf die Generierung langer Texte oder Code-Generierung generalisierbar sind. Sie warnen zudem davor, dass Konfidenzscores die Unsicherheit des Modells und nicht die faktische Korrektheit widerspiegeln, und raten davon ab, diese ohne menschliche Überprüfung als absolute Entscheidungsgarantien in Hochrisikodomänen zu verwenden. Die Arbeit dient als praktisches Toolkit für Praktiker zur Implementierung modellagnostischer Echtzeit-Halluzinationserkennung.

1. Die drei Arten von „Wahrheitsdetektiven“

2. Das „Mix-and-Match“-Superteam (Das Ensemble)

3. Die Ergebnisse: Warum es wichtig ist

4. Das Toolkit: uqlm

Das Faznt:

Mehr davon

4. Das Toolkit: `uqlm`