💬 NLP

Token-Level Density-Based Uncertainty Quantification Methods for Eliciting Truthfulness of Large Language Models

Dieser Beitrag stellt eine neuartige überwachte Methode zur Unsicherheitsquantifizierung für große Sprachmodelle vor, die die Mahalanobis-Distanz auf Token-Einbettungen über mehrere Schichten hinweg anpasst und dabei eine überlegene Genauigkeit und Generalisierung gegenüber bestehenden Ansätzen für die Erzielung von Wahrhaftigkeit sowohl bei sequenzbasierten Generierungsaufgaben als auch bei Faktenprüfungen demonstriert.

Ursprüngliche Autoren: Artem Vazhentsev, Lyudmila Rvanova, Ivan Lazichny, Alexander Panchenko, Maxim Panov, Timothy Baldwin, Artem Shelmanov

Veröffentlicht 2026-04-29

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Artem Vazhentsev, Lyudmila Rvanova, Ivan Lazichny, Alexander Panchenko, Maxim Panov, Timothy Baldwin, Artem Shelmanov

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen sehr intelligenten, gut gebildeten Roboter (ein Large Language Model, oder LLM), der Geschichten schreiben, Fragen beantworten und Nachrichten zusammenfassen kann. Das Problem ist, dass dieser Roboter manchmal „halluziniert" – er erfindet selbstbewusst Fakten oder lügt, genau wie ein Schüler, der die Antwort in einem Test rät, aber tatsächlich falsch liegt.

Die Autoren dieses Papers wollten einen „Lügendetektor" für diesen Roboter bauen. Sie wollten eine Möglichkeit haben, bevor wir der Antwort des Roboters vertrauen, zu wissen, ob der Roboter tatsächlich unsicher ist oder ob er nur blufft.

Hier ist, wie sie es taten, einfach erklärt:

Das Problem mit alten Methoden

Früher versuchten Wissenschaftler zwei Hauptmethoden, um zu erkennen, wenn der Roboter lügt:

Die „Nochmal-Fragen"-Methode: Stellen Sie dem Roboter dieselbe Frage 10 Mal. Wenn er 10 verschiedene Antworten gibt, ist er wahrscheinlich verwirrt. Nachteil: Dies ist langsam und teuer, wie wenn man einen Freund dieselbe Frage 10 Mal stellt, nur um zu sehen, ob er seine Geschichte ändert.
Die „Vertrauenswürdigkeits-Score"-Methode: Schauen Sie, wie selbstbewusst der Roboter klingt. Nachteil: Roboter sind großartig darin, selbstbewusst zu klingen, selbst wenn sie völlig falsch liegen.

Die neue Idee: Der „Token-Level-Dichte"-Detektiv

Die Autoren erkannten, dass das „Gehirn" des Roboters (seine internen Schichten) Hinweise auf seine Unsicherheit enthält. Sie beschlossen, ein mathematisches Werkzeug namens Mahalanobis-Distanz (MD) zu verwenden.

Die Analogie: Die „normale Menge" vs. der „Ausreißer"
Stellen Sie sich vor, der Roboter hat eine mentale Bibliothek mit „guten, korrekten Antworten", die er während des Trainings gelernt hat.

Der alte Weg (Sequenz-Ebene): Wenn der Roboter einen ganzen Satz beendet hat, betrachtete die alte Methode den gesamten Satz als einen großen Klumpen und fragte: „Sieht dieser ganze Klumpen aus wie die ‚guten' Antworten?" Das Problem war, dass ein Satz ein seltsames Wort haben kann, das das ganze Ding ruiniert, aber der „Klumpen" könnte trotzdem okay aussehen.
Der neue Weg (Token-Ebene): Die Autoren beschlossen, jedes einzelne Wort (Token) zu betrachten, das der Roboter schreibt, eins nach dem anderen.
- Sie fragen: „Sieht dieses spezifische Wort aus wie die Wörter, die in der ‚guten' Bibliothek des Roboters zu finden sind?"
- Wenn der Roboter ein Wort schreibt, das sehr seltsam ist oder weit entfernt von seiner Bibliothek korrekter Wörter liegt, erhält dieses Wort einen hohen „Verdachts-Score".
- Sie tun dies für jedes Wort im Satz und mitteln dann die Scores, um einen endgültigen „Unsicherheits-Score" für die gesamte Antwort zu erhalten.

Wie sie es bauten (Das Rezept)

Sammeln der „guten" Beispiele: Sie nahmen eine Reihe von Fragen und die Antworten des Roboters. Sie filterten diese Antworten, um nur diejenigen zu behalten, die definitiv korrekt waren (wie ein Lehrer, der einen Test korrigiert und nur die A+-Arbeiten behält).
Kartieren der „guten" Wörter: Sie betrachteten die interne Mathematik (Embeddings) der Wörter in diesen A+-Arbeiten, um eine Karte dessen zu erstellen, wie „korrekt" für jede Schicht des Roboterhirns aussieht.
Der „Verdacht"-Test: Wenn der Roboter eine neue Antwort generiert, prüft das System jedes einzelne Wort gegen diese „korrekte" Karte.
- Wenn ein Wort weit entfernt von der „korrekten" Karte liegt, erhält es einen hohen Distanz-Score (Hohe Unsicherheit).
- Wenn es nah ist, erhält es einen niedrigen Score (Niedrige Unsicherheit).
Der „Trainer" (Lineare Regression): Da es kompliziert ist, jede einzelne Schicht des Roboterhirns zu betrachten, trainierten sie einen einfachen „Trainer" (ein lineares Regressionsmodell). Dieser Trainer betrachtet alle Verdachts-Scores aus den verschiedenen Schichten und das eigene Vertrauen des Roboters und sagt dann: „Basierend auf all diesen Hinweisen, wie wahrscheinlich ist es, dass diese Antwort wahr ist?"

Was sie herausfanden

Sie testeten diesen neuen „Token-Level-Detektiv" an 11 verschiedenen Aufgaben, von der Zusammenfassung von Nachrichtenartikeln bis hin zur Beantwortung kniffliger Wissenschaftsfragen.

Es ist schneller: Im Gegensatz zur „Nochmal-Fragen"-Methode erfordert dies nicht, dass der Roboter mehrfach läuft. Es ist fast so schnell, als würde der Roboter die Antwort einfach normal schreiben.
Es ist intelligenter: Es fing Lügen viel besser ein als frühere Methoden. In vielen Tests war es die beste verfügbare Methode.
Es funktioniert bei Neuem: Selbst wenn sie den Roboter an Themen testeten, die er während des Trainings nicht gesehen hatte (wie der Wechsel von der Zusammenfassung von Nachrichten zur Beantwortung medizinischer Fragen), funktionierte die Methode immer noch gut.
Der „Hybrid"-Boost: Sie stellten fest, dass die Kombination ihrer neuen Methode mit dem eigenen Vertrauens-Score des Roboters (ein „Hybrid"-Ansatz) es noch besser machte, Lügen aufzudecken.

Das Fazit

Das Paper behauptet, dass wir, indem wir jedes einzelne Wort betrachten, das der Roboter schreibt, und prüfen, wie „seltsam" es im Vergleich zum Training des Roboters ist, einen sehr schnellen, genauen und günstigen Weg schaffen können, um zu sagen, ob der Roboter die Wahrheit sagt oder Dinge erfindet. Es ist, als würde man dem Roboter einen Spiegel geben, damit er sehen kann, wenn er im Begriff ist, etwas Seltsames zu sagen, bevor er es überhaupt ausspricht.

1. Problemstellung

Large Language Models (LLMs) neigen dazu, Halluzinationen und nicht-faktische Behauptungen zu generieren, was in sicherheitskritischen Anwendungen erhebliche Risiken birgt. Während Uncertainty Quantification (UQ) ein Hauptansatz zur Erkennung dieser Fehler ist, stoßen bestehende Methoden auf zwei wesentliche Einschränkungen:

Ineffektivität dichte-basierter Methoden: Traditionelle dichte-basierte UQ-Techniken (z. B. Mahalanobis-Distanz) waren bei Textklassifizierung hoch erfolgreich, haben jedoch bei Textgenerierungsaufgaben, wenn sie auf Sequenz-Ebene angewendet werden, versagt. Frühere Versuche erzielten Leistungen, die mit einer zufälligen Auswahl vergleichbar waren.
Rechenkosten: State-of-the-Art-UQ-Methoden für LLMs verlassen sich häufig auf konsistenzbasierte Ansätze (z. B. Semantische Entropie, Stichprobenziehung mehrerer Generierungen) oder Deep Ensembles, die einen massiven Rechenoverhead verursachen (300–700% Erhöhung der Inferenzzeit), was sie für Echtzeit- oder groß angelegte Anwendungen unpraktisch macht.
Merkmalsbeschränkungen: Neuere überwachte Methoden, die interne LLM-Zustände nutzen, verlassen sich oft auf vereinfachte Merkmale oder scheitern daran, robuste, etablierte dichte-basierte Metriken effektiv einzubeziehen.

2. Methodik

Die Autoren schlagen ein neues überwachtes, token-level-basiertes, dichte-basiertes UQ-Framework vor, das die Mahalanobis-Distanz (MD) für generative Modelle anpasst. Die Kerninnovation besteht im Wechsel von Embeddings auf Sequenzebene zu Embeddings auf Token-Ebene und deren intelligente Aggregation.

Schlüsselkomponenten:

Extraktion von Token-Level-Embeddings:
- Anstatt Embeddings zu mitteln, um einen einzelnen Sequenzvektor zu bilden, extrahiert die Methode versteckte Zustands-Embeddings für jedes generierte Token aus mehreren Schichten des LLM.
- Auswahl der Embeddings: Um die Referenzverteilung (Zentroid und Kovarianzmatrix) zu konstruieren, filtert die Methode Trainingsdaten, um nur hochwertige (korrekte) Antworten einzuschließen. Dies stellt sicher, dass das Dichtemodell „wahre" Generierungen repräsentiert.
Schichtweise Mahalanobis-Distanz (MD):
- Für jede Schicht $l$ berechnet die Methode die Mahalanobis-Distanz zwischen dem Embedding eines Tokens und dem Zentroid der ausgewählten „korrekten" Token-Embeddings dieser Schicht.
- Relative MD (RMD): Die Methode implementiert zudem die Relative Mahalanobis-Distanz, die die Distanz zu einer Hintergrundverteilung (z. B. allgemeiner C4-Datensatz) subtrahiert, um wahre In-Domain-Generierungen besser von allgemeinem Rauschen zu unterscheiden.
- Aggregation: Die Token-Level-Scores werden über die Sequenz gemittelt, um einen Sequenz-Level-Score zu erzeugen (Durchschnittlicher Token-Level-MD oder ATMD / ATRMD).
Überwachtes Lineares Regressionsmodell:
- Da die bestperformende Schicht je nach Aufgabe variiert, behandelt die Methode die schichtweisen MD-Scores als Merkmale.
- Ein Lineares Regressionsmodell wird trainiert, um den Unsicherheitsscore (zielgerichtet als negatives Qualitätsmaß, z. B. $-ROUGE$ oder $-Accuracy$) unter Verwendung dieser schichtweisen Scores vorherzusagen.
- PCA: Um Multikollinearität zwischen Schichtmerkmalen zu handhaben, werden die top 10 Hauptkomponenten (PCA) als Eingabe für den Regressor verwendet.
- Hybrider Score (HUQ): Der finale Unsicherheitsscore kann eine Hybridisierung des überwachten MD-Scores und der Sequenzwahrscheinlichkeit (Maximum Sequence Probability, MSP) sein, kombiniert durch eine gelernte Gewichtungsfunktion.

3. Hauptbeiträge

Token-Level-Anpassung: Das Papier zeigt, dass die Anwendung dichte-basierter Methoden auf Token-Ebene (anstatt auf Sequenzebene) für den Erfolg bei der LLM-Generierung entscheidend ist und das Versagen früherer dichte-basierter Ansätze auf Sequenzebene überwindet.
Effizientes überwachtes Framework: Sie stellen eine rechnerisch leichte überwachte Methode vor, die schichtweise Dichtescores mit linearer Regression kombiniert und damit die Notwendigkeit teurer Stichprobenziehung oder Ensemblebildung vermeidet.
Umfassende Evaluation: Die Methode wurde über 11 diverse Datensätze (abdeckend Zusammenfassung, QA mit langen/kurzen Antworten und Multiple-Choice-QA) und zwei Aufgaben validiert: selektive Generierung auf Sequenzebene und Faktenprüfung auf Behauptungsebene.
Generalisierung: Die Methode zeigt eine starke Robustheit in Out-of-Domain-Szenarien und behält ihre Leistung bei, selbst wenn sie auf verschiedenen Aufgabentypen trainiert wurde (z. B. Training auf Zusammenfassung/QA und Test auf Multiple-Choice-QA).

4. Experimentelle Ergebnisse

Die Experimente nutzten die Modelle Llama 8b v3.1, Gemma 9b v2 und Mistral 7b.

Leistung bei selektiver Generierung:
- Die vorgeschlagenen Methoden (SATRMD+MSP und HUQ-SATRMD) schnitten deutlich besser ab als alle Baselines, einschließlich state-of-the-art unüberwachter Methoden (Semantische Entropie, SAR) und anderer überwachter Methoden (SAPLMA, Factoscope).
- Metriken: Gemessen durch das Prediction Rejection Ratio (PRR). Die vorgeschlagenen Methoden erzielten die höchsten mittleren Ränge über die Datensätze hinweg. Beispielsweise schnitt SATRMD+MSP auf dem MMLU-Datensatz deutlich besser ab als die nächstbeste Methode.
- Schichtenanalyse: Im Gegensatz zu Klassifizierungsaufgaben, bei denen oft die letzte Schicht am besten ist, zeigten die Ergebnisse, dass mittlere Schichten oft die informativsten Embeddings für Unsicherheit in Decoder-only-LLMs liefern.
Leistung bei der Faktenprüfung:
- Bei der Faktenprüfung auf Behauptungsebene (Mistral 7b) erreichte HUQ-SATRMD die beste ROC-AUC (0,750) und übertraf die Baseline CCP um 3,4%.
Rechenleistungseffizienz:
- Overhead: Die vorgeschlagenen Methoden führen einen minimalen Rechenoverhead von 5,3% – 7,6% im Vergleich zur Standard-LLM-Inferenz ein.
- Vergleich: Dies ist drastisch niedriger als bei stichprobenbasierten Methoden wie Semantische Entropie oder SAR, die einen Overhead von 315% – 700% verursachen.
Robustheit:
- Die Methode ist robust gegenüber der Größe des Trainingsdatensatzes (leistet gut mit nur 200–500 Instanzen).
- Sie ist nicht stark empfindlich gegenüber dem Korrektheits-Schwellenwert, der zur Filterung der Trainings-Embeddings verwendet wird.

5. Bedeutung

Diese Arbeit schließt die Lücke zwischen effektiver dichte-basierter UQ bei Klassifizierung und dem herausfordernden Bereich der LLM-Textgenerierung. Durch den Wechsel der Granularität auf Token-Ebene und die Nutzung einer überwachten linearen Kombination schichtweiser Merkmale bieten die Autoren eine Lösung, die:

Genauer ist: Deutlich bessere Ergebnisse als aktuelle state-of-the-art UQ-Methoden bei der Erkennung von Halluzinationen liefert.
Effizienter ist: Eine Echtzeit-Unsicherheitsschätzung für Produktionsumgebungen ermöglicht, indem teure Stichprobenziehung vermieden wird.
Generalisierbar ist: Die Fähigkeit demonstriert, Unsicherheitsschätzungsfähigkeiten über verschiedene Domänen und Aufgabentypen zu übertragen, eine kritische Anforderung für den Einsatz von LLMs in diversen realen Anwendungen.

Das Papier kommt zu dem Schluss, dass dichte-basierte Methoden, wenn sie angemessen an die Token-Level-Architektur von LLMs angepasst werden, eine überlegene Alternative sowohl zu trivialen wahrscheinlichkeitbasierten Baselines als auch zu rechenintensiven Stichprobenmethoden darstellen.