Technische Zusammenfassung: Halluzination als Anomalie via Probabilistischer Schaltkreise

Problemstellung

Large Language Models (LLMs) leiden unter Halluzinationen und erzeugen fließende, aber faktisch inkorrekte Ausgaben. Während bestehende Detektionsmethoden (Überwachung der Unsicherheit) und Korrekturmethoden (Repräsentations-Engineering) einzeln vielversprechend sind, zeigt ihre Kombination eine fundamentale Einschränkung, die als Asymmetrie zwischen Detektion und Korrektur bezeichnet wird. Aktuelle Korrekturtechniken wenden Steuervektoren oft unselektiv auf jedes Token an. Diese kontinuierliche Bearbeitung latenter Zustände drückt Aktivierungen aus dem vortrainierten Manifold des Modells heraus, was die Fließfähigkeit beeinträchtigt und ursprünglich korrekte Generationen korrumpiert. Die Arbeit argumentiert, dass ungetaktete Korrekturen zwischen 26 % und 90 % der faktischen Generationen korrumpieren können, was einen Rahmen erfordert, der Detektion von Korrektur entkoppelt, um die Integrität faktischer Ausgaben zu bewahren.

Methodik

Die Autoren schlagen einen zweistufigen Rahmen vor: PCNET für handhabbare Anomalieerkennung und PC-LDCD für getaktete, manifolderhaltende Korrektur.

1. PCNET: Handhabbare latente Anomalieerkennung

PCNET ist ein Probabilistischer Schaltkreis (PC), der als Dichteschätzer über einer niedrigdimensionalen Projektion des Residualstreams des LLM trainiert wird.

• Architektur: Der letzte versteckte Zustand des LLM ($h \in \mathbb{R}^{D_{LLM}}$) wird über einen Multi-Layer-Perceptron (MLP)-Bottleneck in einen kompakten latenten Raum projiziert ($z \in \mathbb{R}^{D_{PC}}$). PCNET modelliert die gemeinsame Wahrscheinlichkeitsverteilung $P(z)$ über diesen Raum.
• Struktur: Der Schaltkreis ist ein gerichteter azyklischer Graph (DAG), der Eingabe-, Summen- und Produktknoten umfasst. Im Gegensatz zu Standard-PCs nutzen die Eingabeknoten eine heterogene Mischung aus Gauß-, Laplace- und Student-t-Verteilungen, um die komplexe, schwerfällig-tailige Geometrie von LLM-Repräsentationen zu erfassen.
• Training: PCNET und der Projektions-Bottleneck werden gemeinsam unter Verwendung eines zusammengesetzten Ziels optimiert: eines generativen Terms (Negative Log-Likelihood auf faktischen Zuständen) und eines kontrastiven Randterms (der halluzinierte Zustände in Regionen niedriger Dichte drückt). Das Basis-LLM bleibt eingefroren.
• Inferenz: PCNET berechnet die exakte Negative Log-Likelihood (NLL) eines latenten Zustands in einem einzigen Vorwärtsdurchlauf ohne Sampling oder externe Verifizierer. Eine hohe NLL weist auf eine geometrische Anomalie hin und signalisiert eine Abweichung vom „faktischen Manifold".

2. PC-LDCD: Manifolderhaltende Korrektur

PC-LDCD (Probabilistic Circuit Latent Density Contrastive Decoding) nutzt PCNET als dynamisches Gate, um nur bei Bedarf einzugreifen.

• Dynamisches Gating: In jedem Dekodierschritt wird die NLL des aktuellen Zustands berechnet. Überschreitet die NLL einen kalibrierten Schwellenwert $\tau$, wird ein Eingriff ausgelöst. Wird der Zustand als faktisch eingestuft (niedrige NLL), läuft die Standarddekodierung unverändert weiter, wodurch das Verhalten des Basismodells bewahrt wird.
• Diskreter Lookahead: Wird eine Anomalie erkannt, wird die Standarddekodierung ausgesetzt. Es wird eine $k$-Kandidaten-Lookahead-Suche im diskreten Tokenraum durchgeführt. Das optimale Token wird durch Maximierung einer bestraften Log-Wahrscheinlichkeit ausgewählt:
  $$\text{Score}_{LDCD}(c_i) = \log P_{LM}(c_i | x_{<t}) - \beta_t \cdot \text{SNLL}(f_\phi(h(c_i)_{t+1}))$$
  Hier ist $\beta_t$ ein dynamischer Stärkeparameter basierend auf dem Anomaliescore, und $\text{SNLL}$ ist die NLL des hypothetischen zukünftigen Zustands. Dieser Ansatz stellt generatives Vertrauen gegen die exakte Log-Dichte des gelernten Manifolds, wobei nur eingegriffen wird, um zu verhindern, dass die Trajektorie in halluzinierte Regionen tiefer eindringt.

Hauptbeiträge

1. Empirische Untersuchung der Asymmetrie zwischen Detektion und Korrektur: Die Arbeit demonstriert systematisch, dass ungetaktetes Repräsentations-Engineering faktische Generationen korrumpiert, und begründet die mathematische Notwendigkeit getakteter Eingriffe.
2. Handhabbare latente Anomalieerkennung (PCNET): Die Autoren stellen PCNET vor und zeigen, dass die exakte Dichteschätzung über einem kontrastiv trainierten latenten Manifold Halluzinationen mit einem state-of-the-art AUROC über diverse Modelle und Benchmarks hinweg identifiziert, ohne Sampling oder Gewichtsmodifikationen.
3. Manifolderhaltende Korrektur (PC-LDCD): Die vorgeschlagene dichtegetaktete Dekodierungsstrategie erreicht unter den bewerteten Methoden die niedrigste Korrumpierungsrate und die höchste Bewahrungsrate, korrigiert erfolgreich Halluzinationen und lässt korrekte Generationen unberührt.

Experimentelle Ergebnisse

Der Rahmen wurde an vier LLMs (von 1 Mrd. bis 8 Mrd. Parametern) und vier Benchmarks (CoQA, SQuAD v2.0, TriviaQA und TruthfulQA) evaluiert.

• Detektionsleistung: PCNET erreichte eine nahezu perfekte Halluzinationserkennung bei CoQA, SQuAD v2.0 und TriviaQA, mit AUROC-Werten von bis zu 99 %. Es übertraf Baselines wie Token-NLL, Semantic Entropy Probes (SEP) und HaloScope signifikant, insbesondere bei wissensintensiven und adversarialen Benchmarks.
• Korrekturwirksamkeit:
  • Bewahrung: PC-LDCD reduzierte die mittlere Korrumpierungsrate faktischer Generationen auf 53,7 % und erreichte eine Bewahrungsrate von 79,3 %, was ungetaktete Baselines signifikant übertrifft.
  • Wahrhaftigkeit: Bei TruthfulQA erzielte PC-LDCD in drei von vier Modellen die höchsten True+Info-, MC2- und MC3-Werte. Es verbesserte insbesondere MC2 und MC3 (Metriken, die kalibrierte Unsicherheit über mehrere wahrhafte Vervollständigungen messen), was darauf hindeutet, dass es robustere wahrhafte Ausgabeverteilungen erzeugt und nicht nur das Vertrauen in einzelne Antworten verschiebt.
  • Standard-QA: Bei Standard-QA-Benchmarks blieb PC-LDCD wettbewerbsfähig und erreichte oder blieb knapp hinter den besten Baselines (z. B. SQuAD EM 0,87 bei Mistral-7B).
• Effizienz: Die Methode erfordert keine externe Abrufung oder Gewichtsaktualisierung. Ablationsstudien zeigten, dass nahezu optimale Detektionsleistung mit nur 100 Trainingsstichproben und einer Projektionsdimension von 128 erreichbar ist.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass durch die Formulierung von Halluzinationen als geometrische Anomalien auf einem faktischen Manifold und die Nutzung Probabilistischer Schaltkreise für die exakte Dichteschätzung der Spannungsverhältnis zwischen Detektion und Korrektur aufgelöst werden kann. Die primäre Bedeutung liegt im Gating-Mechanismus: Indem Korrekturen ausschließlich in den diskreten Tokenraum geleitet werden, wenn die latente Geometrie abweicht, vermeidet die Methode den „semantischen Kollaps", der durch unselektive kontinuierliche Bearbeitung verursacht wird.

Die Autoren positionieren ihre Arbeit als Schritt hin zu einer zuverlässigen LLM-Bereitstellung in hochriskanten Domänen und bieten ein prinzipielles, einstufiges Unsicherheitssignal an, das weder auf dem Übervertrauen von Token-Wahrscheinlichkeiten noch auf dem Rechenaufwand mehrstufigen Samplings beruht. Sie räumen Einschränkungen ein, darunter die Notwendigkeit eines kleinen Kalibrierungssets gelabelter Zustände und den derzeitigen Evaluierungsumfang, der auf Modelle bis zu 8 Mrd. Parametern beschränkt ist, wodurch die Frage der geometrischen Trennung bei größeren Modellen offen bleibt.