Technische Samenvatting: Hallucinatie als Anomalie via Probabilistische Circuits

Probleemstelling

Grote Taalmodellen (LLMs) lijden aan hallucinaties, waarbij ze vloeiende maar feitelijk onjuiste outputs genereren. Hoewel bestaande detectiemethoden (bewaking van onzekerheid) en correctiemethoden (representatie-engineering) individueel veelbelovend zijn, onthult hun combinatie een fundamentele beperking die Detectie-Correctie Asymmetrie wordt genoemd. Huidige correctietechnieken passen vaak stuurvectoren ongedifferentieerd toe op elke token. Deze continue bewerking van latente staten duwt activaties buiten het vooraf getrainde manifold van het model, wat de vloeiendheid verslechtert en oorspronkelijk correcte generaties corrumpeert. Het artikel betoogt dat on-gated correctie tussen 26% en 90% van de feitelijke generaties kan corrumperen, wat een kader vereist dat detectie ontkoppelt van correctie om de integriteit van feitelijke outputs te behouden.

Methodologie

De auteurs stellen een tweestapskader voor: PCNET voor hanteerbare anomaliedetectie en PC-LDCD voor gated, manifold-behoudende correctie.

1. PCNET: Hanteerbare Latente Anomaliedetectie

PCNET is een Probabilistische Circuit (PC) getraind als een dichtheidsschatter over een laag-dimensionale projectie van de residual stream van het LLM.

• Architectuur: De laatste verborgen staat van het LLM ($h \in \mathbb{R}^{D_{LLM}}$) wordt via een Multi-Layer Perceptron (MLP) bottleneck geprojecteerd naar een compacte latente ruimte ($z \in \mathbb{R}^{D_{PC}}$). PCNET modelleert de gezamenlijke waarschijnlijkheidsverdeling $P(z)$ over deze ruimte.
• Structuur: Het circuit is een Gerichte Acyclische Grafiek (DAG) bestaande uit Input-, Som- en Productknopen. In tegenstelling tot standaard PCs maken de Input-knopen gebruik van een heterogene mix van Gaussische, Laplace- en Student-T-verdelingen om de complexe, zwaarstaartige geometrie van LLM-representaties vast te leggen.
• Training: De PCNET en de projectie-bottleneck worden gezamenlijk geoptimaliseerd met een samengesteld doel: een generatieve term (Negatieve Log-Likelihood op feitelijke staten) en een contrastieve margin-term (die hallucinante staten naar gebieden met lage dichtheid duwt). Het basis-LLM blijft bevroren.
• Inferentie: PCNET berekent de exacte Negatieve Log-Likelihood (NLL) van een latente staat in één forward pass zonder steekproeven of externe verifiers. Een hoge NLL duidt op een geometrische anomalie, wat een afwijking van het "feitelijke manifold" signaleert.

2. PC-LDCD: Manifold-Behoudende Correctie

PC-LDCD (Probabilistic Circuit Latent Density Contrastive Decoding) gebruikt PCNET als een dynamische poort om alleen in te grijpen wanneer nodig.

• Dynamische Gating: Bij elke decodestap wordt de NLL van de huidige staat berekend. Als de NLL een gekalibreerde drempel $\tau$ overschrijdt, wordt een interventie geactiveerd. Als de staat als feitelijk wordt beschouwd (lage NLL), verloopt de standaarddecoding ongewijzigd, waardoor het gedrag van het basismodel behouden blijft.
• Discrete Lookahead: Wanneer een anomalie wordt gedetecteerd, schorst het systeem de standaarddecoding. Het voert een $k$-kandidaat lookahead-zoekopdracht uit in de discrete tokenruimte. De optimale token wordt geselecteerd door een gepenaliseerde log-probabiliteit te maximaliseren:
  $$\text{Score}_{LDCD}(c_i) = \log P_{LM}(c_i | x_{<t}) - \beta_t \cdot \text{SNLL}(f_\phi(h(c_i)_{t+1}))$$
  Hierbij is $\beta_t$ een dynamische sterkteparameter gebaseerd op de anomaliescore, en is $\text{SNLL}$ de NLL van de hypothetische toekomstige staat. Deze benadering zet generatieve zekerheid tegenover de exacte log-dichtheid van het geleerde manifold, en grijpt alleen in om te voorkomen dat de trajectie dieper in hallucinante gebieden doordringt.

Belangrijkste Bijdragen

1. Empirisch Onderzoek naar Detectie-Correctie Asymmetrie: Het artikel demonstreert systematisch dat on-gated representatie-engineering feitelijke generaties corrumpeert, en vestigt de wiskundige noodzaak van gated interventies.
2. Hanteerbare Latente Anomaliedetectie (PCNET): De auteurs introduceren PCNET en tonen aan dat exacte dichtheidsschatting over een contrastief getraind latente manifold hallucinaties identificeert met state-of-the-art AUROC over diverse modellen en benchmarks, zonder steekproeven of gewichtsmodificaties.
3. Manifold-Behoudende Correctie (PC-LDCD): De voorgestelde dichtheid-gated decodingstrategie bereikt de laagste corruptiegraad en hoogste behoudsgraad onder de geëvalueerde methoden, en corrigeert hallucinaties succesvol terwijl correcte generaties onaangeroerd blijven.

Experimentele Resultaten

Het kader werd geëvalueerd op vier LLM's (variërend van 1B tot 8B parameters) en vier benchmarks (CoQA, SQuAD v2.0, TriviaQA en TruthfulQA).

• Detectieprestaties: PCNET bereikte een bijna perfecte hallucinatie-detectie op CoQA, SQuAD v2.0 en TriviaQA, met AUROC-scores tot 99%. Het presteerde aanzienlijk beter dan baselines zoals Token-NLL, Semantic Entropy Probes (SEP) en HaloScope, met name op kennisintensieve en adversariële benchmarks.
• Correctie-effectiviteit:
  • Behoud: PC-LDCD verlaagde de gemiddelde corruptiegraad van feitelijke generaties tot 53,7% en bereikte een behoudsgraad van 79,3%, wat aanzienlijk beter is dan on-gated baselines.
  • Waarheidsgetrouwheid: Op TruthfulQA behaalde PC-LDCD de hoogste True+Info-, MC2- en MC3-scores in drie van de vier modellen. Het verbeterde opvallend MC2 en MC3 (metrieken die gekalibreerde onzekerheid over meerdere waarheidsgetrouwe voltooiingen meten), wat suggereert dat het robuustere waarheidsgetrouwe outputdistributies produceert in plaats van alleen de zekerheid van een enkel antwoord te verschuiven.
  • Standaard QA: Op standaard QA-benchmarks bleef PC-LDCD concurrerend, waarbij het de beste baselines evenaarde of nauwelijks achterbleef (bijvoorbeeld het behalen van SQuAD EM 0,87 op Mistral-7B).
• Efficiëntie: De methode vereist geen externe ophaaloperaties of updates van gewichten. Ablatiestudies toonden aan dat bijna optimale detectieprestaties haalbaar zijn met zo weinig als 100 trainingsstalen en een projectiedimensie van 128.

Betekenis en Claims

Het artikel stelt dat door hallucinaties te kaderen als geometrische anomalieën op een feitelijk manifold en Probabilistische Circuits te gebruiken voor exacte dichtheidsschatting, de spanning tussen detectie en correctie kan worden opgelost. De primaire betekenis ligt in het gating-mechanisme: door correcties uitsluitend naar de discrete tokenruimte te routeren wanneer de latente geometrie afwijkt, vermijdt de methode de "semantische instorting" veroorzaakt door ongedifferentieerde continue bewerking.

De auteurs positioneren hun werk als een stap naar betrouwbare LLM-implementatie in hoog-risicodomeinen, en bieden een principieel, single-pass onzekerheidssignaal dat niet afhankelijk is van de oververzekerdheid van tokenprobabiliteiten of de computatiekosten van multi-pass steekproeven. Ze erkennen beperkingen, waaronder de noodzaak van een kleine kalibratieset van gelabelde staten en de huidige evaluatiescope beperkt tot modellen tot 8B parameters, waardoor de vraag naar geometrische scheiding in grotere modellen open blijft.