Technische Samenvatting: Entropieverdeling als Vingerafdruk voor Hallucinaties in Generatieve Modellen

Probleemstelling

Grote Taalmodellen (LLM's) genereren frequent feitelijk onjuiste output, een fenomeen bekend als hallucinatie, wat vertrouwen ondermijnt en de inzet in hoog-risico domeinen beperkt. Bestaande detectiemethoden lijden aan aanzienlijke beperkingen:

• Op consistentie gebaseerde methoden (bijv. Semantische Entropie, SelfCheckGPT) vereisen meerdere forward passes ($K \ge 5$), wat hoge rekenkosten met zich meebrengt.
• Methoden gebaseerd op interne toestanden vereisen toegang tot verborgen representaties of attentiematrices, wat onmogelijk is bij black-box API-modellen.
• Heuristieken voor één pass (bijv. Perplexiteit, Lengte-genormaliseerde Entropie) reduceren het volledige entropiesignaal tot een enkele scalair samenvatting, waardoor rijke distributie-informatie wordt weggegooid die mogelijk cruciaal is voor detectie.

De auteurs stellen dat de verdeling van token-niveau entropieën, in plaats van alleen hun gemiddelde, fungeert als een unieke "vingerafdruk" van hallucinatie.

Methodologie: Gekalibreerde Entropiescore (CES)

Het artikel stelt een raamwerk voor dat hallucinatie-detectie formaliseert als een statistische hypothesetoets, waarbij slechts één forward pass en black-box toegang tot token-logits nodig zijn.

1. Theoretische Grondslag

De kernhypothese is dat wanneer een model hallucineert, de verdeling van token-entropieën afwijkt van de verdeling die wordt waargenomen tijdens betrouwbare generaties. Deze afwijking is niet louter een verschuiving in het gemiddelde; de vorm en het staartgedrag van de verdeling dragen onafhankelijk signaal.

• Nulhypothese ($H_0$): De gegenereerde entropie-sequentie is consistent met een referentie Cumulatieve Distributiefunctie (CDF), $F_0$, afgeleid van niet-hallucinerende data.
• Alternatieve Hypothese ($H_1$): De sequentie is inconsistent met $F_0$, wat hallucinatie aangeeft.

2. De Gekalibreerde Entropiescore (CES)

CES is een lichtgewicht algoritme dat twee samenvattingsstatistieken van de entropie-sequentie combineert:

1. Gemiddelde Entropie ($\bar{h}$): Vangt de centrale neiging.
2. Maximale Entropie ($h_{max}$): Vangt staartanomalieën (pieken in hoge onzekerheid).

De score wordt berekend als het geometrisch gemiddelde van de referentie CDF-waarden op deze punten:
$$\text{CES}(h) = \sqrt{\hat{F}_0(\bar{h}) \cdot \hat{F}_0(h_{max})}$$
waarbij $\hat{F}_0$ de empirische CDF is die offline is geschat vanuit een kalibratieset. Een generatie wordt gemarkeerd als hallucinatie als de CES een gekalibreerde drempelwaarde overschrijdt.

3. Kalibratie en Robuustheid

• Supervised Kalibratie: Gebruikt een orakel (bijv. menselijk expert of LLM-judge) om kalibratie-data te filteren, waarbij $\hat{F}_0$ strikt wordt geconstrueerd uit betrouwbare instanties.
• Onsupervised Variant: Wanneer orakel-labels niet beschikbaar zijn, schat de methode $F_0$ direct vanuit alle kalibratiesteekproeven. Theoretische analyse (Propositie 1) bewijst dat als het vervuilingspercentage van hallucinerende steekproeven laag is, de geschatte CDF robuust blijft.
• Theoretische Waarborgen: De auteurs generaliseren de Dvoretzky–Kiefer–Wolfowitz (DKW)-ongelijkheid naar vectoren met willekeurige lengte om waarborgen voor kalibratie met eindige steekproeven te bieden. Zij bewijzen verder dat de rates van vals-positieven en vals-negatieven van de CES-toets exponentieel afnemen met de lengte van de generatie.

Belangrijkste Bijdragen

1. Entropieverdelingen als Vingerafdrukken: Het artikel levert empirisch en theoretisch bewijs dat de vorm van de token-entropieverdeling (bovenop het gemiddelde) hallucinerende generaties onderscheidt van betrouwbare generaties. Een synthetisch experiment met een verschuiving in het gemiddelde bevestigt dat vormverschillen aanhouden zelfs na het verwijderen van locatieverschuivingen.
2. Statistisch Geprincipeerd Raamwerk: CES formaliseert detectie als een hypothesetoets, waarbij de definitie van hallucinatie (toegewezen aan een orakel) wordt gescheiden van het detectiemechanisme. Dit maakt de methode agnostisch ten opzichte van het specifieke model, de taak of de hallucinatie-taxonomie.
3. Theoretische Waarborgen: Het werk vestigt exponentiële convergentie van foutpercentages met de lengte van de generatie en biedt grenzen voor eindige steekproeven via een nieuwe DKW-ongelijkheid voor vectoren met willekeurige lengte.
4. Uitgebreide Empirische Validatie: CES werd geëvalueerd over 8 QA-benchmarks en 10 modellen (variërend van open-source Llama/Falcon/Mistral-families tot propriëtaire GPT-4-varianten).

Experimentele Resultaten

• Prestatie: Over 80 model-dataset-experimenten behaalde CES (onsupervised) een gemiddelde rang van 6,29 onder 17 methoden, waardoor het in de top statistische groep terechtkomt naast complexe multi-steekproefmethoden zoals Kernel Language Entropy (KLE).
• Vergelijking met Baselines:
  • CES presteerde significant beter dan baselines voor één pass zoals Perplexiteit en Lengte-genormaliseerde Entropie.
  • CES behaalde een winpercentage van 66,8% in paarwijze vergelijkingen tegen 16 benchmarkmethoden.
  • Opmerkelijk is dat CES (één pass, black-box) statistisch niet te onderscheiden was van multi-steekproefmethoden die $K \ge 5$ forward passes vereisen, waardoor de kloof tussen lichtgewicht en dure detectie effectief wordt gedicht.
• Robuustheid: De methode toonde veerkracht tegen vervuiling in de kalibratie (tot 50% hallucinerende tokens in de referentieset) en ruis in orakel-labels, waarbij de prestaties stabiel bleven zelfs wanneer 50% van de kalibratielabels was omgedraaid.
• API-Generalisatie: CES slaagde erin om over te gaan naar API-only modellen (GPT-4-familie) met uitsluitend top-k log-probabiliteiten, waarbij vergelijkbare prestaties werden behaald als bij open-weight modellen.

Betekenis en Claims

Het artikel claimt dat CES een aanzienlijke vooruitgang vertegenwoordigt door formele foutwaarborgen (Type I- en Type II-foutgrenzen) te bieden die ontbreken bij bestaande heuristieken, terwijl het de rekenefficiëntie van één forward pass behoudt.

• Praktische Implementatie: Door alleen black-box logit-toegang en één pass te vereisen, is CES geschikt voor real-time, grootschalige implementatie in hoog-risico settings waar multi-pass-methoden te duur zijn en methoden gebaseerd op interne toestanden ontoegankelijk.
• Theoretisch Inzicht: Het werk verschuift het paradigma van het zien van entropie als een scalair onzekerheidsmaatstaf naar het behandelen ervan als een distributie-vingerafdruk, en toont aan dat de "staart" van de entropieverdeling een kritiek signaal is voor hallucinatie.
• Beperkingen: De auteurs erkennen dat de kracht van CES afneemt voor zeer korte generaties ($m < 10$ tokens) vanwege onvoldoende steekproeven voor distributietests. Bovendien, als een model is getraind op onjuiste data (systematische hallucinatie), kan de entropieverdeling niet afwijken, waardoor de toets machteloos wordt. De methode is ook afhankelijk van toegang tot next-token-probabiliteiten, wat sommige API-aanbieders kunnen beperken.

Kortom, betoogt het artikel dat CES de sterkste detectieprestaties biedt die haalbaar zijn onder minimal-access-beperkingen, en een rigoureuze, statistisch onderbouwde alternatief biedt voor zowel heuristische methoden voor één pass als rekenkundig dure multi-steekproefbenaderingen.