Technische Samenvatting: Goedkope Black-Box Detectie van Hallucinaties bij GLLM's via Voorspelling van Dynamische Systemen

Probleemstelling

Grote Taalmodellen (LLM's) genereren regelmatig vloeiende maar feitelijk incorrecte inhoud, een fenomeen dat bekendstaat als hallucinatie. Dit probleem vormt een kritieke barrière voor het inzetten van LLM's in hoog-risicodomeinen zoals gezondheidszorg, recht en financiën. Hoewel hallucinatie theoretisch onvermijdelijk is vanwege de afweging tussen eindige trainingsdata en open-ended generatie, lopen huidige detectiemethoden tegen aanzienlijke beperkingen aan:

• White-box/Gray-box methoden: Vereisen toegang tot interne modelstaten (verborgen staten, attentiekaarten) of token-niveau waarschijnlijkheden, die niet beschikbaar zijn voor commerciële, gesloten-bronmodellen die via API's worden benaderd.
• Bestaande Black-box methoden: Vertrouwen doorgaans op rekenkundig dure steekproefgebaseerde consistentiecontroles (bijv. SelfCheckGPT) of externe kennisopvraging. Deze benaderingen brengen hoge API-kosten, latentie en resource- overhead met zich mee, waardoor ze onpraktisch zijn voor real-time toepassingen met één steekproef.

Er is een kritieke behoefte aan een zelfstandig, goedkoop detectiekader dat uitsluitend werkt op gegenereerde tekst zonder externe gronding of meerdere steekproefpasses te vereisen.

Methodologie

De auteurs stellen voor om de LLM te behandelen als een black-box dynamisch systeem (DS). In plaats van tokens te analyseren als onafhankelijke eenheden, modelleert de methode de temporele evolutie van token-embeddings als waarneembare realisaties van de latente staten-ruimte-dynamiek van het model.

Kernkader

1. Formulering van het Dynamische Systeem:
   De LLM-uitvoer wordt gemodelleerd als een discreet-tijd niet-lineair systeem:
   $$x_{k+1} = F(x_k), \quad y_k = H(x_k)$$
   Waarbij $x_k$ interne staten vertegenwoordigt en $y_k$ de waarneembare token-embeddings. De auteurs maken gebruik van Koopman-operatortheorie om de dynamiek van deze waarneembaren te lineariseren, waardoor voorspelling van toekomstige staten op basis van eerdere waarnemingen mogelijk wordt.

2. Fase 1: Data-gedreven Dynamische Systeem Inference (Offline Fitting):

   • De methode maakt gebruik van een kleine set gelabelde data die zowel feitelijke als gehallucineerde antwoorden bevat.
   • Token-embeddings worden "opgetild" naar een hoger-dimensionale ruimte met behulp van Extended Dynamic Mode Decomposition (Extended DMD).
   • Twee distincte lineaire dynamische modellen worden afgeleid:
     • $A_c$: De transitie-operator voor feitelijke (correcte) antwoorden.
     • $A_h$: De transitie-operator voor gehallucineerde antwoorden.
   • De hypothese is dat feitelijke en gehallucineerde antwoorden evolueren op distincte manifolds ($M_c$ en $M_h$) binnen de embedding-ruimte, wat resulteert in verschillende Koopman-operator-schattingen.

3. Fase 2: Classificatie via Differentiële Residuscore (Inference):

   • Voor een nieuwe, onbekende LLM-antwoord berekent de methode de voorspelfout (residu) voor de trajectorie van token-embeddings met behulp van beide modellen ($A_c$ en $A_h$).
   • Een differentiële residuscore ($\Delta E$) wordt berekend op het niveau van het antwoord:
     $$\Delta E = \sqrt{\sum \epsilon_{h,j}^2} - \sqrt{\sum \epsilon_{c,j}^2}$$
     Waarbij $\epsilon$ de voorspelfout vertegenwoordigt.
   • Logica: Als het antwoord gehallucineerd is, zou het gehallucineerde-fitted model ($A_h$) het traject nauwkeuriger moeten voorspellen dan het feitelijke model ($A_c$), wat resulteert in een negatieve $\Delta E$. Omgekeerd levert feitelijke tekst een positieve $\Delta E$ op.
   • Een beslissingsdrempel $\eta$ wordt toegepast op $\Delta E$ om de output te classificeren als feitelijk (0) of gehallucineerd (1).

4. Voorkeursbewuste Kalibratie:
   Om variërende gebruikersvereisten te accommoderen (bijv. streng versus tolerant ten opzichte van kleine onnauwkeurigheden), introduceren de auteurs een kalibratiemechanisme. Met behulp van een kleine set door de gebruiker geannoteerde demonstraties wordt de drempel $\eta$ geoptimaliseerd om overeen te komen met specifieke gevoeligheidsvoorkeuren, waardoor de detector zich kan aanpassen aan individuele use cases.

Belangrijkste Bijdragen

1. Nieuw Dynamisch Perspectief: Het artikel is het eerste dat LLM-outputs behandelt als black-box dynamische systemen waarbij feitelijke en gehallucineerde antwoorden evolueren op distincte manifolds in de staten-ruimte.
2. Rekenkundig Efficiënte Single-Pass Detectie: In tegenstelling tot retrieval-gebaseerde of multi-sample methoden, identificeert deze benadering hallucinaties in een single-sample pass zonder token-waarschijnlijkheden, externe kennisbanken of meerdere forward passes te vereisen.
3. State-of-the-Art Prestaties: De methode bereikt concurrerende of superieure prestaties vergeleken met resource-intensieve baselines over drie diverse benchmarks (WikiBio, HaluEval, FELM).
4. Gebruikersgerichte Kalibratie: De introductie van een mechanisme om classificatiedrempels af te stemmen op door de gebruiker gedefinieerde strengheidsniveaus, waardoor gepersonaliseerde detectie mogelijk wordt.

Experimentele Resultaten

De methode werd geëvalueerd op drie datasets: WikiBio (biografieën), HaluEval (samenvatting) en FELM (redenering in Wiskunde, Wetenschap, Logica).

• Prestaties:
  • Op de HaluEval samenvattingstaak bereikte de methode met het Llama-3 embedding-model 99,3% nauwkeurigheid, aanzienlijk beter dan zero-shot detectoren en andere black-box baselines.
  • Op WikiBio bereikte de methode een AUC-PR van 85,3 (met Llama-3) voor het detecteren van niet-feitelijke zinnen, beter dan SelfCheckGPT (81,96).
  • Op FELM bereikte de Llama-3-variant een gebalanceerde nauwkeurigheid van 68,4, wat gelijkstaat aan of beter is dan GPT-4 en andere sterke baselines.
• Sequentielengte: De prestaties verbeteren met langere token-sequenties, aangezien langere trajecten rijker semantische informatie bieden. Kleinere embedding-modellen profiteren het meest van verhoogde sequentielengtes, terwijl grotere modellen (zoals Llama-3) hoge prestaties behouden zelfs op kortere sequenties.
• Cross-Embedding Generalisatie: De studie observeerde verrassende overdraagbaarheid; dynamische modellen die zijn gefit op één embedding-ruimte (bijv. Qwen3) konden gedeeltelijk worden gegeneraliseerd om antwoorden te evalueren die zijn ingebed in een andere ruimte (bijv. Llama-3), wat wijst op universele dynamische handtekeningen van factualiteit over verschillende embedding-manifolds.
• Efficiëntie: De benadering vermijdt de latentie en kosten van externe retrieval of meerdere steekproeven, en biedt een low-overhead oplossing die geschikt is voor real-time toepassingen.

Betekenis en Claims

De auteurs claimen dat dit werk een goedkoop, schaalbaar alternatief biedt voor bestaande hallucinatie-detectiemethoden. Door het probleem te herformuleren door de lens van dynamische systemen, tonen ze aan dat de temporele evolutie van token-embeddings inherent de onderscheiding tussen feitelijke en gehallucineerde inhoud codeert.

Het artikel benadrukt dat hun methode:

• Geen toegang vereist tot modelinterne details (echte black-box).
• Geen externe kennisopvraging vereist.
• Geen meerdere steekproefpasses vereist.
• State-of-the-art resultaten bereikt met verminderde resource- overhead.

De auteurs erkennen beperkingen, met de opmerking dat hoewel de methode hallucinaties detecteert, deze geen externe feitelijke correcties biedt of een strategie voor het mitigeren van hallucinaties (bijv. via prompt-modificatie). Ze positioneren dit werk echter als een fundamentele stap naar zelfstandige, autonome detectiekaders die noodzakelijk zijn voor de betrouwbare inzet van LLM's in kritieke domeinen.