Detecting LLM Hallucinations via Embedding Cluster Geometry: A Three-Type Taxonomy with Measurable Signatures

Probleemstelling

Grote Taalmodellen (LLM's) genereren vaak hallucinaties: tekst die vloeiend en zelfverzekerd klinkt, maar feitelijk onjuist is. Bestaande detectiemethoden opereren voornamelijk op het output-niveau (bijv. zelfconsistentiecontroles, logit-calibratie of retrieval-augmentatie). Deze benaderingen hebben een fundamentele beperking: ze analyseren het resultaat, niet de onderliggende geometrische structuur die het resultaat heeft geproduceerd. Er is behoefte aan een methode die de oorzaak van de hallucinatie in de embedding-ruimte identificeert, zodat verschillende faalmodi kunnen worden gedetecteerd op basis van hun meetbare geometrische "handtekeningen".

Methodologie

De auteur introduceert een taxonomie van hallucinaties die gebaseerd is op de geometrie van token-embedding-clusters. De studie omvat een analyse van 11 transformer-modellen (zowel encoder-architecturen zoals BERT, RoBERTa, ALBERT, als decoder-architecturen zoals GPT-2) met embedding-dimensies variërend van 128 tot 1024.

De methodologische aanpak bestaat uit drie hoofdblokken:

1. Geometrische Taxonomie (3 Types):
   De auteur classificeert hallucinaties op basis van de relatie tussen de embedding van een gegenereerd token en de omringende clusterstructuur:

   • Type 1 (Center-drift): Ontstaat bij zwakke context. Het generatieproces "drijft" naar het centroid van de embedding-ruimte (hoogfrequente, generieke tokens). Signatuur: Lage cluster-lidmaatschap en kleine embedding-norm.
   • Type 2 (Wrong-well convergence): Het model kiest zelfverzekerd een lokaal coherente maar contextueel verkeerde cluster. Signatuur: Hoge lokale cluster-lidmaatschap met discontinuïteiten in de generatietrajectorie.
   • Type 3 (Coverage gap): De query vereist semantische combinaties die niet in de training voorkomen. De token valt in een gebied zonder clusterstructuur. Signatuur: Zwak lidmaatschap in alle clusters en hoge variantie in lokale gelijkenis.

2. Drie Meetbare Geometrische Statistieken:
   Om de geldigheid van de taxonomie te valideren, introduceert de auteur drie statistieken:

   • $\alpha$ (Polarity coupling): Meet de sterkte van antoniem-polariteitsassen binnen clusters (of woorden met tegengestelde betekenissen binnen dezelfde cluster een duidelijke as vormen).
   • $\beta$ (Cluster cohesion): Meet of clusters compacter zijn dan de achtergrondverdeling (of tokens dichter bij hun eigen centroid zitten dan bij andere centroids).
   • $\lambda_r$ (Radial information gradient): Kwantificeert de niet-lineaire relatie tussen de embedding-norm (afstand tot de oorsprong) en de zelfinformatie (zelfinformatie van tokens, gebaseerd op frequentie).

3. Data-analyse:
   Er werd gebruikgemaakt van k-means clustering (k=40) op gefilterde embedding-matrices. De statistieken werden berekend en getest op significantie (o.a. via F-tests en AIC-vergelijkingen) over alle 11 modellen.

Belangrijkste Resultaten

• Universele Geometrische Eigenschappen:

  • Polariteitsstructuur ($\alpha$): Is universeel aanwezig (11/11 modellen hebben $\alpha > 0.5$).
  • Cluster-cohesie ($\beta$): Is universeel positief (11/11 modellen hebben $\beta > 0$), wat bevestigt dat echte clusters bestaan en geen artefacten van de clustering-algoritme zijn.
  • Radiale Informatiegradiënt ($\lambda_r$): Is significant in 9 van de 11 modellen ($p < 0.05$). Dit bevestigt dat de informatie-inhoud systematisch varieert met de afstand tot de oorsprong.

• Architectuur-specifieke Afwijkingen:
  Twee modellen (ALBERT en MiniLM) vertoonden geen significante $\lambda_r$. De auteur legt dit uit door hun architectuur:

  • ALBERT: Gebruikt gefactoriseerde embeddings (128D), wat leidt tot extreme compressie. De ruimte zit vol, waardoor de radiale variatie verloren gaat ten gunste van hoekige variatie.
  • MiniLM: Is agressief gedistilleerd, wat leidt tot extreme isotropie (de verdeling van variance is bijna uniform). Dit "plat" de radiale structuur, hoewel de hoekige structuur (polariteit) behouden blijft.

• Encoder vs. Decoder:
  Decoder-modellen (GPT-2) vertonen een significante maar zwakkere radiale gradiënt dan encoder-modellen (BERT), wat consistent is met hun trainingsdoel (volgende-token voorspelling) dat informatie meer uniform over hoekige dimensies verdeelt.

• Signatuur-variatie:
  De teken van $\lambda_r$ varieert per architectuur (meestal negatief, maar positief bij DeBERTa en RoBERTa-large), wat suggereert dat verschillende architecturen de relatie tussen norm en informatie op kwalitatief verschillende manieren organiseren.

Bijdragen

1. Taxonomie: Een operationeel onderscheidende taxonomie van drie hallucinatietypes gebaseerd op embedding-geometrie.
2. Diagnostics: Drie nieuwe, meetbare statistieken ($\alpha, \beta, \lambda_r$) die de geometrische prerequisites voor hallucinatiedetectie kwantificeren.
3. Architectuur-inzicht: Het inzicht dat geometrische eigenschappen universeel zijn, maar hun kwantitatieve handtekeningen afhankelijk zijn van de architectuur op voorspelbare manieren (bijv. compressie of distillatie).
4. Detectie-architectuur: Een voorgestelde tiered detectie-systeem dat gebruikmaakt van deze statistieken:
   • Tier 1: Lidmaatschapscontrole (Type 1).
   • Tier 2: Trajectorie-analyse (Type 2).
   • Tier 3: Dichtheidsanalyse (Type 3).

Betekenis en Conclusie

Dit werk verschuift de focus van "is dit een hallucinatie?" naar "wat voor geometrisch faalmechanisme heeft deze hallucinatie veroorzaakt?". De bevindingen hebben belangrijke implicaties:

• Voorspelbaarheid: Modellen met gecomprimeerde of isotrope embedding-ruimtes (zoals ALBERT en MiniLM) zijn voorspelbaar kwetsbaarder voor Type 1 hallucinaties (center-drift), omdat hun radiale waarschuwingssignaal is verzwakt.
• Detectie: Het is mogelijk om hallucinaties te detecteren zonder de output te lezen, puur door de geometrische positie van de token in de embedding-ruimte te analyseren.
• Toekomst: De studie biedt een kader voor het ontwikkelen van model-specifieke detectiedrempels en voorspelt dat grootschalige decoder-modellen specifieke kwetsbaarheidsprofielen zullen hebben die gerelateerd zijn aan hun radiale structuur.

De auteur concludeert dat deze geometrische benadering een essentiële aanvulling is op bestaande output-gebaseerde methoden en een nieuwe weg opent voor het begrijpen van de interne werking van LLM-hallucinatie.