Density Ridge Selective Prediction for LLM and VLM Hallucination Detection under Calibration Label Scarcity

Technische Samenvatting: Density Ridge Selective Prediction voor LLM en VLM Hallucinatie Detectie

Probleemstelling

Het artikel behandelt de uitdaging van hallucinatie detectie in Large Language Models (LLMs) en Vision-Language Models (VLMs) onder condities van kalibratie-label schaarste. Hoewel hallucinatie detectie steeds vaker wordt geformuleerd als een taak van selectieve predictie (waarbij een model onthoudt te antwoorden als de betrouwbaarheid laag is), kampen bestaande benaderingen met aanzienlijke beperkingen:

• Ongesuperviseerde sampling detectoren (bijv. Semantic Entropy, EigenScore) vermijden de noodzaak voor labels, maar vertonen vaak een plateau in de kwaliteit van detectie.
• Gesuperviseerde hidden-state probes (bijv. SAPLMA) bereiken sterke in-distributie prestaties, maar verslechteren scherp wanneer het aantal beschikbare kalibratie-labels laag is.

De auteurs stellen voor om een complementair signaal te exploiteren: de geometrie van de generatie-tijd hidden state trajecten. Zij postuleren dat herhaalde sampling bij een vaste query een multimodale distributie in de embedding space traceert, waarbij de modi verschillende responsstrategieën coderen. Recent werk suggereert dat de evolutie van de kromming van deze trajecten diagnostisch is voor de kwaliteit van redeneren.

Methodologie

De voorgestelde methode, Density Ridge Selective Prediction, herstelt de "respons-manifold" van een LLM als een dichtheidsrug (density ridge) van een Kernel Density Estimate (KDE) gebouwd op kinematische kenmerken.

1. Kinematische Feature Map:
   Voor elke gesamplede voltooiing extraheert het model een hidden-state traject ($H_{i,j}$) uit de laatste-laag, laatste-token staten. Een feature map $\phi$ projecteert deze hoogdimensionale trajecten naar een zesdimensionale ruimte ($\mathbb{R}^6$) met behulp van de volgende kinematische descriptoren:

   • Gemiddelde kromming ($K_n$) en piek kromming ($K_{max}$).
   • Verplaatsingslineariteit ($R^2$).
   • Gemiddelde en piek per stap verplaatsing ($\|\Delta h\|$, $\|v\|_{max}$).
   • Genormaliseerde argmax van kromming ($\tau^\star$).
     Deze kenmerken worden z-gescoord met behulp van trainingsstatistieken.

2. Rug Constructie:

   • De methode past een Gaussian KDE ($\hat{p}$) toe alleen op de subset van correcte trajecten ($\tilde{X}^+$).
   • Het berekent de gradiënt ($g$) en de Hessiaan ($\nabla^2 \log \hat{p}$) van de log-densiteit.
   • Een 1-D dichtheidsrug ($R_1$) wordt gedefinieerd als de verzameling punten waar de geprojecteerde gradiënt op de normale subspace nul is, en de bijbehorende eigenwaarde negatief is.
   • Subspace Constrained Mean Shift (SCMS) wordt gebruikt om punten iteratief te projecteren naar vaste punten (vertices $V = \{v_k\}$) op deze rug.
   • Intrinsic dimension verificatie (via TwoNN) bevestigt dat de rug 1-dimensionaal is ($r=1$).
   • Drie coördinaat varianten worden verkend om de rug te representeren: Global LTSA, Hastie–Stuetzle geodesic arclength, en een Stitched Local-Chart Atlas.

3. Scoring en OOD Interpretatie:

   • Voor een test query genereert het model $N$ trajecten, brengt deze in kaart in de 6-D feature space, en berekent de off-ridge afstand ($z_{off}$) als de minimale Euclidische afstand tot de dichtstbijzijnde rug vertex.
   • De uiteindelijke betrouwbaarheidsscore is de negatieve gemiddelde off-ridge afstand: $s(q) = -\frac{1}{N} \sum z_{off}$.
   • Omdat de rug uitsluitend is gefit op correcte data, worden incorrecte (gehallucineerde) generaties behandeld als Out-of-Distribution (OOD), ongeacht hun eigen densiteit, wat resulteert in grotere afstanden en lagere scores.

Belangrijkste Bijdragen

1. Respons-Manifold Detector: Een nieuwe detector die de LLM respons-manifold herstelt als een dichtheidsrug over gesuperviseerde, laagdimensionale traject-kromming kenmerken.
2. Label-Schaarste Evaluatie: Een rigoureuze evaluatie over negen modellen (tekst en visie) en zeven benchmarks (inclusief HaluEval-QA, TriviaQA, GSM8K, POPE, ScienceQA, A-OKVQA) met een bewust schaars kalibratieprotocol ($n_{cal}=200$ queries).
3. Ablatie Studies: Analyse die de bijdrage van de rug-geometrie isoleert over drie parameterisatie varianten (LTSA, Arclength, Atlas) en kernel configuraties, wat aantoont dat de rug-structuur, en niet de generieke embedding afstand, de detectie aanstuurt.

Experimentele Resultaten

De methode werd geëvalueerd tegenover Semantic Entropy, log-waarschijnlijkheid en diverse topologische/geometrische baselines (bijv. LID-MLE, Flow Matching, kNN).

• Prestatiewinst: De ridge-gebaseerde score presteerde consequent beter dan alle baselines in AUROC, met winsten van 5 tot 20 procentpunten over diverse model-dataset combinaties.
  • Voorbeeld: Op Idefics3/A-OKVQA verbeterde de AUROC van 0.795 (log-waarschijnlijkheid) naar 0.972 (Ridge LTSA Chart).
  • Voorbeeld: Op SmolVLM/ScienceQA steeg de AUROC van 0.790 naar 0.990 (Ridge Arclength).
• Foutmetrieken: De methode reduceerde gelijktijdig de AURC (Area Under the Risk-Curve) en AUGRC, wat wijst op een betere risicobeheersing bij het onthouden (abstaining).
• Stabiliteit: Terwijl non-ridge baselines (zoals Topology LID-MLE) in bepaalde multimodale settings degradeerden naar bijna toevalsniveau (AUROC ~0.47–0.51), behield de ridge methode een hoge prestatie.
• Quantisatie Robuustheid: De prestatiehiërarchie (Ridge > Log-Probability > Non-Ridge) bleef standhouden onder agressieve nf4 quantisatie, niet alleen in bf16 precisie.
• Complementariteit: Het geometrische signaal bleek complementair aan token-level betrouwbaarheid (log-waarschijnlijkheid), aangezien de ridge methode de AUROC verbeterde zelfs op datasets waar log-waarschijnlijkheid al sterk was (bijv. HaluEval-QA).

Betekenis en Claims

Het artikel claimt dat het primaire onderscheidende kenmerk tussen getrouwe en gehallucineerde generaties niet de ruwe locatie van de hidden states is, maar de vorm van de traject-feature space. Specifiek:

• Geometrie boven Locatie: Generieke embedding afstanden (kNN, PCA) zijn onvoldoende; de herstelde 1-D manifold dichtheidsrug is het cruciale signaal dat voor detectie wordt gebruikt.
• Robuustheid tegen Schaarste: De methode demonstreert "getemde degradatie" onder label schaarste, waarbij sterke prestaties worden behaald waar gesuperviseerde probes doorgaans falen.
• Beperkingen: De auteurs merken op dat de head-to-head vergelijking beperkt is tot cellen die gemeenschappelijk zijn voor alle detectoren. Ze erkennen ook dat Semantic Entropy kan degenereren naar toevalsprestaties onder data schaarste en dat de gesuperviseerde projectie front-end zowel beide-klassen labels vereist tijdens de fit fase. Toekomstig werk wordt gesuggereerd om echte per-as kernel ablatiestudies en het tillen van distribution-free conformal garanties naar de ridge score te omvatten.