Technische Samenvatting: TRACE (Trajectcorrectie op basis van Cross-layer Bewijs voor Hallucinatievermindering)

1. Probleemstelling

Ondanks vooruitgang in schaal en post-training uitlijning, blijven Large Language Models (LLM's) zelfverzekerde feitelijke fouten produceren, oftewel hallucinaties. Bestaande correctiestrategieën vallen over het algemeen in drie categorieën:

1. Externe Bewijslast: Retrieval-augmented generation (RAG) en verificatiesystemen die vertrouwen op externe data.
2. Actiesturing: Methoden zoals Inference-Time Intervention (ITI) die acties sturen langs vaste "waarheidsgetrouwe" richtingen.
3. Lagencontrast: Decodestrategieën (bijv. DoLa, SLED) die signalen uit tussenliggende lagen vergelijken of aggregeren met de finale laag.

Het artikel betoogt dat deze benaderingen structureel onvolledig zijn omdat ze uitgaan van een uniforme relatie tussen laagdiepte en waarheidsgetrouwheid. Empirische observatie suggereert dat tussenliggende lagen noch uniform waarheidsgetrouwer zijn, noch uniform minder betrouwbaar dan finale lagen. In plaats daarvan varieert de evolutie van kandidaatondersteuning over de netwerkdiepte aanzienlijk:

• Late-Corrigeerbaar: Waarheidsgetrouw ondersteuning is intern aanwezig maar wordt onderdrukt door finale lagen.
• Vroeg-Betrouwbaar: Waarheidsgetrouw ondersteuning is het sterkst in vroege lagen maar wordt door latere lagen erodeerd.
• Multi-directioneel: Meerdere concurrerende kandidaten blijven actief over de diepte, wat niet-scalar correcties vereist.

Huidige vaste interventies falen omdat ze niet kunnen aanpassen aan deze variërende "kandidaattrajecten". Een methode die uitgaat van een enkele getekende scalair correctie is ontoereikend voor gevallen waar de competitie echt multi-directioneel is.

2. Methodologie: TRACE

TRACE is een deterministisch, trainingsvrij, inferentie-tijd algoritme dat hallucinaties corrigeert door de juiste correctieoperator direct af te leiden uit het interne cross-layer kandidaattraject van het model. Het vereist geen labels, retrieval, pretraining, finetuning of per-model kalibratie.

Kerncomponenten

De methode vertrouwt op twee structurele grootheden:

1. Item-zijde: Cross-layer Kandidaattraject $S(x)$:

   • Gecreëerd door de residustroom op elke laag te lezen via de eigen output-head van het model (logit-lens constructie).
   • Vertegenwoordigt de evolutie van lengte-genormaliseerde log-kansen voor een set kandidaat-volledigingen over de diepte.
   • Hieruit wordt de Effectieve Trajectdimensie ($d_{eff}$) berekend. Deze metriek (de participatieverhouding van de eigenwaarden van de Gram-matrix van het traject) bepaalt of de kandidaatcompetitie effectief één-dimensionaal (rank-1) of multi-dimensionaal is.

2. Model-zijde: Gewichten-Alleen Invariant $I(M)$:

   • Een dimensieloze verhouding die één keer wordt berekend uit de gewichtstensors van het model (specifiek rij-norm statistieken van vroege/midden key/value-projecties versus late output-projecties en finale norm).
   • $I(M)$ karakteriseert of de architectuur van het model de neiging heeft om bewijs uit late lagen te versterken of af te wijken van betrouwbare vroege staten.

Correctieregimes en Operatoren

Op basis van $d_{eff}$ en $I(M)$ selecteert TRACE dynamisch één van drie correctieoperatoren:

1. Multi-directioneel Regime ($d_{eff} > \tau_{dim}$):

   • Voorwaarde: De kandidaatcompetitie beslaat meerdere onafhankelijke richtingen (rank > 1). Scalar mengsels zijn wiskundig ontoereikend om deze gevallen te corrigeren.
   • Operator: Kandidaatruimte Correctie. TRACE identificeert de laag $\ell^*$ met de scherpste kandidaatranking (maximaliseren van de marge tussen de top-twee ten opzichte van entropie) en gebruikt de volledige log-kansverdeling van die laag als correctie.
   • Gating: Deze override wordt alleen toegepast als de geselecteerde laag significant scherper is dan de finale laag en de finale laag voldoende onzeker is.

2. Scalar Regime ($d_{eff} \le \tau_{dim}$):

   • Voorwaarde: De competitie stort in tot één enkele getekende as. De correctie reduceert tot een scalar mengsel van de score van de finale laag $b(x)$ en een traject-afgeleide score $t(x)$.
   • Sub-vertakking via $I(M)$:
     • Getekende Menging ($I(M) > \tau_I$): Als de late lagen van het model betrouwbaar zijn, berekent TRACE een tweede weergave $t(x)$ door het traject opnieuw te lezen op cross-diepte coherentie (helling, sprong, kromming van token-ondersteuning). Vervolgens mengt het $b(x)$ en $t(x)$ met een getekende scalar $\lambda$ bepaald door of het traject de basis versterkt of tegenspreekt.
     • Vroegste-Staat Herstel ($I(M) \le \tau_I$): Als de late lagen van het model onbetrouwbaar zijn (gevoelig voor drift), negeert TRACE de trajectsamenvatting en valt terug op de score van de vroegste laag $s_0(x)$, maar alleen als het vertrouwen van de finale laag laag is (onder een natuurlijk vloer).

Algoritme Flow

1. Bereken $S(x)$ en $b(x)$ vanuit een enkele kandidaat-geconditioneerde forward pass.
2. Bereken $d_{eff}(x)$.
3. Indien Multi-directioneel: Selecteer de beslissende laag $\ell^*$, extraher de verdeling en pas poorten toe. Als de poorten passeren, retourneer de argmax van de beslissende laag; anders retourneer de basis argmax.
4. Indien Scalar: Bereken $I(M)$.
   • Als $I(M)$ hoog is: Bereken $t(x)$, bepaal het mengteken en retourneer het gemengde argmax.
   • Als $I(M)$ laag is: Controleer het vertrouwen van de finale laag; indien laag, retourneer de argmax van de vroegste laag; anders retourneer de basis.

3. Belangrijkste Bijdragen

1. Traject-niveau Formulering: Identificeert het cross-layer kandidaattraject als het primaire object voor correctie tijdens inferentie, vervangend voor vaste proeflagen en vaste sturingsrichtingen.
2. Structurele Theorie van Correctie: Bewijst dat correctieregimes distinct zijn: rank-één trajecten staan scalar correctie toe, terwijl multi-directionele trajecten noodzaken tot een klasse van kandidaatruimte-operatoren.
3. Universeel Algoritme (TRACE): Installeert deze theorie in een deterministisch, trainingsvrij algoritme dat zijn correctieoperator afleidt uit de trajectstructuur en modelgewichten.
4. Uitgebreide Evaluatie: Demonstreert dat één enkele, bevroren hyperparameterinstelling de feitelijke juistheid verbetert over 15 modellen, 8 families en 3 benchmarks zonder regressies.

4. Experimentele Resultaten

De methode werd geëvalueerd op TruthfulQA, HaluEval-QA en HaluEval-Sum over 15 vooraf getrainde modellen (inclusief LLaMA, Gemma, Qwen, GPT-OSS, Mixtral, Phi, Ministral en DeepSeek).

• Prestatie: TRACE verbeterde elke enkele evaluatiecel (45 totale combinaties van model en benchmark).
  • Gemiddelde Winst: +12,26 MC1 punten en +8,65 MC2-stijl punten.
  • Maximale Winst: +47,20 MC1 en +43,38 MC2-stijl punten (geobserveerd op Gemma-3-1B).
  • Regressies: 0/45.
• Robuustheid: De methode gebruikte één enkele bevroren hyperparameter set $\Theta$ voor alle modellen, zonder per-model tuning.
• Overhead: De muurklokkost neemt toe met een factor 1,33x tot 3,42x (gemiddeld 2,27x) ten opzichte van een baseline kandidaat-geconditioneerde pass, voornamelijk door de extra laagsgewijze uitlezing.

5. Betekenis en Claims

Het artikel beweert dat de forward-berekening van vooraf getrainde LLM's voldoende gestructureerd bewijs bevat om één enkel, universeel hallucinatieverminderend algoritme te ondersteunen, mits de interventie wordt geïnduceerd door het traject zelf in plaats van opgelegd door vaste heuristieken.

• Structurele Noodzaak: Het werk toont aan dat een scalar-only correctiestrategie wiskundig onvolledig is voor multi-directionele kandidaatruimtes, wat noodzaken tot de kandidaatruimte-vertakking van TRACE.
• Modelaanpassing: Het gebruik van de gewichten-alleen invariant $I(M)$ stelt het algoritme in staat om zich aan te passen aan architecturale verschillen (bijv. of een model drift of late versterking vertoont) zonder hertraining.
• Beperkingen: De auteurs erkennen dat TRACE momenteel beperkt is tot Engels, kandidaat-beperkte feitelijke juistheid (MC1/MC2 protocollen). Het werkt op voltooide forward passes in plaats van iteratieve langform-generatie en adresseert niet de oorzaken van hallucinaties tijdens het trainen. Het introduceert ook inferentielatentie door de extra uitlezing.

Het artikel concludeert dat het falen van eerdere vaste-methoden geen tuningkwestie is, maar een mismatch tussen de correctieklasse en de trajectstructuur. TRACE lost dit op door het juiste correctieregime af te leiden uit de data zelf.