Technische Samenvatting: Betrouwbaarheid schaalt inversief

Probleemstelling

De heersende opvatting over hallucinaties in Large Language Models (LLM's) beschouwt dit als een "kennisgat"—een tekort aan informatie dat door schaling, retrieval of extra data kan worden opgevuld. Dit artikel daagt die visie uit en stelt dat, hoewel schaling de initiële kennis verbetert (het verminderen van het "kennisgat"), het tegelijkertijd de betrouwbaarheid ondermijnt door een afzonderlijke foutmodus te versterken: autoregressief risico.

Het kernprobleem is dat naarmate modellen schalen, ze niet louter nauwkeuriger worden; ze worden ook gevoeliger voor een specifiek type cumulatieve fout. Wanneer een model zich vastlegt op een token met een lage waarschijnlijkheid die niet door de context wordt ondersteund (een fabricatie), conditioneert dit de daaropvolgende generaties op die fout. Dit proces zet transiënte steekproefvariantie om in persistente bias. Cruciaal is dat deze foutmodus structureel onzichtbaar is voor de eigen zelfmonitoringsmechanismen van het model, die vertrouwen op de interne waarschijnlijkheidsverdeling van het model ($p_M$) in plaats van op een externe orakel.

Methodologie

De auteurs introduceren een theoretisch kader gebaseerd op een disagreement variabele ($\delta$) gedefinieerd als de log-likelihood ratio tussen de distributie van het model ($p_M$) en een sterker, evensoortig orakel ($p_O$):
$$\delta_t(x) = \log p_M(x | y_{<t}) - \log p_O(x | y_{<t})$$

De tweede moment van deze variabele, $E[\delta^2]$, wordt ontleed in twee afzonderlijke componenten:

1. Bias ($Bias^2$): De gekwadrateerde gemiddelde waarde, $KL(p_M \| p_O)^2$, die de systematische kloof tussen het model en het orakel vertegenwoordigt.
2. Risico ($Var[\delta]$): De variantie van de onenigheid (disagreement), die de spreiding weergeeft van hoe het orakel kandidaten weegt die het model als valide beschouwt.

Het artikel maakt gebruik van drie primaire experimentele benaderingen over meerdere modelfamilies (Qwen3, OLMo-3, Llama-3) en schalen (0.6B tot 32B):

• Schaalanalyse: Het meten van het "kennisgat" (initiële hallucinatiepercentage) versus "kennisdegradatie" (de snelheid waarmee hallucinaties toenemen over de lengte van een respons) met behulp van FActScore en LongFact++ benchmarks.
• Onset Dynamics: Het analyseren van het temporele gedrag van $\delta$, de momenten ervan, en de ervaren onzekerheid van het model ($H(p_M)$) direct volgend op het begin van een fabricatie.
• Causale Interventie (In Silico Knockout): Het implementeren van een "risicocontractie"-mechanisme. Op stappen waar het model divergeert van het orakel, wordt de next-token distributie van het model aangepast om de variantie van $\delta$ te verminderen, terwijl de gemiddelde waarde (KL-divergentie) strikt behouden blijft. Dit isoleert het causale effect van risico van bias.

Belangrijkste Bijdragen

1. De Decompositie van Fout

Het artikel stelt vast dat hallucinatie niet uitsluitend een functie is van het kennisgat (bias). Het identificeert Risico ($Var[\delta]$) als een dominante, afzonderlijke foutterm. Terwijl schaling de bias vermindert (het model komt gemiddeld dichter bij het orakel), faalt het in het verminderen van het risico (de spreiding van de onenigheid), wat in feite een groter deel van de totale fout vormt naarmate de modellen groeien.

2. De Persistentie-asymmetrie

Een cruciale bevinding is de divergentie tussen "ervaren onzekerheid" en "orakel-gerefereerd risico" na een fabricatie:

• Ervaren Onzekerheid ($H(p_M)$): De interne onzekerheid van het model piekt op het moment van de fabricatie, maar ontspant snel (binnen ~0s.3 tokens) naarmate de generatie vloeiender wordt.
• Orakel-gerefereerd Risico ($Var[\delta]$): Het risico geassocieerd met de gecommitteerde fout houdt aanzienlijk langer aan (3.5–5.0 tokens).
  Dit creëert een regime van "zelfverzekerd maar precair", waarin het model zich zeker voelt maar statistisch gezien afwijkt van de waarheid, een staat die zelfmonitoringsdetectoren niet kunnen detecteren omdat zij enkel $H(p_M)$ lezen.

3. Autoregressieve Conversie en Sneeuwbal-effect

Het artikel demonstreert dat autoregressie fungeert als een machine die deze persistente risico's omzet in een vaste bias. Zodra een model een niet-ondersteund token selecteert, stort het risico in tot een vaste kloof die door alle daaropvolgende tokens wordt overgenomen. Dit leidt tot fout-cumulatie: het relatieve risico van een daaropvolgende fabricatie neemt monotoon toe met de schaal (van 1.08× naar 1.71×), wat betekent dat grotere modellen eerder geneigd zijn om hallucinaties aan elkaar te ketenen.

4. Structurele Blindheid van Zelfmonitoring

Detectoren gebaseerd op de distributie van het model alleen ($p_M$), zoals Semantic Entropy of SelfCheckGPT, zijn structureel blind voor dit risicoregieme. Het artikel toont aan dat deze detectoren aanzienlijk minder vaak afgaan (ongeveer 30% minder) op de "brug"-tokens tussen fabricaties door, ondanks dat deze tokens bijna 4× meer hallucinaties bevatten dan de onset-tokens. De detectoren missen de "precaire" tak omdat de interne onzekerheid van het model al is ontspannen.

Belangrijkste Resultaten

• Inverse Schaling van Betrouwbaarheid: Over verschillende modelfamilies heen vermindert schaling het initiële kennisgat met 5.7–7.0×, maar verhoogt het de kennisdegradatie (de snelheid van foutaccumulatie) met 11–39×. Capaciteit en betrouwbaarheid blijken verschillende schalingsassen te zijn.
• Dominantie van Risico: Naarmate modellen schalen, neemt het aandeel van de fout toegeschreven aan risico (variantie) toe van 31% naar 49% van de totale gekwadrateerde fout. De staart van de disagreement-distributie wordt ook zwaarder (excess kurtosis stijgt van 8.9 naar 33.0).
• Causale Reductie van Hallucinatie: Door de risicocontractie-interventie toe te passen (het reduceren van variantie terwijl de bias constant blijft), hebben de auteurs de web-geverifieerde hallucinaties over drie modelfamilies causaal verminderd met 35–74%. Dit bevestigt dat de cumulerende grootheid variantie is, en niet kennis.
• Detector-falen: Semantic entropy detectoren bleken aanzienlijk minder gevoelig voor het "brug"-regime (de staat tussen fabricaties) vergeleken met de onset, met statistische significantie ($p < 10^{-16}$).

Betekenis en Claims

Het artikel claimt het begrip van LLM-hallucinatie te herdefiniëren van een statisch kennisgebrek naar een dynamisch, zelf-perpetuerend risicoregieme. De primaire betekenis ligt in:

1. Mechanistische Causaliteit: Het leveren van het eerste on-policy, causale bewijs dat het contracteren van de variantie van de model-orakel kloof (zonder de gemiddelde waarde te veranderen) de hallucinatie direct vermindert, wat bewijst dat "risico" de drijfveer is van cumulerende fouten.
2. De Limieten van Schaling: Het aantonen dat het simpelweg schalen van modellen de betrouwbaarheid niet oplost; sterker nog, grotere modellen kunnen juist gevoeliger zijn voor specifieke soorten cumulerende fouten door de aanscherping van de risicotail.
3. De Blinde Vlek: Het benadrukken dat huidige zelfmonitorings-technieken fundamenteel beperkt zijn omdat ze de risicovariabele ($Var[\delta]$) niet kunnen "zien", wat precies het mechanisme is dat downstream fabricaties aanstuurt.

De auteurs concluderen dat betrouwbaarheid een aparte schalingsas is die nieuwe interventies vereist gericht op de variantie van de commitment van het model, in plaats van enkel het verbeteren van de gemiddelde kennis of het vertrouwen op zelfgerapporteerde onzekerheid. De dominante foutmodus wordt beschreven als "onzichtbaar voor het model zelf", wat de noodzaak voor externe of white-box signalen voor effectieve mitigatie onderstreept.