Precision, Physics, and Confabulation: Softmax Temperature as an Analog of Dopaminergic Precision-Weighting in LLM Hallucination

Technische Samenvatting: Precisie, Fysica en Confabulatie

Probleemstelling
Large Language Models (LLMs) produceren regelmatig "hallucinaties"—gefabriceerde feiten die met dezelfde vloeiende, zelfverzekerde toon worden gepresenteerd als correcte antwoorden. Dit fenomeen weerspiegelt een kernkenmerk van psychose zoals beschreven in de computationele psychiatrie: aberrante precisie-weging. Onder het Free Energy Principle en predictive coding-kaders is perceptie een Bayesiaans inferentieproces waarbij de hersenen voorkennis (priors) combineren met sensorische bewijslast, gewogen door hun respectieve precisies (inverse variantie). Psychose wordt theoretisch verklaard door dopamine die excessieve precisie toekent aan priors of ruis ten opzichte van sensorische bewijslast, wat leidt tot zelfverzekerde maar onjuiste inferenties (hallucinaties).

Hoewel de wiskundige machinerie van deze twee velden identiek is—de softmax temperatuur ($T$) van de LLM is de inverse van de precisieparameter in Bayesiaanse inferentie—heeft nog geen enkel werk direct getest of het manipuleren van $T$ in LLMs de kwalitatieve signaturen reproduceert die door de computationele psychiatrie voorspelde aberrante precisie-weging. Specifiek: veroorzaakt een lage temperatuur (hoge precisie) zelfverzekerde, ongegronde fabricaties, terwijl een hoge temperatuur (lage precisie) meer eerlijke, genuanceerde fouten oplevert?

Methodologie
De auteur voerde een pilotstudie uit met behulp van LLaMA 3.2 (3B) op een vaste corpus van 25 medische vragen en 5.025 documenten afgeleid van eerdere MedRAG-studies. Het experimentele ontwerp manipuleerde twee variabelen:

1. Conditie: Een "Base" (ongegronde) conditie die uitsluitend vertrouwt op parametrische priors, en een "RAG" (Retrieval-Augmented Generation) conditie waarbij het model werd gegrond in opgehaalde bewijslast (als de "sensorische bewijslast"-term).
2. Temperatuur ($T$): Drie sampling-temperaturen werden getest: $T=0.0$ (bijna deterministisch/hoge precisie), $T=0.7$ (standaard/matige precisie) en $T=1.3$ (diffuus/lage precisie).

De studie evalueerde in totaal 150 combinaties ($3 \text{ temperaturen} \times 2 \text{ condities} \times 25 \text{ vragen}$).

• Nauwkeurigheid: Gemeten met een gold-keyword criterium met 95% Wilson score betrouwbaarheidsintervallen.
• Zelfverzekerdheid-signatuur (Hedging): Voor onjuiste antwoorden telde de auteur het voorkomen van een vaste lexicon van 15 woorden voor nuance/voorbehoud (bijv. "kan", "zou kunnen", "suggereert", "onzeker").
• Statistische Analyse: Niet-parametrische Mann-Whitney U-testen werden gebruikt om het aantal nuance-woorden tussen temperatuurgroepen te vergelijken voor zowel onjuiste als correcte antwoorden.

Belangrijkste Bijdragen

1. Formele Correspondentie: Het artikel legt expliciet de relatie tussen dopaminerge precisie-weging in de computationele psychiatrie, inverse temperatuur in de statistische mechanica en de softmax temperatuurparameter in LLMs vast, waarbij wordt gesteld dat $precision \propto 1/T$.
2. Operationele Hypothese: Het vertaalt deze wiskundige correspondentie naar een toetsbare hypothese: dat een lage temperatuur "zelfverzekerde fabricatie" (weinig nuance bij onjuiste antwoorden) moet induceren, een effect dat gemitigeerd kan worden door retrieval-grounding (RAG).
3. Eerlijke Rapportage van Pilotdata: De auteur maakt onderscheid tussen de exacte wiskundige correspondentie en de biologische claim, en rapporteert resultaten met de juiste kanttekeningen met betrekking tot statistische kracht en steekproefomvang.

Resultaten

• H1 (RAG verwijdert temperatuurgevoeligheid): In de Base (ongegronde) conditie varieerde de nauwkeurigheid niet-monotoon over temperaturen heen (0,72 bij $T=0.0$, 0,64 bij $T=0.7$, 0,68 bij $T=1.3$), hoewel de betrouwbaarheidsintervallen significant overlapten. In contrast hiermee was de RAG (gegronde) nauwkeurigheid perfect vlak op 1.000 over alle temperaturen. Dit ondersteunt de theoretische voorspelling dat hoog-precieze bewijslast (retrieval) de invloed van de precisie-instelling van de prior overstijft.
• H2 (Zelfverzekerde Fabricatie Signatuur): In de Base-conditie bevatten onjuiste antwoorden bij $T=0.0$ significant minder nuance-woorden (gemiddelde = 0,14) vergeleken met onjuiste antwoorden bij $T=0.7/1.3$ (gemiddelde = 0,89). Dit vertegenwoordigt een zesvoudige toename van nuance bij hogere temperaturen. Echter, vanwege de kleine steekproefomvang van onjuiste antwoorden bij $T=0.0$ ($n=7$), bereikte dit verschil geen statistische significantie ($p=0,16$).
• H3 (Specificiteitscontrole): Wanneer dezelfde analyse werd toegepast op correcte antwoorden, werd er geen relatie gevonden tussen temperatuur en nuance ($p=0,90$). Deze dissociatie suggereert dat het effect specifiek is voor de generatie van fouten (hallucinaties) in plaats van een algemene stilistische verschuiving in de output van het model.

Betekenis en Claims
Het artikel concludeert dat hoewel de pilot onderpowered is om de aberrante-precisie-account formeel te bevestigen, de geobserveerde patronen kwalitatief consistent zijn met de theorie.

• De wiskundige correspondentie tussen softmax temperatuur en dopaminerge precisie is exact.
• Het kwalitatieve patroon voorspeld door de theorie (zelfverzekerde fabricatie bij lage temperatuur, eerlijke onzekerheid bij hoge temperatuur) kwam specifiek voor bij foutieve antwoorden en was afwezig bij correcte antwoorden.
• De RAG-resultaten bieden een robuuste demonstratie dat grounding fungeert als een hoog-precieze bewijslast-term, die de nauwkeurigheid stabiliseert ongeacht de interne precisie-instellingen van het model.

De auteur stelt expliciet dat zij niet beweren dat LLM's over biologische dopamine beschikken of mechanistisch gezien Bayesiaanse inferentie implementeren. In plaats daarvan stellen zij voor dat de gedeelde wiskunde een precieze, toetsbare methode biedt om hallucinaties te begrijpen. De primaire waarde van dit werk ligt in het identificeren van specifieke, falsifieerbare voorspellingen en het benadrukken van de noodzaak voor grotere, voldoende krachtige studies om onderscheid te maken tussen "bewijs-precisie die de prior-precisie overstijgt" en eenvoudige plafondeffecten in RAG-benchmarks.