Precision, Physics, and Confabulation: Softmax Temperature as an Analog of Dopaminergic Precision-Weighting in LLM Hallucination

Technisches Resümee: Präzision, Physik und Konfabulation

Problemstellung
Große Sprachmodelle (LLMs) produzieren häufig „Halluzinationen“ – fabrikierte Fakten, die mit demselben flüssigen, selbstbewussten Tonfall wie korrekte Antworten präsentiert werden. Dieses Phänomen spiegelt ein Kernmerkmal der Psychose wider, das in der computergestützten Psychiatrie als aberrante Präzisionsgewichtung beschrieben wird. Unter dem Free-Energy-Prinzip und den Frameworks der prädiktiven Kodierung ist Wahrnehmung ein Prozess der Bayes’schen Inferenz, bei dem das Gehirn Vorannahmen (Priors) mit sensorischen Evidenzen kombert, die jeweils nach ihrer Präzision (Invers der Varianz) gewichtet werden. Psychosen entstehen theoretisch dann, wenn Dopamin der Präzision von Priors oder Rauschen im Verhältnis zur sensorischen Evidenz eine übermäßige Gewichtung zuweist, was zu selbstbewussten, aber falschen Inferenzen (Halluzinationen) führt.

Obwohl die mathematische Mechanik dieser beiden Felder identisch ist – die Softmax-Temperatur ($T$) des LLMs ist der Kehrwert des Präzisionsparameters in der Bayes’schen Inferenz –, gibt es bisher keine Arbeit, die direkt getestet hat, ob die Manipulation von $T$ in LLMs die qualitativen Signaturen der vorhergesagten aberranten Präzisionsgewichtung aus der computergestützten Psychiatrie reproduziert. Konkret: Verursacht eine niedrige Temperatur (hohe Präzision) selbstbewusste, unbegründete Fabrikationen, während eine hohe Temperatur (niedrige Präzision) eher ehrliche, vorsichtige Fehler („hedging“) liefert?

Methodik
Der Autor führte eine Pilotstudie unter Verwendung von LLaMA 3.2 (3B) auf einem festen Korpus von 25 medizinischen Fragen und 5.025 Dokumenten durch, die aus vorangegangenen MedRAG-Studien stammen. Das experimentelle Design manipulierte zwei Variablen:

1. Bedingung: Eine „Base“-Bedingung (ungebunden), die sich ausschließlich auf parametrische Priors stützt, und eine „RAG“-Bedingung (Retrieval-Augmented Generation), bei der das Modell in die abgerufene Evidenz eingebettet war (was als der Begriff der „sensorischen Evidenz“ fungiert).
2. Temperatur ($T$): Es wurden drei Sampling-Temperaturen getestet: $T=0.0$ (nahezu deterministisch/hohe Präzision), $T=0.7$ (Standard/moderate Präzision) und $T=1.3$ (diffus/niedrige Präzision).

Die Studie evaluierte insgesamt 150 Kombinationen ($3 \text{ Temperaturen} \times 2 \text{ Bedingungen} \times 25 \text{ Fragen}$).

• Genauigkeit (Accuracy): Gemessen mittels eines Gold-Keyword-Kriteriums mit 95%-Wilson-Score-Konfidenzintervallen.
• Konfidenz-Signatur (Hedging): Bei falschen Antworten zählte der Autor das Vorkommen eines festen 15-Wörter-Lexikons für Hedging-Begriffe (z. B. „könnte“, „möglicherweise“, „deutet darauf hin“, „unsicher“).
• Statistische Analyse: Nicht-parametrische Mann-Whitney-U-Tests wurden verwendet, um die Anzahl der Hedging-Begriffe zwischen den Temperatur-Gruppen sowohl für falsche als auch für korrekte Antworten zu vergleichen.

Wesentliche Beiträge

1. Formale Korrespondenz: Die Arbeit stellt explizit die Beziehung zwischen dopaminerger Präzisionsgewichtung in der computergestützten Psychiatrie, inverser Temperatur in der statistischen Mechanik und dem Softmax-Temperaturparameter in LLMs her und etabliert $precision \propto 1/T$.
2. Operationalisierte Hypothese: Sie übersetzt diese mathematische Korrespondenz in eine testbare Hypothese: Eine niedrige Temperatur sollte in ungebundenen Bedingungen „selbstbewusste Fabrikation“ (wenig Hedging bei falschen Antworten) induzieren, ein Effekt, der durch die Einbettung in Retrieval-Daten (RAG) abgeschwächt werden sollte.
3. Ehrliche Berichterstattung von Pilotdaten: Der Autor unterscheidet zwischen der exakten mathematischen Korrespondenz und der biologischen Behauptung und berichtet die Ergebnisse unter Berücksichtigung der statistischen Power und der Stichprobengröße.

Ergebnisse

• H1 (RAG eliminiert Temperatursensitivität): In der Base-Bedingung (ungebunden) variierte die Genauigkeit nicht-monoton über die Temperaturen (0,72 bei $T=0.0$; 0,64 bei $T=0.7$; 0,68 bei $T=1.3$), obwohl sich die Konfidenzintervalle signifikant überschnitten. Im Gegensatz dazu war die Genauigkeit in der RAG-Bedingung (gebunden) über alle Temperaturen hinweg perfekt konstant bei 1.000. Dies stützt die theoretische Vorhersage, dass hochpräzise Evidenz (Retrieval) den Einfluss der Präzisionseinstellung des Priors überstimmt.
• H2 (Signatur der selbstbewussten Fabrikation): In der Base-Bedingung enthielten falsche Antworten bei $T=0.0$ signifikant weniger Hedging-Wörter (Mittelwert = 0,14) im Vergleich zu falschen Antworten bei $T=0.7/1.3$ (Mittelwert = 0,89). Dies entspricht einer sechsfachen Zunahme des Hedgings bei höheren Temperaturen. Aufgrund der kleinen Stichprobengröße der falschen Antworten bei $T=0.0$ ($n=7$) erreichte dieser Unterschied jedoch keine statistische Signifikanz ($p=0,16$).
• H3 (Spezifitätskontrolle): Als dieselbe Analyse auf korrekte Antworten angewendet wurde, konnte kein Zusammenhang zwischen Temperatur und Hedging festgestellt werden ($p=0,90$). Diese Dissoziation deutet darauf hin, dass der Effekt spezifisch für die Generierung von Fehlern (Halluzinationen) ist und nicht auf eine allgemeine stilistische Verschiebung des Modellausgangs zurückzuführen ist.

Bedeutung und Behauptungen
Die Arbeit kommt zu dem Schluss, dass der Pilotversuch zwar unterpowert ist, um die Theorie der aberranten Präzision bei Halluzinationen formal zu bestätigen, die beobachteten Muster jedoch qualitativ konsistent mit der Theorie sind.

• Die mathematische Korrespondenz zwischen der Softmax-Temperatur und der dopaminergen Präzision ist exakt.
• Das qualitative Muster, das die Theorie vorhersagt (selbstbewusste Fabrikation bei niedriger Temperatur, ehrliche Unsicherheit bei hoher Temperatur), trat spezifisch bei falschen Antworten auf und war bei korrekten Antworten nicht vorhanden.
• Die RAG-Ergebnisse liefern einen robusten Nachweis dafür, dass die Einbettung (Grounding) als hochpräziser Evidenzterm fungiert, der die Genauigkeit unabhängig von den internen Präzisionseinstellungen des Modells stabilisiert.

Der Autor betont ausdrücklich, dass er nicht behauptet, dass LLMs über biologisches Dopamin verfügen oder Bayes’sche Inferenz mechanistisch implementieren. Stattdessen schlägt er vor, dass die gemeinsame Mathematik einen präzisen, testbaren Rahmen für das Verständnis von Halluzinationen bietet. Der primäre Wert dieser Arbeit liegt in der Identifizierung spezifischer, falsifizierbarer Vorhersagen und im Aufzeigen der Notwendigkeit größerer, ausreichend powergestützter Studien, um zwischen „Evidenzpräzision, die die Prior-Präzision überstimmt“ und einfachen Deckeneffekten in RAG-Benchmarks zu unterscheiden.