Precision, Physics, and Confabulation: Softmax Temperature as an Analog of Dopaminergic Precision-Weighting in LLM Hallucination

Résumé technique : Précision, physique et confabulation

Énoncé du problème
Les grands modèles de langage (LLM) produisent fréquemment des « hallucinations » — des faits fabriqués énoncés avec le même ton fluide et assuré que les réponses correctes. Ce phénomène reflète une caractéristique centrale de la psychose décrite en psychiatrie computationnelle : l’aberration de la pondération de la précision (aberrant precision-weighting). Sous le cadre du principe de l'énergie libre et de la codification prédictive, la perception est un processus d'inférence bayésienne où le cerveau combine des croyances a priori avec des preuves sensorielles, pondérées par leurs précisions respectives (inverse de la variance). La psychose est théorisée comme résultant d'une dopamine assignant une précision excessive aux a priori ou au bruit par rapport aux preuves sensorielles, menant à des inférences confiantes mais fausses (hallucinations).

Bien que la machinerie mathématique de ces deux domaines soit identique — la température softmax ($T$) du LLM est l'inverse du paramètre de précision en inférence bayésienne — aucun travail préalable n'a directement testé si la manipulation de $T$ dans les LLM reproduit les signatures qualitatives de l'aberration de la pondération de la précision prédites par la psychiatrie computationnelle. Plus précisément, est-ce qu'une température basse (haute précision) provoque des fabrications non fondées mais assurées, tandis qu'une température haute (basse précision) produit des erreurs plus honnêtes et prudentes ?

Méthodologie
L'auteur a mené une étude pilote utilisant LLaMA 3.2 (3B) sur un corpus fixe de 25 questions médicales et 5 025 documents dérivés d'études MedRAG antérieures. Le plan expérimental manipulait deux variables :

1. Condition : Une condition « Base » (non fondée) reposant uniquement sur les a priori paramétriques, et une condition « RAG » (génération augmentée par récupération) où le modèle était ancré dans des preuves récupérées (agissant comme le terme de « preuve sensorielle »).
2. Température ($T$) : Trois températures d'échantillonnage ont été testées : $T=0.0$ (proche du déterministe/haute précision), $T=0.7$ (standard/modérée) et $T=1.3$ (diffuse/basse précision).

L'étude a évalué 150 combinaisons totales ($3 \text{ températures} \times 2 \text{ conditions} \times 25 \text{ questions}$).

• Précision : Mesurée à l'aide d'un critère de mots-clés d'or avec des intervalles de confiance de l'indice de Wilson à 95 %.
• Signature de confiance (Prudence/Hedging) : Pour les réponses incorrectes, l'auteur a compté les occurrences d'un lexique de prudence de 15 mots fixes (ex: « peut-être », « pourrait », « suggère », « incertain »).
• Analyse statistique : Des tests Mann-Whitney U non paramétriques ont été utilisés pour comparer les comptes de mots de prudence entre les groupes de température pour les réponses correctes et incorrectes.

Contributions clés

1. Correspondance formelle : L'article établit explicitement la relation entre la pondération de la précision dopaminergique en psychiatrie computationnelle, la température inverse en mécanique statistique et le paramètre de température softmax dans les LLM, établissant que $précision \propto 1/T$.
2. Hypothèse opérationnalisée : Il traduit cette correspondance mathématique en une hypothèse testable : qu'une température basse devrait induire une « fabrication assurée » (faible prudence dans les réponses fausses), un effet qui devrait être atténué par l'ancrage de la récupération (RAG).
3. Rapport honnête des données pilotes : L'auteur distingue la correspondance mathématique exacte de l'affirmation biologique, rapportant les résultats avec les mises en garde appropriées concernant la puissance statistique et la taille de l'échantillon.

Résultats

• H1 (Le RAG élimine la sensibilité à la température) : Dans la condition Base (non fondée), la précision variait de manière non monotone selon les températures (0,72 à $T=0.0$, 0,64 à $T=0.7$, 0,68 à $T=1.3$), bien que les intervalles de confiance se chevauchent de manière significative. En revanche, la précision de la condition RAG (fondée) était parfaitement stable à 1.000 à travers toutes les températures. Cela soutient la prédiction théorique que la précision des preuves (récupération) supplante l'influence du réglage de la précision de l'a priori.
• H2 (Signature de la fabrication assurée) : Dans la condition Base, les réponses incorrectes à $T=0.0$ contenaient significativement moins de mots de prudence (moyenne = 0,14) par rapport aux réponses incorrectes à $T=0.7/1.3$ (moyenne = 0,89). Cela représente une augmentation de six fois de la prudence à des températures plus élevées. Cependant, en raison de la petite taille de l'échantillon de réponses incorrectes à $T=0.0$ ($n=7$), cette différence n'a pas atteint la signification statistique ($p=0,16$).
• H3 (Contrôle de spécificité) : Lorsque la même analyse a été appliquée aux réponses correctes, aucune relation entre la température et la prudence n'a été trouvée ($p=0,90$). Cette dissociation suggère que l'effet est spécifique à la génération d'erreurs (hallucinations) plutôt qu'à un changement de style général de la sortie du modèle.

Signification et affirmations
L'article conclut que, bien que le pilote soit sous-dimensionné pour confirmer formellement le compte de l'aberration de la précision, les modèles observés sont qualitativement cohérents avec la théorie.

• La correspondance mathématique entre la température softmax et la précision dopaminergique est exacte.
• Le modèle qualitatif prédit par la théorie (fabrication assurée à basse température, incertitude honnête à haute température) est apparu spécifiquement dans les réponses erronées et était absent des réponses correctes.
• Les résultats du RAG fournissent une démonstration robuste que l'ancrage agit comme un terme de précision de preuve élevé, stabilisant la précision indépendamment des réglages de précision internes du modèle.

L'auteur affirme explicitement qu'il ne prétend pas que les LLM possèdent une dopamine biologique ou implémentent mécaniquement l'inférence bayésienne. Au contraire, il propose que les mathématiques partagées offrent un cadre précis et testable pour comprendre l'hallucination. La valeur primaire de ce travail est d'identifier des prédictions spécifiques et falsifiables, et de souligner la nécessité d'études plus larges et dotées d'une puissance statistique adéquate pour distinguer entre « la précision de l'évidence supplantant la précision de l'a priori » et de simples effets de plafond dans les benchmarks RAG.