Precision, Physics, and Confabulation: Softmax Temperature as an Analog of Dopaminergic Precision-Weighting in LLM Hallucination

Resumen Técnico: Precisión, Física y Confabulación

Planteamiento del Problema
Los Modelos de Lenguaje de Gran Escala (LLM) producen frecuentemente "alucinaciones": hechos fabricados enunciados con el mismo tono fluido y seguro que las respuestas correctas. Este fenómeno refleja una característica central de la psicosis descrita en la psiquiatría computacional: la ponderación de la precisión aberrante. Bajo el Principio de Energía Libre y los marcos de codificación predictiva, la percepción es un proceso de inferencia bayesiana donde el cerebro combina creencias previas (priors) con evidencia sensorial, ponderadas por sus respectivas precisiones (inversa de la varianza). Se teoriza que la psicosis surge cuando la dopamina asigna una precisión excesiva a los priors o al ruido en relación con la evidencia sensorial, lo que conduce a inferencias seguras pero falsas (alucinaciones).

Si bien la maquinaria matemática de estos dos campos es idéntica —el parámetro de temperatura softmax ($T$) del LLM es la inversa del parámetro de precisión en la inferencia bayesiana—, no existe un trabajo previo que haya probado directamente si la manipulación de $T$ en los LLM reproduce las firmas cualitativas de la ponderación de precisión aberrante predicha por la psiquiatría computacional. Específicamente, ¿causa una temperatura baja (alta precisión) la generación de fabricaciones infundadas pero seguras, mientras que una temperatura alta (baja precisión) produce errores más honestos y cautelosos?

Metodología
El autor realizó un estudio piloto utilizando LLaMA 3.2 (3B) sobre un corpus fijo de 25 preguntas médicas y 5,025 documentos derivados de estudios previos de MedRAG. El diseño experimental manipuló dos variables:

1. Condición: Una condición "Base" (no fundamentada) que depende únicamente de los priors paramétricos, y una condición "RAG" (Generación Aumentada por Recuperación) donde el modelo fue fundamentado en evidencia recuperada (actuando como el término de "evidencia sensorial").
2. Temperatura ($T$): Se probaron tres temperaturas de muestreo: $T=0.0$ (casi determinista/alta precisión), $T=0.7$ (estándar/moderada) y $T=1.3$ (difusa/baja precisión).

El estudio evaluó un total de 150 combinaciones ($3 \text{ temperaturas} \times 2 \text{ condiciones} \times 25 \text{ preguntas}$).

• Exactitud: Medida utilizando un criterio de palabra clave de oro (gold-keyword) con intervalos de confianza de la puntuación Wilson del 95%.
• Firma de Confianza (Cautela/Hedging): Para las respuestas incorrectas, el autor contó las ocurrencias de un léxico de cautela de 15 palabras fijas (ej. "puede", "podría", "sugiere", "incierto").
• Análisis Estadístico: Se utilizaron pruebas de Mann-Whitney U no paramétricas para comparar los conteos de cautela entre los grupos de temperatura tanto para respuestas incorrectas como correctas.

Contribuciones Clave

1. Correspondencia Formal: El artículo establece explícitamente la relación entre la ponderación de precisión dopaminérgica en la psiquiatría computacional, la temperatura inversa en la mecánica estadística y el parámetro de temperatura softmax en los LLM, estableciendo que $precisión \propto 1/T$.
2. Hipótesis Operacionalizada: Traduce esta correspondencia matemática en una hipótesis testeable: que una temperatura baja debería inducir una "fabricación segura" (baja cautela en respuestas incorrectas), un efecto que debería mitigarse mediante la fundamentación por recuperación (RAG).
3. Reporte Honesto de Datos Piloto: El autor distingue entre la correspondencia matemática exacta y la afirmación biológica, reportando los resultados con las salvedades apropiadas respecto al poder estadístico y el tamaño de la muestra.

Resultados

• H1 (RAG Elimina la Sensibilidad a la Temperatura): En la condición Base (no fundamentada), la exactitud varió de forma no monotónica a través de las temperaturas (0.72 en $T=0.0$, 0.64 en $T=0.7$, 0.68 en $T=1.3$), aunque los intervalos de confianza se solaparon significativamente. En contraste, la exactitud de RAG (fundamentada) fue perfectamente plana en 1.000 en todas las temperaturas. Esto apoya la predicción teórica de que la evidencia de alta precisión (recuperación) anula la influencia de la configuración de precisión del prior.
• H2 (Firma de Fabricación Segura): En la condición Base, las respuestas incorrectas en $T=0.0$ contenían significativamente menos palabras de cautela (media = 0.14) en comparación con las respuestas incorrectas en $T=0.7/1.3$ (media = 0.89). Esto representa un aumento de seis veces en la cautela a temperaturas más altas. Sin embargo, debido al pequeño tamaño de la muestra de respuestas incorrectas en $T=0.0$ ($n=7$), esta diferencia no alcanzó la significancia estadística ($p=0.16$).
• H3 (Control de Especificidad): Cuando se aplicó el mismo análisis a las respuestas correctas, no se encontró relación entre la temperatura y la cautela ($p=0.90$). Esta disociación sugiere que el efecto es específico para la generación de errores (alucinaciones) más que un cambio estilístico general en la salida del modelo.

Significancia y Reivindicaciones
El artículo concluye que, si bien el piloto carece de potencia suficiente para confirmar formalmente el modelo de precisión aberrante, los patrones observados son cualitativamente consistentes con la teoría.

• La correspondencia matemática entre la temperatura softmax y la precisión dopaminérgica es exacta.
• El patrón cualitativo predicho por la teoría (fabricación segura a baja temperatura, incertidumbre honesta a alta temperatura) apareció específicamente en las respuestas erróneas y estuvo ausente en las correctas.
• Los resultados de RAG proporcionan una demostración robusta de que la fundamentación actúa como un término de evidencia de alta precisión, estabilizando la exactitud independientemente de las configuraciones de precisión internas del modelo.

El autor declara explícitamente que no está afirmando que los LLM posean dopamina biológica o implementen la inferencia bayesiana de forma mecánica. En su lugar, propone que la matemática compartida ofrece un marco preciso y testeable para comprender la alucinación. El valor principal de este trabajo es la identificación de predicciones específicas y falsables, y resaltar la necesidad de estudios más amplios y con potencia adecuada para distinguir entre la "precisión de la evidencia sobre la precisión del prior" y los simples efectos de techo en los entornos de evaluación de RAG.