Descriptive versus Regulatory Uncertainty in Bounded Predictive Systems

Resumen Técnico: Incertidumbre Descriptiva versus Regulatoria en Sistemas Predictivos Acotados

Enunciado del Problema
El artículo aborda una limitación fundamental de seguridad y epistémica en los Modelos de Lenguaje Grandes (LLM) actuales: la incapacidad de distinguir entre conocimiento genuino y alucinaciones confiables. Mientras que el discurso actual se centra en la capacidad del modelo, los autores argumentan que existe una distinción más crítica entre sistemas con incertidumbre epistémicamente informativa y aquellos donde la incertidumbre es meramente un artefacto del sustrato.

El problema central se identifica como desacoplamiento termodinámico. En los sistemas de computación física, el principio de Landauer dicta que las operaciones de bits irreversibles incurren en un costo energético mínimo ($k_B T \ln 2$). Sin embargo, en los LLM actuales, este costo termodinámico es invariante ante la calidad epistémica de la salida. Ya sea que un modelo genere una derivación causalmente fundamentada o una alucinación confiable, la energía disipada por el hardware (por ejemplo, una GPU A100) permanece idéntica. En consecuencia, la incertidumbre del sistema (medida como entropía de Shannon) es "descriptiva" (una propiedad estadística de la distribución de salida) en lugar de "regulatoria" (una señal que participa en la función de costo física para penalizar el error).

Marco Teórico
Los autores formalizan esta distinción a través de dos conceptos:

1. Desacoplamiento Termodinámico: Un sistema está termodinámicamente desacoplado si su entropía de Shannon de salida ($H_{out}$) y su precisión causal ($\alpha$) son estadísticamente independientes, condicionadas al estado del sustrato físico. En tales sistemas, el costo energético por operación no escala con el error epistémico ($\partial E_{cost}/\partial \epsilon = 0$).
2. El Teorema de Desacoplamiento Softmax: Los autores demuestran que en un transformador con pesos fijos y temperatura de inferencia fija, la entropía de Shannon a nivel de token es una función determinista de los pesos, la temperatura y el contexto. Es estructuralmente independiente de si el contexto requiere recuperación dentro de la distribución o generalización causal fuera de la distribución (OOD). A diferencia de los sistemas termodinámicos físicos donde la temperatura tiene consecuencias energéticas, la "temperatura computacional" ($\tau$) en los transformadores es un hiperparámetro desacoplado.

Metodología
Para probar empíricamente la hipótesis del desacoplamiento termodinámico, los autores realizaron un experimento midiendo la entropía de Shannon a nivel de token y la precisión de la tarea en tres modelos Llama (3B, 8B y 70B parámetros) que abarcan dos órdenes de magnitud en escala.

• Suite de Tareas: Se construyó una suite de 18 tareas en tres categorías de demanda causal creciente:
  • Tareas Kepler: Recuperación de relaciones físicas bien establecidas (recuperación de patrones).
  • Tareas Newton: Aplicación de operadores causales a configuraciones de parámetros novedosas (derivación causal).
  • Tareas Newton OOD: Derivación bajo regímenes de parámetros diseñados para estar más allá de cualquier cobertura de entrenamiento plausible (cambio distribucional radical).
• Modelos: llama3.2:3b, Llama-3.1-8B-Instruct y Llama-3.1-70B-Instruct.
• Medición:
  • Entropía: Extraída de los logprobs a nivel de token a una temperatura de inferencia baja ($\tau = 0.1$) para minimizar el ruido de muestreo estocástico.
  • Precisión: Evaluada mediante evaluación humana frente a una verdad fundamental matemáticamente verificada. Una respuesta se puntuó con 1 solo si alcanzaba la conclusión correcta mediante una derivación válida; narrativas plausibles con resultados incorrectos se puntuaron con 0.
• Análisis Estadístico: Se utilizaron pruebas t de Welch para comparar la entropía y la precisión entre categorías dentro de cada modelo.

Resultados Clave
Los resultados experimentales proporcionan evidencia sólida del desacoplamiento termodinámico:

1. Planicie de la Entropía: La entropía de Shannon a nivel de token fue estadísticamente plana en las tres categorías de tareas para los tres modelos.
   • Los rangos de entropía dentro del modelo fueron insignificantes (0.011–0.028 nats), muy por debajo del umbral de planicie preespecificado de 0.10 nats.
   • Todos los valores p pareados para las comparaciones de entropía fueron no significativos ($p \ge 0.568$).
2. Varianza de Precisión: En marcado contraste, la precisión de la tarea varió drásticamente (de 0% a 100%) dependiendo de la categoría de la tarea y el tamaño del modelo.
   • El modelo de 70B alcanzó un 100% de precisión en las tareas Kepler, un 67% en las tareas Newton, pero solo un 17% en las tareas Newton OOD.
   • A pesar de esta enorme varianza en la corrección, la entropía permaneció constante.
3. Invarianza de Escala: El desacoplamiento es una invariante arquitectónica, no una propiedad de los modelos pequeños. Si bien los modelos más grandes operaron con una entropía base más baja (mayor certeza), la planicie de la entropía a través de los niveles de dificultad persistió en todas las escalas. Todos los modelos convergieron a la misma baja precisión (17%) en las tareas OOD sin ningún aumento correspondiente en la incertidumbre.

Significado y Afirmaciones
El artículo afirma que los LLM actuales poseen un defecto estructural de seguridad: pueden ser "máximamente seguros y máximamente incorrectos simultáneamente".

• Implicaciones de Seguridad: Dado que la entropía está desacoplada de la precisión, la entropía a nivel de token no puede servir como una señal de confianza confiable para los filtros de seguridad. Los sistemas que dependen de la entropía para señalar salidas poco fiables son "funcionalmente ciegos" a la distinción entre conocimiento y confabulación.
• Limitación Arquitectónica: Esto no es un problema de calibración solucionable mediante corrección post-hoc, ajuste fino o escalado. Es una consecuencia fundamental de la inferencia con pesos fijos donde el sustrato termodinámico es indiferente al error epistémico.
• Dirección Futura: Los autores sugieren que lograr una "incertidumbre regulatoria" requiere acoplamiento termodinámico, donde el costo energético de una operación escala con su error epistémico. Proponen que las arquitecturas neuromórficas con módulos de costo intrínsecos (donde los errores de predicción impulsan actualizaciones de pesos en tiempo real con costos energéticos dependientes del error) podrían cerrar esta brecha, haciendo que la confabulación sea físicamente costosa y alineando el estado fundamental del sistema con la comprensión.

El artículo concluye que el fundamento epistémico genuino requiere un acoplamiento causal entre el estado del sustrato termodinámico y el costo de procesamiento de información, una propiedad actualmente ausente en todos los LLM desplegados.