Resumen Técnico: Firmas Termodinámicas del Razonamiento

Planteamiento del Problema

La alucinación en los Modelos de Lenguaje de Gran Escala (LLM) sigue siendo una barrera crítica para su despliegue. Aunque trabajos recientes han identificado que el espectro de los Laplacianos de grafos derivados de la atención contiene señales sobre la calidad del razonamiento, los diagnósticos espectrales existentes son limitados. Los métodos previos suelen resumir el espectro de alta resolución del Laplaciano utilizando solo un puñado de los $K$ autovalores superiores o escalares seleccionados manualmente (por ejemplo, el valor de Fiedler o la entropía espectral). Los autores argumentan que este enfoque descarta información estructural significativa, dejando "señal sobre la mesa". El objetivo es desarrollar un mecanismo de detección que sea libre de entrenamiento (o que requiera una calibración mínima), opere en una sola pasada de inferencia y utilice plenamente la estructura espectral de los mapas de atención sin reentrenar el LLM subyacente.

Metodología: Firmas de Energía Libre (FES)

El artículo propone las Firmas de Energía Libre (FES), un descriptor espectral que trata el Laplaciano de la atención de cada capa como un Hamiltoniano para un sistema cuántico ficticio. El método extrae potenciales termodinámicos y estadísticas de la Teoría de Matrices Aleatorias (RMT) a partir del espectro.

1. Construcción del Laplaciano de Atención

Para un LLM congelado con $L$ capas y $H$ cabezales de atención, la matriz de atención post-softmax $A^{(\ell,h)}$ en la capa $\ell$ se simetriza y se promedia sobre los cabezales para formar $\tilde{A}^{(\ell)}$. El Laplaciano de grafo combinatorio se construye entonces como:
$$L^{(\ell)} = D^{(\ell)} - \tilde{A}^{(\ell)}$$
donde $D^{(\ell)}$ es la matriz de grado. Los autovalores $\{\lambda_k\}$ de $L^{(\ell)}$ forman la medida espectral empírica.

2. Funcionales Termodinámicos

El espectro se analiza a través de la lente de la termodinámica del equilibrio utilizando un parámetro de temperatura inversa $\beta$. Se computan los siguientes potenciales para cada capa:

• Función de Partición ($Z$): $Z(\beta) = \text{Tr}(e^{-\beta L}) = \sum e^{-\beta \lambda_k}$.
• Energía Libre ($F$): $F(\beta) = -\frac{1}{\beta} \log Z(\beta)$.
• Entropía Espectral ($S$): Calculada mediante la distribución de Boltzmann $p_k = e^{-\beta \lambda_k}/Z(\beta)$.
• Capacidad Calorífica ($C$): $C(\beta) = \beta^2 \text{Var}_p[\lambda]$.

Estos funcionales se evalúan sobre una rejilla logarítmica de $m$ temperaturas inversas, proporcionando una visión multiescala del espectro (concentrándose en los autovalores pequeños a $\beta$ alto y promediando el grueso de la distribución a $\beta$ bajo).

3. Factor de Forma Espectral (SFF) y RMT

Para capturar las correlaciones de espaciado de niveles, el método computa el Factor de Forma Espectral (SFF):
$$g(t) = \frac{1}{n^2} \left| \sum_k e^{-it \hat{\lambda}_k} \right|^2$$
donde $\hat{\lambda}_k$ son autovalores desplegados (mapeados a una densidad local media unitaria). El SFF se analiza frente a las predicciones de la Teoría de Matrices Aleatorias (RMT):

• Wigner-Dyson (GOE): Estructura característica de "valle-rampa-meseta" (dip-ramp-plateau), que indica sistemas caóticos y bien mezclados.
• Poisson: Decaimiento monótono suave, que indica sistemas integrables o localizados.

4. El Descriptor FES y Detectores

El descriptor por capa $\Phi^{(\ell)}$ concatena los funcionales termodinámicos y el SFF sobre rejillas de $\beta$ y $t$. La concatenación a través de todas las capas produce el vector de características final $\Phi(x)$.
Se instancian dos estrategias de detección:

1. Sonda Supervisada: Una regresión logística ligera entrenada con un pequeño conjunto de calibración etiquetado.
2. Puntuación de Desviación RMT No Supervisada: Una puntuación sin etiquetas $D(x)$ que mide la distancia $L_2$ entre el SFF empírico y una curva de referencia GOE del mismo tamaño.

Principales Contribuciones

1. Resultados Teóricos

El artículo proporciona tres pruebas formales:

• Estabilidad Lipschitz: Se demuestra que FES es Lipschitz estable bajo perturbaciones de la norma del operador del Laplaciano de atención, lo que garantiza la robustez frente al ruido numérico y pequeñas perturbaciones de la atención.
• Expresividad: El componente de la función de partición es la transformada de Laplace de la medida espectral. Los autores demuestran que, en un límite idealizado de transformación exacta, la función de partición identifica el espectro (recuperando todos los momentos). En la práctica, el FES de rejilla finita proporciona un enriquecimiento multiescala sobre los resúmenes compactos (como los $K$ autovalores superiores), aproximando los funcionales derivados de momentos con una precisión controlada por la densidad de la rejilla.
• Límite PAC de Muestra Finita: Se deriva un límite para el AUROC del detector de desviación RMT no supervisado, mostrando que una brecha medible en los factores de forma espectrales entre razonamientos válidos y alucinados es suficiente para una garantía de rendimiento no vacua.

2. Hallazgos Empíricos

• Firmas Espectrales del Razonamiento: El artículo presenta la primera evidencia de que los espectros de atención de los LLM exhiben estadísticas de Wigner-Dyson (similares a GOE) durante el razonamiento válido y estadísticas tipo Poisson durante las alucinaciones. Esto se cuantifica mediante la razón media de espaciado de niveles $\langle r \rangle$, que aproxima 0.536 para generaciones válidas y 0.386 para alucinaciones.
• Rendimiento: A través de seis LLM de pesos abiertos (7B–14B) y seis benchmarks (incluyendo TruthfulQA, HaluEval, GSM8K y MATH-500), FES logra el AUROC agregado más alto entre las líneas base espectrales de atención.
  • Supera a LAPEIG (autovalores top-$K$) por +6.5 puntos de AUROC.
  • Supera a GOR-4 (escalares espectrales seleccionados a mano) por +2.4 puntos de AUROC.
• Eficiencia de Etiquetas: La sonda supervisada alcanza un rendimiento cercano al asintótico con solo unos pocos cientos de ejemplos etiquetados por tarea.
• Transferencia de Arquitectura Cruzada: Una sonda entrenada en Llama-3-8B se transfiere eficazmente a otras arquitecturas (Mistral, Qwen, Gemma, Phi-3) con un AUROC medio > 0.82.

Significado y Reivindicaciones

El artículo afirma que FES ofrece un diagnóstico libre de entrenamiento y de una sola muestra que captura señales de veracidad más allá de los autovalores brutos o los resúmenes espectrales compactos. Al reformular los mapas de atención a través de la termodinámica y la RMT, el método:

1. Retiene Información Multiescala: A diferencia de los métodos que truncan el espectro, FES captura la forma de todo el espectro a través de múltiples escalas.
2. Proporciona Fundamentación Teórica: Vincula la detección de alucinaciones con propiedades fundamentales de las matrices aleatorias (repulsión de niveles vs. integrabilidad), ofreciendo una interpretación física de un razonamiento "saludable" vs. "roto".
3. Eficiencia Operativa: No requiere actualizaciones del LLM subyacente y añade una sobrecarga computacional insignificante (aprox. 0.4s por muestra en una A6000 para secuencias de hasta 512 tokens).

Los autores señalan limitaciones, incluyendo el costo $O(n^3)$ de la descomposición de autovalores densos (que requiere aproximaciones para contextos muy largos) y la necesidad de acceso de caja blanca a los pesos de atención. También reconocen que el signo de la puntuación de desviación no supervisada puede cambiar según la tarea (por ejemplo, razonamiento matemático frente a QA de respuesta abierta), lo que requiere una calibración por tarea para el modo no supervisado. Sin embargo, la sonda supervisada sigue siendo robusta ante estas variaciones.