Resumen Técnico: La curvatura representacional modula la incertidumbre conductual en los Grandes Modelos de Lenguaje (LLMs)

El Problema

En los modelos de lenguaje autoregresivos (LLMs), se ha postulado la hipótesis del "enderezamiento temporal" (temporal straightening). Esta teoría sugiere que, para facilitar la predicción del siguiente token mediante la extrapolación lineal, los modelos aprenden a transformar las trayectorias de las representaciones internas (en el residual stream) de secuencias complejas en trayectorias geométricas más rectas a medida que avanzan las capas.

Sin embargo, existía un vacío en el conocimiento: no se había establecido un vínculo directo entre esta geometría de la trayectoria y el comportamiento observable del modelo (específicamente, su incertidumbre predictiva). El problema central era determinar si la curvatura de estas trayectorias tiene una función práctica en la cuantificación de la incertidumbre del modelo.

Metodología

Los autores emplearon un enfoque multidimensional utilizando modelos GPT-2 XL y Pythia-2.8B:

1. Medición de la Curvatura Contextual ($C_p^k$): Definieron la curvatura como una medida geométrica de qué tan bruscamente cambia la dirección de la trayectoria de las activaciones en el espacio de alta dimensión. Se calculó el ángulo entre vectores de diferencia adyacentes en una ventana de contexto hacia atrás.
2. Medición de la Incertidumbre (Entropía): Utilizaron la entropía de la distribución de probabilidad del siguiente token ($H$) para cuantificar la incertidumbre conductual.
3. Experimentos de Perturbación: Para probar la causalidad, aplicaron modificaciones aditivas a las activaciones en el residual stream. Diseñaron cinco tipos de perturbaciones con distintos grados de alineación geométrica: desde el espacio completo (aleatorio) hasta el subespacio planar (alineado estrictamente con la trayectoria reciente).
4. Regularización durante el entrenamiento: Entrenaron un modelo GPT-2 desde cero introduciendo una pérdida auxiliar ($L_{curv}$) para penalizar la curvatura (modelo "untangled" o desenredado) o para aumentarla (modelo "tangled" o enredado).

Contribuciones Clave

• Vínculo Geometría-Comportamiento: Establecen que la curvatura de la trayectoria no es solo una propiedad estructural, sino un predictor de la incertidumbre del modelo.
• Identificación de Capas Críticas: Demuestran que este fenómeno es más pronunciado en las capas intermedias de la red, donde las trayectorias alcanzan su punto de mayor rectitud.
• Validación de la Hipótesis de Extrapolación: Proporcionan evidencia de que el objetivo de predicción de próximo token impulsa activamente la formación de geometrías predecibles.

Resultados Principales

1. Correlación Curvatura-Entropía: Existe una correlación positiva entre la curvatura contextual y la entropía del siguiente token. En las capas donde la trayectoria es más recta (mínima curvatura), la capacidad de la curvatura para predecir la entropía es máxima.
2. Dependencia Selectiva de la Trayectoria: Los experimentos de perturbación revelaron que solo las intervenciones alineadas con la trayectoria (especialmente las del subespacio planar) logran modular la entropía de manera fiable. Las perturbaciones en direcciones aleatorias o en el subespacio de activaciones general no afectaron la incertidumbre, lo que demuestra que la información de incertidumbre está codificada específicamente en la geometría de la evolución temporal.
3. Efecto de la Regularización: El entrenamiento con una penalización de curvatura (objetivo de "enderezamiento") redujo la entropía de los tokens sin degradar la pérdida de validación (validation loss). Esto sugiere que es posible manipular la confianza del modelo mediante la manipulación de su geometría interna.

Significancia

Este trabajo es fundamental para la interpretabilidad mecánica de los LLMs. Sugiere que la capacidad de predicción de los modelos no depende solo de "qué" información se almacena, sino de "cómo" se organiza esa información en el tiempo a través de trayectorias geométricas.

Los hallazgos abren nuevas vías para:

• Control Conductual: Manipular la confianza o la incertidumbre de un modelo mediante la intervención en la geometría de sus representaciones.
• Mejora de Modelos: Utilizar objetivos de regularización geométrica para mejorar la calibración y la robustez de los modelos sin sacrificar su precisión predictiva.
• Comprensión Teórica: Refuerza la idea de que los LLMs operan transformando datos no lineales en estructuras lineales locales para facilitar la computación de la predicción.