Chaos in reason: How chain-of-thought LLMs can look for an answer

Resumen Técnico: El Caos en la Razón

Declaración del Problema
Los Modelos de Lenguaje de Gran Escala (LLMs) han demostrado capacidades de razonamiento notables, particularmente cuando utilizan el prompting de Cadena de Pensamiento (CoT), aunque su dinámica interna sigue siendo insuficientemente comprendida. Aunque los LLMs son entrenados mediante optimización estadística sin reglas simbólicas explícitas, exhiben comportamientos emergentes que se asemejan a la inferencia lógica. Esto plantea una pregunta fundamental sobre la naturaleza de este razonamiento: ¿es estocástico, estructurado o caótico? Los autores postulan que los LLMs pueden ser vistos como sistemas dinámicos no lineales de alta dimensión, donde la generación autorregresiva de tokens corresponde a una regla de evolución de tiempo discreto. El problema central abordado es si la evolución interna de las representaciones de los LLMs exhibe firmas genuinas de caos determinista, específicamente sensibilidad a las condiciones iniciales, divergencia acotada y estructuras fractales, y cómo los componentes arquitectónicos contribhen a estas dinámicas.

Metodología
Los autores aplican herramientas de la dinámica no lineal y la teoría del caos para analizar tanto los resultados de texto como las trayectorias de los estados ocultos de los LLMs. La metodología integra tres enfoques analíticos primarios:

1. Análisis de Trayectorias: Los autores tratan las secuencias de estados ocultos y los embeddings de oraciones como trayectorias en un espacio de fase de alta dimensión. Emplean múltiples métricas de distancia complementarias (Coseno, Dynamic Time Warping, Fréchet Discreto, Hausdorff y Disimilitud de Correlación Cruzada) para cuantificar la divergencia entre trayectorias iniciadas desde condiciones iniciales ligeramente perturbadas.
2. Diagnóstico de Caos:
   • Exponentes de Lyapunov: Estiman los exponentes de Lyapunov máximos ajustando modelos de crecimiento exponencial al crecimiento inicial de la divergencia entre trayectorias cercanas antes de la saturación. También utilizan el "tiempo de primera divergencia" (el número de tokens hasta que las trayectorias seleccionan diferentes tokens) como una cantidad característica robusta.
   • Gráficos de Recurrencia: Se utilizan para visualizar la estructura geométrica y temporal de las trayectorias, buscando estructuras de líneas diagonales indicativas de caos determinista.
   • Estimación de Dimensionalidad: Se calcula la dimensión de correlación ($D_2$) utilizando el algoritmo de Grassberger–Procaccia para determinar si las trayectorias evolucionan en variedades de baja dimensión o en espacios estocásticos de alta dimensión.
3. Análisis de Jacobiano a Nivel de Operador: Para conectar las observaciones macroscópicas con los mecanismos microscópicos, los autores realizan un análisis de Jacobiano exacto de los subbloques individuales del Transformer (autoatención, redes de alimentación hacia adelante [FFN], normalización y conexiones residuales). Computan normas espectrales y factores de expansión isotrópicos para identificar qué componentes amplifican las perturbaciones ("estiramiento") y cuáles las suprimen ("plegado").

Los experimentos se realizaron principalmente en el modelo DeepSeek-R1-Distill-Qwen-1.5B, con replicación en el modelo Phi-4-mini-instruct. Las perturbaciones se aplicaron en el espacio de embeddings para asegurar una magnitud controlada.

Contribuciones Clave y Resultados

• Evidencia de Firmas Caóticas: El estudio demuestra que los LLMs exhiben firmas características de caos. Las trayectorias que parten de condiciones iniciales infinitesimalmente cercanas muestran una fuerte sensibilidad, caracterizada por un periodo inicial de similitud latente seguido de una divergencia intermitente y de tipo salto una vez que una perturbación cruza el umbral de muestreo de tokens. Este comportamiento es consistente a través de diferentes métricas de distancia y espacios de representación (estados ocultos frente a embeddings de oraciones).
• Descomposición Mecanicista del Caos: El análisis de Jacobiano exacto revela los roles arquitectónicos específicos en la conducción del caos:
  • Estiramiento (Stretching): Los bloques de autoatención y de alimentación hacia adelante (MLP) poseen normas espectrales mayores que 1, expandiendo activamente las perturbaciones. El mecanismo de autoatención, en particular, introduce un fuerte acoplamiento no lineal que propaga las perturbaciones a través de la secuencia.
  • Plegado (Folding): Las capas de normalización actúan como proyecciones ortogonales escaladas que aniquilan el componente radial (el más expansivo) de las perturbaciones, contrarrestando la expansión.
  • Propagación: Las conexiones residuales preservan los componentes de perturbación supervivientes, permitiéndoles persistir y crecer a través de las capas a pesar del efecto de limitación de la normalización.
• Dinámica por Capas: El análisis revela una transición en el comportamiento dinámico a través de la profundidad de la red. Las capas tempranas se comportan de manera similar a embeddings aleatorios de alta dimensión con dinámicas estocásticas no correlacionadas. En contraste, las capas más profundas organizan las trayectorias en variedades estructuradas de baja dimensión. Los gráficos de recurrencia muestran que las características caóticas (líneas diagonales fragmentadas) se vuelven más pronunciadas en las capas más profundas, y las estimaciones de la dimensión de correlación indican un cambio hacia estructuras deterministas de baja dimensión.
• Rol de la Ventana de Atención: La dependencia de la divergencia respecto al tamaño de la ventana de atención confirma que la autoatención es el portador del crecimiento de la perturbación caótica. Se observó un comportamiento no monotónico donde los tamaños de ventana intermedios podían estabilizar la dinámica al suprimir los efectos de la perturbación, mientras que las ventanas grandes permitían una divergencia retardada pero constante.
• Estructura Fractal: El análisis de dimensionalidad revela que, si bien el espacio de estado oculto ambiente es de alta dimensión ($D=1536$), la dimensión efectiva de las trayectorias en las capas finales es órdenes de magnitud menor, lo que sugiere una evolución sobre una variedad de tipo fractal.

Significancia y Reivindicaciones
El artículo afirma proporcionar un marco principista para interpretar el comportamiento de los LLM a través de la lente de la dinámica no lineal, yendo más allá de las descripciones puramente estadísticas. Los autores argumentan que la coexistencia de una generación acotada y la sensibilidad a las condiciones iniciales es una característica definitoria de los modelos, situándolos operativamente cerca del "borde del caos". Se sugiere que este régimen maximiza la propagación de información y la expresividad computacional sin sacrificar la estabilidad global.

El estudio cierra la brecha entre los diagnósticos macroscópicos a nivel de trayectoria y las explicaciones mecanicistas microscópicas, mostrando que el acoplamiento no lineal inducido por la autoatención es central para impulsar el comportamiento caótico. Los autores señalan modestamente que sus hallazgos se basan en modelos específicos y que las técnicas clásicas de análisis de caos requieren adaptación para entornos de alta dimensión, discretos y parcialmente estocásticos. Enfatizan que métricas como los exponentes de Lyapunov y las dimensiones fractales deben verse como herramientas de diagnóstico comparativo más que como invariantes precisas en este contexto. En última instancia, el trabajo sugiere que las herramientas de la teoría de sistemas complejos ofrecen una vía prometedora para comprender la dinámica interna, la robustez y las capacidades de razonamiento emergente de los grandes modelos de lenguaje.