Dynamics of the Transformer Residual Stream: Coupling Spectral Geometry to Network Topology

Resumen Técnico: Dinámica del Flujo Residual del Transformer

Enunciado del Problema
Aunque los Modelos de Lenguaje Grandes (LLM) demuestran capacidades notables, los mecanismos por los cuales la computación se propaga a través de sus capas permanecen poco comprendidos. Las herramientas existentes de interpretabilidad, como el análisis de circuitos y los autoencoders dispersos, identifican qué representan los componentes pero no logran explicar cómo se amplifican, comprimen o redirigen las perturbaciones a través de las capas. La teoría de los sistemas dinámicos ofrece un formalismo para esto, tratando la profundidad como tiempo discreto y el flujo residual como un sistema dinámico. Sin embargo, los análisis anteriores han dependido de resúmenes escalares, linealizaciones aproximadas o estudios realizados únicamente en la inicialización aleatoria. En consecuencia, la geometría espectral completa de los jacobianos de escala de producción entrenados —específicamente sus distribuciones de valores propios, estructuras de no normalidad y dinámicas rotacionales— permanece sin caracterizar. Además, la relación entre la topología computacional de una red (estructura comunitaria) y su comportamiento dinámico no ha sido probada a escala.

Metodología
Los autores realizan una caracterización espectral completa de tres transformers de solo decodificador de escala de producción: Llama 3.1 8B, OLMo 3 7B y Gemma 4 E4B.

• Cálculo del Jacobiano: Se calculan jacobianos exactos por muestra ($J_\ell = \partial h_{\ell+1} / \partial h_\ell$) en cada límite de subcapa (pre-atención y pre-MLP) a través de 1.000 muestras de WikiText-2.
• Análisis Espectral: Se realiza una descomposición propia completa y una descomposición en valores singulares (SVD) sobre los jacobianos medios. Las métricas clave incluyen números de condición, autoalineación (solapamiento entre subespacios singulares de entrada/salida), desviación de Henrici (medida de no normalidad) y la fracción de modos expansivos.
• Descomposición Entrenamiento vs. Arquitectura: Utilizando OLMo 3 7B, el estudio compara tres puntos de control: Paso 0 (inicialización aleatoria), Paso 471k y Paso 1.41M (preentrenamiento final). Dado que el Paso 0 comparte la arquitectura y la profundidad pero carece de pesos aprendidos, sirve como modelo nulo para distinguir los priores arquitectónicos de las propiedades inducidas por el entrenamiento.
• Análisis Topológico: Se construyen grafos de correlación de activación para cada capa, particionados en comunidades utilizando Leiden CPM firmado. El estudio analiza el acoplamiento entre la topología comunitaria (específicamente los "nodos frontera" que conectan múltiples comunidades) y las dinámicas del jacobiano.
• Intervención: Se utiliza la descomposición de Schur para aislar el componente no normal ($N_\ell$) del jacobiano. Al escalar $N_\ell$ manteniendo fijos el espectro ($\Lambda_\ell$) y la base ($Q_\ell$), los autores prueban si los cuellos de botella dimensionales observados surgen del espectro de valores propios o de la estructura feedforward no normal.

Resultados Clave

1. Gradiente Monótono de No Normalidad:
   Los modelos entrenados exhiben una transición distinta dependiente de la profundidad en el tipo de operador. Las capas tempranas están dominadas por dinámicas no normales y ricas en rotación (aproximadamente el 98% de los valores propios aparecen como pares conjugados complejos), mientras que las capas tardías transicionan hacia operadores casi simétricos. Este gradiente se aprende en gran medida; en la inicialización (OLMo Paso 0), las capas ya son casi simétricas, y el entrenamiento atrae las capas tempranas y medias hacia la rotación.

2. Cuello de Botella Dimensional Acumulativo:
   Componer los jacobianos de extremo a extremo revela un estrechamiento severo de las perturbaciones. En Llama 3.1 8B, la rango efectivo del jacobiano acumulativo cae de ~436 (una sola capa) a ~7 (profundidad completa), lo que significa que solo un puñado de canales efectivos sobreviven desde la incrustación hasta el logit. Este colapso no es arquitectónico (el rango efectivo permanece alto en el Paso 0) sino que es instalado por el entrenamiento. Crucialmente, los experimentos de cirugía de Schur muestran que eliminar el componente no normal ($N_\ell$) mientras se preserva el espectro disuelve en gran medida este cuello de botella, indicando que el embudo es una propiedad de la estructura feedforward no normal entrenada, no de los valores propios.

3. Acoplamiento Topología-Dinámica:
   El estudio identifica un acoplamiento aprendido entre la topología comunitaria de la red y sus dinámicas. Las unidades que conectan múltiples comunidades del grafo de activación (nodos frontera) son amplificadas o suprimidas preferentemente por el jacobiano.

   • Dependencia del Signo: El signo de este acoplamiento está determinado por el tipo de operador local. En capas casi simétricas, las unidades frontera se amplifican. En capas fuertemente no normales, se desamplifican.
   • Emergencia: Este acoplamiento está ausente en la inicialización y emerge monótonamente durante el entrenamiento. En OLMo, el número de capas con significancia FDR aumenta de 0 (Paso 0) a 14 (Paso 471k) y a 24 (Paso 1.41M).

Significado y Afirmaciones
El artículo afirma proporcionar la primera descripción completa a nivel de valores propios de los jacobianos de transformers de escala de producción después del entrenamiento. Sus contribuciones principales son:

• Cubrir la Brecha: Cierra la brecha entre la teoría del tiempo de inicialización (que no predice ninguna de estas estructuras) y las linealizaciones aproximadas (que no pueden resolver las dinámicas rotacionales que dominan el espectro).
• Insight Mecanístico: Demuestra que el "colapso dimensional" observado en los LLM es una propiedad aprendida impulsada por la no normalidad, no una inevitabilidad arquitectónica ni un artefacto espectral.
• Vínculo Topología-Dinámica: Establece que la topología funcional de la red (estructura comunitaria) no es solo una característica estática, sino que interactúa dinámicamente con la propagación de señales, siendo la naturaleza de esta interacción (amplificación vs. supresión) una función aprendida del tipo de operador de la capa.

Los autores señalan que, aunque la estructura comunitaria a mesoescala en sí misma es parcialmente arquitectónica (presente en la inicialización), el acoplamiento específico entre los nodos frontera y la amplificación del jacobiano es un fenómeno aprendido. El trabajo sugiere que los futuros esfuerzos de interpretabilidad deben tener en cuenta la geometría espectral completa, particularmente la no normalidad y las dinámicas rotacionales, en lugar de depender únicamente de las descomposiciones en valores singulares.