💬 NLP

Disentangling Direction and Magnitude in Transformer Representations: A Double Dissociation Through L2-Matched Perturbation Analysis

Este estudio demuestra que en las arquitecturas de Transformers basadas en LayerNorm, la dirección y la magnitud de los estados ocultos cumplen funciones computacionales disociadas, donde la dirección gobierna el enrutamiento de la atención y la magnitud modula la intensidad del procesamiento sintáctico, un hallazgo que depende de la elección arquitectónica y no se replica en modelos con RMSNorm.

Autores originales: Mangadoddi Srikar Vardhan, Lekkala Sai Teja

Publicado 2026-02-13

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Mangadoddi Srikar Vardhan, Lekkala Sai Teja

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que el cerebro de una Inteligencia Artificial (como los modelos de lenguaje que escriben textos) no es una caja negra mágica, sino una habitación llena de mensajes flotantes. Cada mensaje es un vector: una flecha invisible que tiene dos cosas importantes:

Su Dirección: ¿Hacia dónde apunta la flecha? (¿Es hacia el norte, hacia el sur, hacia "gato" o hacia "perro"?).
Su Magnitud: ¿Qué tan larga es la flecha? (¿Es un susurro corto o un grito largo?).

Durante mucho tiempo, los científicos pensaron que solo importaba la dirección. Creían que la longitud de la flecha era solo "ruido" o un detalle sin importancia, como el volumen de una radio que no cambia la canción.

Pero este paper (artículo científico) descubre algo fascinante: ambas cosas son vitales, pero hacen trabajos completamente diferentes.

Aquí te explico lo que descubrieron, usando analogías sencillas:

1. El Experimento: "La Prueba de la Flecha"

Los investigadores tomaron estos modelos de IA (llamados Pythia) y les hicieron una cirugía delicada. En lugar de borrar los mensajes, los modificaron de dos formas, pero asegurándose de que el "esfuerzo" de cambiarlos fuera exactamente el mismo:

Giro (Dirección): Rotaron la flecha un poco sin cambiar su largo.
Estirón (Magnitud): Alargaron o acortaron la flecha sin cambiar su dirección.

2. El Descubrimiento: La "Doble Desconexión"

Lo que encontraron fue una sorpresa total. Es como si cambiar la dirección de un coche afectara a una cosa, y cambiar su velocidad afectara a otra totalmente distinta.

Si giras la flecha (cambias la dirección):
- El desastre: La IA pierde la capacidad de escribir bien. Se vuelve confusa, hace errores gramaticales graves y no sabe qué palabra sigue.
- La analogía: Imagina que tienes un GPS. Si cambias la dirección del coche (hacia el norte en vez del sur), te pierdes inmediatamente. La IA necesita la dirección para saber a dónde ir (qué palabra escribir a continuación).
- Resultado: El daño al lenguaje es enorme (hasta 43 veces más que cambiar el largo).
Si estiras la flecha (cambias la magnitud):
- El desastre: La IA sigue escribiendo palabras, pero pierde la gramática fina. Por ejemplo, si el sujeto es plural ("los perros"), la IA olvida que el verbo también debe ser plural ("corren" en vez de "corre").
- La analogía: Imagina que el GPS funciona, pero el volumen del motor cambia. El coche sigue yendo a la dirección correcta, pero pierde la fuerza para subir una colina o mantener el ritmo. La magnitud le dice a la IA qué tan importante o fuerte debe ser una idea para la gramática.
- Resultado: El daño a la gramática es enorme, pero el daño a la escritura general es pequeño.

3. ¿Por qué pasa esto? (El Mecanismo)

Los investigadores miraron dentro de la "caja negra" para ver por qué ocurre esto. Descubrieron que la IA tiene dos "tuberías" internas:

La tubería de la Atención (Dirección): La dirección de la flecha controla a quién mira la IA. Es como el sistema de tráfico que decide: "¡Oye, esta palabra debe mirar a esa otra palabra!". Si giras la flecha, el tráfico se cae y la IA no sabe conectar las ideas.
La tubería de la Normalización (Magnitud): La longitud de la flecha controla la "intensidad" del procesamiento. Es como el volumen de una conversación. Si la flecha es muy corta o muy larga, la IA pierde la pista de la estructura profunda de la oración (como saber quién es el sujeto y quién el objeto).

4. La Gran Advertencia: No sirve para todos

Lo más interesante es que esto no es una ley universal. Funciona en los modelos que usan un tipo de "filtro" llamado LayerNorm (como los modelos Pythia).

Pero, si usan un filtro diferente (RMSNorm, como en TinyLlama), ¡las reglas se invierten! En esos modelos, cambiar la longitud es lo que más daño hace. Esto nos dice que la arquitectura (el diseño del edificio) determina cómo se usan estas flechas.

En Resumen

Este paper nos enseña que en la mente de una IA:

La Dirección es el mapa: define el significado y la ruta (qué palabra sigue).
La Magnitud es el volumen/energía: define la estructura y la gramática (cómo encajan las piezas).

Antes pensábamos que solo importaba el mapa. Ahora sabemos que si cambias el volumen, la estructura de la oración se derrumba, aunque sepas a dónde ir. Es un paso gigante para entender cómo funcionan realmente estas máquinas y cómo podemos editarlas sin romperlas.

Resumen Técnico: Desentrañando Dirección y Magnitud en las Representaciones de Transformadores

1. El Problema

Las representaciones internas de los modelos de lenguaje basados en transformadores (hidden states) son vectores de alta dimensión. Una hipótesis influyente, la Hipótesis de Representación Lineal, sugiere que los conceptos semánticos se codifican como direcciones (orientaciones) específicas en el espacio de activación. Sin embargo, este marco teórico ha permanecido en silencio sobre el papel funcional de la magnitud (la norma L2 o longitud del vector).

Aunque se sabe que las normas de los vectores varían significativamente entre tokens, capas y contextos, no existía un marco sistemático para desentrañar si la dirección y la magnitud cumplen roles computacionales distintos o si son simplemente redundantes. Un desafío metodológico clave es que perturbar la dirección (rotación) y la magnitud (escalado) de forma independiente produce desplazamientos euclidianos diferentes, lo que hace imposible una comparación justa de su importancia relativa.

2. Metodología: Análisis de Perturbación Emparejada en L2

Para resolver el problema de confusión, los autores proponen una nueva metodología llamada Análisis de Perturbación Emparejada en L2 (L2-Matched Perturbation Analysis).

Principio Fundamental: Se garantiza que tanto las perturbaciones angulares (rotación de la dirección) como las de magnitud (escalado de la norma) produzcan el mismo desplazamiento euclidiano ( $\delta$ ) desde el vector original.
Formulación:
- Dado un vector oculto $h$ , se descompone en dirección unitaria $\hat{h}$ y magnitud $\|h\|$ .
- Se aplica una perturbación angular o de magnitud de tal manera que $\|h - h'_{ang}\| = \|h - h'_{mag}\| = \delta$ .
- Esto permite comparar causalmente el impacto de alterar la orientación frente a alterar la longitud, manteniendo constante la "cantidad" de ruido introducido en el espacio de representación.
Protocolo Experimental:
- Se aplicaron perturbaciones a las capas intermedias (8-15) de modelos de la familia Pythia (410M y 1.4B parámetros).
- Se evaluaron dos métricas de salida:
  1. Pérdida de Modelado de Lenguaje (LM Loss): Capacidad de predecir el siguiente token.
  2. Precisión Sintáctica: Rendimiento en pares mínimos de concordancia sujeto-verbo (conjunto BLiMP).

3. Contribuciones Clave

Descubrimiento Empírico: Identificación de una dissociación cruzada (crossover dissociation): la perturbación angular afecta desproporcionadamente la pérdida de lenguaje, mientras que la perturbación de magnitud afecta desproporcionadamente la precisión sintáctica.
Innovación Metodológica: Introducción del emparejamiento L2, permitiendo por primera vez una comparación controlada entre la importancia funcional de la dirección y la magnitud.
Análisis Mecanístico: Evidencia causal de que la dirección y la magnitud fluyen a través de vías computacionales parcialmente distintas (Atención vs. Normalización de Capa).
Refinamiento Teórico: Propuesta de una versión extendida de la Hipótesis de Representación Lineal que incorpora la especialización funcional de las propiedades geométricas en arquitecturas basadas en LayerNorm.

4. Resultados Principales

A. Dissociación Conductual (Doble Dissociación)

Impacto en la Pérdida (LM Loss): Las perturbaciones angulares causan un daño mucho mayor. En desplazamientos pequeños ( $\delta=1.0$ ), la rotación de la dirección aumenta la pérdida 42.9 veces más que el escalado de la magnitud. Esto sugiere que la dirección es crítica para la información semántica y la predicción de tokens.
Impacto en la Sintaxis: El patrón se invierte. Las perturbaciones de magnitud causan una caída drástica en la precisión de concordancia sujeto-verbo (20.4% de caída a $\delta=5$ ), mientras que las perturbaciones angulares apenas la afectan (1.6%).
Generalización de Escala: Este patrón se replica y se amplifica en el modelo Pythia-1.4B, sugiriendo que los modelos más grandes dependen aún más de la información direccional para el modelado de lenguaje.

B. Análisis Mecanístico (Vías Causales)
Mediante experimentos de "reparación" (patching causal), los autores identificaron dos vías distintas:

Vía Dirección $\rightarrow$ Atención:
- Reparar los patrones de atención recupera el 28.4% del daño causado por perturbaciones angulares (vs. 15.2% para magnitud).
- Conclusión: La dirección gobierna el enrutamiento de la atención (qué token atiende a cuál). Corromper la dirección desestabiliza el flujo de información.
Vía Magnitud $\rightarrow$ LayerNorm:
- Reparar las salidas de LayerNorm recupera el 29.9% del daño causado por perturbaciones de magnitud (vs. 13.7% para dirección).
- Conclusión: La magnitud modula la intensidad del procesamiento a través de vías mediadas por LayerNorm.
- Hallazgo Adicional: La magnitud se correlaciona significativamente con la profundidad del árbol de análisis sintáctico (parse depth). Perturbar la magnitud destruye esta información estructural, explicando por qué la sintaxis sufre más.

C. Limitación Arquitectónica Crítica
El patrón de disociación no es universal.

En Pythia/OPT (usan LayerNorm), se observa la disociación descrita arriba.
En TinyLlama (usa RMSNorm), el patrón se invierte completamente: las perturbaciones de magnitud causan más daño a la pérdida de lenguaje que las angulares.
Esto indica que el rol funcional de la magnitud depende fundamentalmente del tipo de normalización utilizado en la arquitectura.

5. Significado e Implicaciones

Refinamiento de la Hipótesis de Representación Lineal: La dirección codifica "qué" es un token (categoría semántica/sintáctica), mientras que la magnitud codifica "dónde" está estructuralmente (profundidad de árbol) y modula "cómo" se procesa esa información.
Edición de Modelos: Para editar modelos, se debe preservar la dirección si el objetivo es mantener la calidad del lenguaje y el conocimiento factual, y preservar la magnitud si se busca mantener la coherencia sintáctica y la estructura.
Interpretabilidad: Las técnicas actuales de análisis (como el probing) operan sobre vectos completos. Separar dirección y magnitud podría revelar flujos de información distintos: la dirección para contenido semántico y la magnitud para señales de posición estructural e intensidad de procesamiento.
Dependencia Arquitectónica: El hallazgo de que la disociación cambia entre LayerNorm y RMSNorm subraya que las elecciones arquitectónicas definen fundamentalmente cómo los transformadores utilizan las propiedades geométricas de sus representaciones.

En conclusión, el trabajo demuestra que la geometría de las representaciones en los transformadores no es un contenedor pasivo, sino que la dirección y la magnitud desempeñan roles computacionales especializados y parcialmente distintos, mediados por diferentes componentes de la arquitectura (Atención vs. LayerNorm).