Resumen Técnico: Pesos de Contribución: Un Análisis Geométrico de los Transformers de Auto-Atención

1. Planteamiento del Problema

El análisis de los pesos de atención ($\alpha_{ij}$) se ha convertido en un enfoque estándar para interpretar el flujo de información en los Modelos de Lenguaje de Gran Escala (LLMs). Sin embargo, este enfoque se basa en la suposición implícita de que una gran masa de atención equivale a importancia funcional. Los autores argumentan que esta visión es incompleta porque ignora las propiedades geométricas de los vectores de valor que se están agregando. Específicamente, los pesos de atención por sí solos no logran contabilizar:

1. La magnitud (norma) de los vectores de valor.
2. La alineación direccional entre los vectores de valor y la salida de la capa final.

Ignorar estos factores conduce a conclusiones erróneas, como la malinterpretación de los "sumideros de atención" (attention sinks; tokens iniciales que reciben mucha atención pero contribuyen poco a la salida) y la sobreestimación de la importancia de los tokens con alta atención. Las medidas existentes que consideran el valor incorporan normas o distancias, pero a menudo pasan por alto el efecto crítico de la interferencia inter-token (constructiva o destructiva) causada por la alineación direccional.

2. Metodología

2.1. Marco Teórico

El artículo reformula la Atención de Multi-Cabeza (MHA) no simplemente como una suma ponderada de tokens brutos, sino como una suma ponderada de vectores de valor proyectados.
Dado una secuencia de entrada, la salida de una capa $l$ en la posición $i$ se expresa como:
$$o^{(l)}_i = \sum_{h=1}^H \sum_{j=1}^i \alpha^{(l,h)}_{ij} \tilde{v}^{(l,h)}_j$$
donde $\tilde{v}^{(l,h)}_j = x_j W^{(l,h)}_V W^{(l,h)}_O$ representa el vector de valor proyectado. Los autores postulan que la influencia de un token depende de tres factores:

1. Fuerza de Selección: El peso de atención $\alpha_{ij}$.
2. Magnitud: La norma del vector de valor proyectado $\|\tilde{v}_j\|$.
3. Alineación Direccional: La similitud de coseno entre el valor proyectado y la dirección de la salida, $\cos(o_i, \tilde{v}_j)$.

2.2. Pesos de Contribución

Para cuantificar la importancia de los tokens de manera fiel, los autores introducen los Pesos de Contribución ($c_{ij}$), una métrica basada en proyecciones definida como el producto interno normalizado del vector de valor ponderado y la dirección de la salida:
$$c_{ij} = \frac{\langle o_i, \alpha_{ij} \tilde{v}_j \rangle}{\|o_i\|^2} = \alpha_{ij} \frac{\|\tilde{v}_j\|}{\|o_i\|} \cos(o_i, \tilde{v}_j)$$
Esta métrica descompone la influencia del token en el producto del peso de atención, la magnitud relativa y la alineación direccional.

• Intra-cabeza: Mide la contribución dentro de una sola cabeza.
• Inter-cabeza: Mide la contribución a través de todas las cabezas proyectando los vectores ponderados específicos de cada cabeza sobre la salida combinada de multi-cabeza.
• Propiedades: A diferencia de los pesos de atención (que son no negativos y suman 1), los pesos de contribución pueden ser negativos (indicando interferencia destructiva) y suman 1 a lo largo de la dimensión de la secuencia.

2.3. Evaluación Experimental

Los autores evalúan la fidelidad de los pesos de contribución frente a las métricas existentes (atención bruta, atención ponderada por valor, atención normalizada por la salida ponderada por valor) utilizando:

• Intervenciones Causales: Enmascarar los valores proyectados de los tokens clasificados por importancia y medir el cambio en la perplejidad ($\Delta$PPL) en tareas de modelado de lenguaje (GSM8K, FineWeb-Edu) y tareas de downstream (MMLU, Winogrande, BoolQ).
• Métricas:
  • Comprensividad (Comprehensiveness): Caída en el rendimiento al eliminar tokens de alta importancia (mayor caída = mejor métrica).
  • Suficiencia (Sufficiency): Caída en el rendimiento al eliminar tokens de baja importancia (menor caída = mejor métrica).
• Modelos: Mistral-7B, LLaMA-3.1-8B, Qwen3-8B y Deepseek-7B.

3. Hallazgos Clave y Contribuciones

3.1. Fidelidad de los Pesos de Contribución

Los pesos de contribución superan consistentemente a las métricas basadas en la atención en la identificación de tokens semánticamente críticos.

• Comprensividad: Eliminar los tokens identificados como importantes por los pesos de contribución causa una caída significativamente mayor en el rendimiento del modelo (mayor $\Delta$PPL) en comparación con eliminar tokens identificados por la atención bruta o la atención ponderada por valor.
• Suficiencia: Los modelos mantienen una mayor precisión cuando se eliminan los tokens de baja importancia (definidos por los pesos de contribución), manteniendo el rendimiento base en tasas de eliminación más altas.
• Progresión Geométrica: El estudio demuestra una jerarquía clara de fidelidad: Atención Bruta < Atención Ponderada por Valor < Atención Normalizada por la Salida Ponderada por Valor < Pesos de Contribución. Esto confirma que incorporar la alineación direccional (similitud de coseno) es el factor más significativo para mejorar la precisión de la métrica.

3.2. Rol Mecanístico de la Geometría de los Valores

El artículo descompone las contribuciones de los tokens para revelar comportamientos distintos para diferentes tipos de tokens:

• Tokens Sumidero (Sink Tokens, Iniciales): Su contribución no es impulsada por los pesos de atención. En su lugar, está dominada por la geometría del valor (norma relativa y similitud de coseno). Los tokens iniciales exhiben anti-alineación (similitud de coseno negativa) con los tokens semánticos subsiguientes.
• Tokens de Cola (Tail Tokens): Su contribución está determinada conjuntamente por los pesos de atención y la alineación direccional.

3.3. Reinterpretación de los Sumideros de Atención

Los autores desafían la visión de los sumideros de atención como receptores pasivos de exceso de atención. En su lugar, revelan que los sumideros son supresores activos de información:

• Interferencia Destructiva: Los tokens sumidero poseen vectores de valor que están sistemáticamente anti-alineados con los tokens semánticos. Esto crea una interferencia destructiva, suprimiendo activamente la norma de la salida.
• Relación Convexa: La relación entre la tasa de sumidero (masa de atención en el primer token) y la norma de la salida es convexa, no monotónica. La norma mínima de la salida ocurre en una tasa de sumidero intermedia ($\alpha < 1$), no cuando el sumidero captura toda la atención.
• Contrarrestar la Deriva Semántica: Al oponerse a la dirección semántica de los tokens que no son sumideros, los sumideros anulan la deriva semántica introducida por la acumulación de muchos pesos de atención pequeños y débiles de tokens no críticos. Las intervenciones que eliminan la norma del vector del sumidero conducen a un colapso de las salidas de las cabezas de baja norma hacia el cono semántico, aumentando el ruido y la perplejidad.

4. Significado y Reivindicaciones

El artículo afirma que los Pesos de Contribución proporcionan una medida más fiel de la importancia funcional de los tokens al tener en cuenta la geometría completa de la suma de los vectores de atención.

• Perspectiva Mecanística: El trabajo cambia la comprensión de los sumideros de atención de absorbentes pasivos a supresores activos que estabilizan las representaciones al oponerse a la deriva semántica mediante la oposición direccional.
• Generalizabilidad: Aunque los experimentos se centran en modelos de solo decodificador (decoder-only), los autores afirman que los pesos de contribución dependen únicamente de la estructura del mecanismo de atención y son aplicables a cualquier arquitectura basada en atención (por ejemplo, modelos de solo codificador, ViTs).
• Limitaciones: El estudio se centra en transformadores de solo decodificador y conjuntos de datos específicos (GSM8K, FineWeb-Edu). Los autores señalan que, si bien su métrica es robusta en diversos dominios, los comportamientos geométicos específicos (como la anti-alineación de los sumideros) se observan en los modelos evaluados.

Los autores concluyen que analizar la geometría de los valores es esencial para una comprensión mecánica fiel de los transformadores, pasando del paradigma de "la atención como explicación" a una interpretación "consciente de la geometría".