Different types of syntactic agreement recruit the same units within large language models

Resumen Técnico: Localización Funcional de la Concordancia Sintáctica en LLMs

1. Planteamiento del Problema

Aunque los Modelos de Lenguaje Grandes (LLMs) demuestran una capacidad robusta para distinguir entre oraciones gramaticales y no gramaticales, la arquitectura interna que soporta este conocimiento gramatical sigue siendo un "caja negra". La pregunta central es: ¿Cómo se representan y ejecutan las reglas gramaticales dentro de los modelos?
Específicamente, los autores investigan si diferentes fenómenos sintácticos (por ejemplo, concordancia sujeto-verbo, anáfora, determinante-sustantivo) activan componentes distintos y especializados del modelo, o si, por el contrario, comparten un sustrato funcional común. Hasta ahora, la mayoría de los estudios se han centrado en fenómenos aislados (como la concordancia sujeto-verbo) o en representaciones distribuidas, sin un marco unificado para localizar las unidades causales a través de múltiples fenómenos y lenguas.

2. Metodología

El estudio adopta un enfoque de interpretabilidad mecánica inspirado en la localización funcional de las neurociencias cognitivas. En lugar de tratar al modelo como una "caja negra" basada solo en el comportamiento (probabilidades), buscan identificar las unidades neuronales específicas (neuronas o "unidades" en las capas residuales) que son responsables de tareas sintácticas concretas.

• Modelos Analizados: Siete LLMs de pesos abiertos de diferentes arquitecturas y tamaños (de 1.5B a 7.2B parámetros), incluyendo GPT-2-XL, Llama-3.2, Falcon3, Phi-4, Gemma-3, DeepSeek y Mistral.
• Datos y Benchmarks:
  • Inglés: BLiMP (67 fenómenos sintácticos agrupados en 12 categorías), más materiales adicionales de Linzen et al. (2016), Gulordava et al. (2018) y Gauthier et al. (2020).
  • Multilingüe: RuBLiMP (Ruso, 45 fenómenos) y SLING (Chino, 38 fenómenos).
  • Cross-lingüístico: MultiBLiMP (57 lenguas) para analizar la concordancia sujeto-verbo.
• Procedimiento de Localización:
  1. Detección: Se calcula la magnitud de activación de las unidades en el residual stream (flujo residual) para pares de oraciones mínimas (gramaticales vs. no gramaticales). Se utiliza una prueba t de Welch para identificar las unidades con la mayor diferencia de activación (top-k, principalmente el top-1%).
  2. Validación de Consistencia: Se realiza validación cruzada (2-fold y 5-fold) para asegurar que las unidades identificadas generalizan a nuevas instancias del mismo fenómeno.
  3. Validación Causal (Ablación): Se eliminan (ablan) las unidades identificadas (zero-ablation) y se mide la caída en la precisión del modelo en la tarea de juicio de gramaticalidad. Esto confirma que las unidades no son solo correlativas, sino causales para el rendimiento.
  4. Análisis de Superposición: Se calcula la intersección de los conjuntos de unidades entre diferentes fenómenos y categorías sintácticas.

3. Contribuciones Clave

1. Identificación de Unidades Responsivas a la Sintaxis: Se han localizado unidades en siete LLMs que responden consistentemente a 67 fenómenos sintácticos y que son causalmente necesarias para el rendimiento del modelo en esas tareas.
2. La Concordancia como Categoría Funcional: Se demuestra que, a diferencia de otros fenómenos sintácticos que parecen tener unidades idiosincrásicas, los diferentes tipos de concordancia (sujeto-verbo, anáfora, determinante-sustantivo) reclutan conjuntos de unidades superpuestos. Esto sugiere que la "concordancia" constituye una categoría funcional coherente dentro de la arquitectura del LLM.
3. Generalización Cross-Lingüística: El patrón de superposición de unidades para la concordancia se replica en ruso y chino. Además, se establece una relación cuantitativa: la superposición de unidades entre lenguas aumenta con la similitud sintáctica entre ellas.

4. Resultados Principales

• Consistencia y Causalidad:

  • Las unidades identificadas para un fenómeno específico muestran una alta consistencia en su reclutamiento a través de diferentes oraciones (superposición promedio del 63% al 95% en validación cruzada).
  • La ablación de estas unidades provoca una caída significativa en la precisión (promedio del 7.61% en los modelos analizados), muy superior a la ablación de unidades aleatorias (1.68%), confirmando su papel causal.

• Estructura de Superposición (Intra-idioma):

  • Al analizar las 67 parejas de fenómenos, se observa que los fenómenos dentro de la misma categoría teórica a menudo comparten unidades.
  • Hallazgo Crítico: Las tres categorías de concordancia (concordancia determinante-sustantivo, sujeto-verbo y anáfora) muestran una superposición interna muy alta (hasta 68.91% para determinante-sustantivo) y, crucialmente, superposición significativa entre ellas (15-23%). Esto indica que comparten recursos computacionales.
  • Otros fenómenos (como estructuras de argumentos o elipsis) muestran menos superposición interna, sugiriendo que se procesan de manera más modular o específica.

• Análisis Cross-Lingüístico:

  • Inglés vs. Ruso/Chino: Las unidades relacionadas con la concordancia en ruso y chino muestran superposición con las del inglés, aunque menor que la superposición intra-idioma.
  • Similitud Sintáctica: En un análisis de 57 lenguas utilizando MultiBLiMP, se encontró una correlación positiva fuerte ($\rho = 0.46$) entre la similitud sintáctica de dos lenguas y la superposición de sus unidades para la concordancia sujeto-verbo. Por ejemplo, el inglés y el ruso (más similares sintácticamente) comparten más unidades que el inglés y el chino.

• Distribución en la Arquitectura:

  • Las unidades de concordancia se concentran principalmente en las capas finales del modelo y en los módulos MLP (Perceptrones de Capa Multicapa), mientras que fenómenos de dependencia a larga distancia (como filler-gap) reclutan más unidades de atención en capas iniciales.

5. Significado e Implicaciones

• Para la IA y la Interpretabilidad: El estudio refuta la idea de que los LLMs poseen unidades de procesamiento sintáctico genéricas para todo. En su lugar, sugiere una organización híbrida: fenómenos específicos tienen unidades propias, pero la concordancia sintáctica emerge como una categoría funcional unificada. Esto proporciona un mapa más preciso de cómo se organiza el conocimiento gramatical en las redes neuronales.
• Para la Lingüística Computacional: La validación de que la categoría de "concordancia" es funcionalmente coherente en modelos entrenados sin etiquetas lingüísticas explícitas apoya la existencia de representaciones abstractas en los LLMs.
• Para las Neurociencias Cognitivas: Los hallazgos ofrecen hipótesis comprobables para la neurociencia humana. Si los LLMs organizan la concordancia de manera unificada, se podría investigar si el cerebro humano también muestra una mayor superposición neural para diferentes tipos de concordancia en comparación con otros fenómenos sintácticos. Además, la relación entre similitud lingüística y superposición neuronal en modelos multilingües sugiere que los sistemas biológicos podrían organizar el procesamiento del lenguaje de manera similar.

En conclusión, el trabajo demuestra que los LLMs no solo aprenden reglas gramaticales, sino que las implementan mediante una arquitectura organizada donde la concordancia sintáctica actúa como un módulo funcional compartido, cuya organización refleja la estructura tipológica de las lenguas.