Do Language Models Encode Semantic Relations? Probing and Sparse Feature Analysis

Resumen Técnico: Codificación de Relaciones Semánticas en Modelos de Lenguaje

1. Planteamiento del Problema

Aunque los Grandes Modelos de Lenguaje (LLMs) demuestran capacidades impresionantes en tareas de lenguaje natural, sigue siendo un desafío fundamental entender cómo representan internamente las relaciones estructuradas entre conceptos. La investigación interpretativa previa se ha centrado en conceptos individuales, pero la naturaleza de las relaciones semánticas (como sinónimos, antónimos, hiperónimos e hipónimos) permanece en gran medida inexplorada.

El problema central es determinar si los LLMs poseen una comprensión estructural de estas relaciones o si simplemente dependen de asociaciones superficiales y memorización léxica. Específicamente, los autores buscan responder:

• ¿Existen señales de relaciones semánticas dentro de las representaciones internas de los LLMs?
• ¿Dónde se localizan estas señales a través de las capas y componentes del modelo?
• ¿Qué tan robustas y manipulables son estas señales mediante intervenciones causales?

2. Metodología

Los autores emplean un enfoque híbrido que combina sondeo lineal (linear probing) con técnicas de interpretabilidad mecánica (Sparse Autoencoders - SAE y parcheo de activaciones).

• Modelos Analizados: Se estudiaron tres modelos de escalas crecientes para evaluar el efecto del tamaño:
  • Pythia-70M (6 capas, 70M parámetros).
  • GPT-2-124M (12 capas, 124M parámetros).
  • Llama 3.1 8B (32 capas, 8B parámetros).
• Dataset: Se construyó un conjunto de datos basado en WordNet, extrayendo 1,000 pares para cada una de las cuatro relaciones semánticas:
  1. Sinonimia: Misma significación (ej. happy → joyful).
  2. Antonimia: Significados opuestos (ej. happy → sad).
  3. Hiperonimia: Término más general (ej. dog → animal).
  4. Hiponimia: Término más específico (ej. dog → beagle).
  • Se incluyó un control de pares aleatorios sin relación semántica.
• Técnicas de Análisis:
  • Sondeo Lineal: Se entrenaron clasificadores logísticos multinomiales sobre las activaciones de cada capa (salida de atención, salida MLP y flujo post-residual) para predecir el tipo de relación. Se midió la precisión media, la precisión pico y la profundidad del pico.
  • Sparse Autoencoders (SAE): Se utilizaron SAEs preentrenados para descomponer las activaciones en características latentes dispersas y monosemánticas.
  • Parcheo de Activaciones (Activation Patching): Se aplicaron intervenciones causales:
    • Necesidad: Ablación (eliminación) de las características SAE top-k en ejemplos que contienen la relación para ver si la señal colapsa.
    • Suficiencia: Inyección de las características SAE top-k en entradas neutras para ver si se genera la señal de la relación.
  • Métrica Causal: Se definió la Diferencia de Logit Semántica (LDsem) para medir la certeza del modelo en la relación objetivo frente a su competidor semántico más cercano.

3. Contribuciones Clave

1. Comparación Sistemática a Múltiples Escalas: Evaluación exhaustiva de cómo la codificación de relaciones semánticas evoluciona desde modelos pequeños (70M) hasta grandes (8B).
2. Marco Integrado de Interpretación: Desarrollo de un pipeline que vincula el análisis de características dispersas (SAE) con evidencia causal a nivel de sondeo, permitiendo identificar qué características específicas son necesarias y suficientes para las relaciones.
3. Descubrimiento de Asimetrías Jerárquicas: Identificación de una direccionalidad asimétrica en las relaciones jerárquicas (hiperónimos vs. hipónimos) que no se había caracterizado tan detalladamente antes.
4. Evidencia de Causalidad a Nivel de Características: Demostración de que en modelos grandes (Llama 3.1), es posible manipular causalmente la detección de relaciones mediante la intervención en un pequeño subconjunto de características SAE.

4. Resultados Principales

A. Dificultad y Ordenamiento de Relaciones
Existe un orden de dificultad consistente en todos los modelos y escalas:

1. Antonimia: La más fácil de detectar (precisión más alta).
2. Hiponimia.
3. Hiperonimia.
4. Sinonimia: La más difícil de decodificar y la menos afectada por parcheo de activaciones.

B. Localización y Distribución

• Capas: No existen "capas de relación" únicas y estables. La información se distribuye de manera difusa, con picos de señal en las capas medias (alrededor del 50% de la profundidad).
• Componentes: La señal es más fuerte en el flujo post-residual y en los componentes MLP que en la atención. La ventaja de la atención es débil y específica de la relación.
• Similitud Cosínosa: La similitud vectorial bruta (cosine similarity) es un indicador engañoso; no distingue bien entre sinónimos y antónimos, ya que ambos pueden compartir contextos distribucionales. La información relacional reside en activaciones internas específicas, no en la proximidad global del embedding.

C. Asimetría Jerárquica (Hiperonimia vs. Hiponimia)

• Hiperonimia (Generalización): Se codifica de manera redundante. Es fácil de fortalecer (alta suficiencia) pero difícil de suprimir (baja necesidad). El modelo es robusto a la perturbación de esta relación.
• Hiponimia (Especificación): Se basa en un conjunto compacto de características. Es tanto necesario como suficiente; por lo tanto, es más vulnerable a la ablación.
• Direccionalidad: Al invertir el orden de los pares (ej. "animal" → "dog" vs "dog" → "animal"), la precisión para hipónimos cae drásticamente, mientras que la de hiperónimos se mantiene estable, revelando un sesgo en la codificación de la dirección jerárquica.

D. Escala y Causalidad

• Dependencia de la Capacidad: En modelos pequeños (Pythia, GPT-2), las intervenciones causales (parcheo) tienen efectos débiles o inestables.
• Llama 3.1 8B: Muestra efectos causales fuertes y fiables. El parcheo guiado por SAE puede desplazar consistentemente las señales de las relaciones, confirmando que las características identificadas son causalmente responsables de la predicción de la relación en modelos grandes.

5. Significado e Implicaciones

Este trabajo proporciona una comprensión más profunda de la arquitectura interna de los LLMs:

• Más allá de la Similitud: Confirma que los modelos no solo aprenden similitud superficial, sino que desarrollan representaciones estructuradas y sensibles al rol (especialmente en relaciones jerárquicas).
• Robustez y Manipulación: La diferencia entre la redundancia de los hiperónimos y la fragilidad de los hipónimos sugiere estrategias distintas para la ingeniería de prompts o el ajuste fino (fine-tuning) dependiendo del tipo de relación que se quiera potenciar o corregir.
• Herramienta para la Interpretabilidad: El marco propuesto (SAE + Parcheo + Sondas) establece un estándar reproducible para vincular características dispersas con evidencia causal, superando las limitaciones de las sondas puramente correlacionales.
• Aplicaciones Prácticas: Estos hallazgos pueden guiar intervenciones dirigidas en tareas que dependen de conocimiento relacional, como la finalización de ontologías, la inferencia textual y la recuperación consciente de taxonomías.

En conclusión, el estudio demuestra que los LLMs codifican relaciones semánticas de manera estructurada, pero con patrones de distribución y robustez asimétricos que varían significativamente con la escala del modelo y el tipo de relación específica.