Semantic Structure of Feature Space in Large Language Models

1. Planteamiento del Problema

Aunque investigaciones recientes han establecido que características semánticas específicas (por ejemplo, engaño, rechazo, adulación) en Modelos de Lenguaje Grandes (LLM) se codifican como direcciones lineales en estados ocultos, el enfoque predominante trata estas características de forma aislada. Esta perspectiva asume que las características son ortogonales (independientes). Sin embargo, la investigación psicológica (específicamente la tradición del "diferencial semántico") sugiere que las asociaciones semánticas humanas están altamente intercorrelacionadas y pueden reducirse a un subespacio de baja dimensión (por ejemplo, Evaluación, Potencia, Actividad).

El artículo aborda una brecha crítica: ¿Las relaciones geométricas entre las características semánticas en los LLM reflejan las asociaciones psicológicas humanas? Específicamente, investiga si los espacios de características de los LLM están compuestos por ejes independientes o si exhiben una no ortogonalidad significativa (entrelazamiento) que refleja estructuras culturales y cognitivas humanas.

2. Metodología

El estudio emplea una metodología de múltiples pasos que combina datos de encuestas, análisis de activaciones y experimentos de intervención en modelos Llama 3 (3B y 70B) y modelos Qwen3.

A. Construcción de Datos

• Línea Base Humana: Una encuesta de 1.750 participantes calificó 360 palabras en 32 escalas semánticas (por ejemplo, hermoso-feo, suave-duro). Este conjunto de datos sirve como la verdad fundamental para las asociaciones semánticas humanas.
• Vectores de Características de LLM (Palabras): Para cada una de las 360 palabras, se extrajeron vectores de características de los estados ocultos del LLM.
  • Protocolo: Se utilizaron cuatro prompts por palabra (por ejemplo, "Cuéntame sobre {palabra}", "Define {palabra}").
  • Extracción: Las activaciones se recolectaron de capas específicas (Capa 8 para 3B, Capa 40 para 70B) y se promediaron a través de tokens y prompts para crear un único vector robusto por palabra.
• Ejes Semánticos de LLM: Se construyeron 32 ejes semánticos utilizando un diseño de pares contrastivos.
  • Para cada escala (por ejemplo, bueno-malo), se seleccionaron 10 pares de antónimos.
  • Se generaron vectores de características para cada antónimo, y el vector del eje se calculó como la diferencia media entre los vectores de antónimos positivos y negativos:
    $$\vec{f}_{eje} = \frac{1}{10} \sum_{j=1}^{10} (\vec{v}_{pos_j} - \vec{v}_{neg_j})$$

B. Técnicas Analíticas

1. Correlación de Proyección: Se proyectaron los vectores de características de las palabras sobre los ejes semánticos y se correlacionaron estas proyecciones con las calificaciones de la encuesta humana.
2. Alineación Geométrica: Se calcularon las Similitudes Coseno entre los propios ejes semánticos para probar si los ejes son no ortogonales. Estas similitudes geométricas se correlacionaron luego con las correlaciones por pares encontradas en los datos de la encuesta humana.
3. Reducción de Dimensionalidad: Se aplicó Análisis de Componentes Principales (PCA) tanto a los datos de la encuesta como a los ejes semánticos de los LLM para determinar si la varianza en ambos espacios se captura en un subespacio de baja dimensión (específicamente los primeros 3 componentes). Se utilizó Análisis de Correlación Canónica (CCA) para alinear los subespacios de los datos de LLM y humanos.
4. Intervenciones de Dirección (Steering): Para probar las implicaciones prácticas, los autores realizaron intervenciones de "dirección".
   • Mecanismo: Se añadió un vector de eje semántico escalado ($\alpha \hat{f}$) al flujo residual durante el paso hacia adelante de un prompt que pedía al modelo calificar una palabra.
   • Medición: Se midió el cambio en la probabilidad del modelo de seleccionar un antónimo específico (efecto de desbordamiento) en escalas fuera del objetivo.
   • Hipótesis: Si los ejes están alineados geométricamente, dirigir a lo largo de un eje debería causar efectos de desbordamiento predecibles en otros ejes proporcionales a su similitud coseno.

3. Contribuciones Clave

1. Validación de una Geometría Similar a la Humana: Demostró que la estructura geométrica de los espacios de características de los LLM no es aleatoria ni puramente ortogonal, sino que refleja estrechamente las asociaciones semánticas psicológicas humanas.
2. No Ortogonalidad de las Características: Probó que los ejes semánticos en los LLM son significativamente no ortogonales. La similitud coseno entre dos ejes en el modelo predice la correlación entre esas escalas en las encuestas humanas.
3. Subespacio de Baja Dimensión: Mostró que una parte sustancial de la varianza en las características semánticas de los LLM (como en los datos humanos) reside dentro de un subespacio de baja dimensión (aprox. 3 dimensiones), reproduciendo la estructura "Evaluación-Potencia-Actividad" encontrada en la psicología clásica.
4. Desbordamiento Predictivo de la Dirección: Estableció un vínculo causal entre la alineación geométrica y el comportamiento del modelo. Dirigir a un modelo a lo largo de un eje semántico induce efectos de "desbordamiento" predecibles en otros ejes, cuya magnitud está determinada por la similitud coseno entre los ejes.

4. Resultados Clave

• Correlación de Proyección: Existe una fuerte correlación positiva ($r > 0.3$ a $r > 0.8$) entre la proyección de vectores de palabras en ejes semánticos de LLM y las calificaciones humanas de esas palabras. Esto se mantiene tanto para modelos pequeños (3B) como grandes (70B).
• Correlación de Ejes: Las similitudes coseno entre los ejes semánticos de los LLM son altamente predictivas de las correlaciones entre esas escalas en la encuesta humana ($r \approx 0.8$). Esto confirma que la geometría interna del modelo codifica asociaciones culturales humanas.
• Alineación PCA:
  • Los datos de la encuesta humana se redujeron efectivamente a 3 dimensiones.
  • Los ejes semánticos de los LLM también mostraron que los primeros tres componentes principales explicaban la mayoría de la varianza (>45% para 3B, >33% para 70B).
  • El CCA reveló altas correlaciones entre los subespacios 3D del LLM y la encuesta humana, indicando que los modelos "piensan" sobre estos conceptos de una manera estructuralmente similar a los humanos.
• Desbordamiento de la Dirección:
  • Dirigir una palabra hacia un atributo específico (por ejemplo, hermoso) hizo que el modelo calificara la palabra más alto en atributos geométricamente similares (por ejemplo, suave).
  • Existe una fuerte relación lineal ($r \approx 0.65 - 0.68$) entre la similitud coseno de dos ejes y la magnitud del efecto de desbordamiento.
  • Nota: El modelo 70B mostró magnitudes de desbordamiento más pequeñas que el modelo 3B, lo que sugiere que los modelos más grandes son más resilientes a la dirección, pero la relación estructural (la geometría predice el desbordamiento) permanece consistente.

5. Significado e Implicaciones

• Más allá del Aislamiento: Los hallazgos desafían la visión de las características de los LLM como un catálogo de "perillas" independientes. En cambio, las características deben entenderse a través de sus relaciones geométricas y los subespacios que forman.
• Seguridad y Control de IA: Si las características críticas para la seguridad (por ejemplo, verdadero-falso, seguro-peligroso) residen en un subespacio compartido de baja dimensión, controlar una puede afectar inadvertidamente a otras debido al entrelazamiento geométrico. Esto complica la "dirección de características" pero también ofrece una forma de auditar modelos comprendiendo estas estructuras relacionales.
• Ingeniería de Representación: El estudio valida que las técnicas utilizadas en incrustaciones de palabras estáticas (como el análisis de ángulos y dimensiones culturales) son aplicables y fructíferas para las representaciones profundas de los LLM.
• Alineación Cognitiva: Los resultados sugieren que, a pesar de ser entrenados en texto crudo, los LLM desarrollan representaciones internas que se alinean estructuralmente con los modelos cognitivos humanos del mundo, reforzando la idea de que los LLM capturan estructuras semánticas humanas.

En conclusión, el artículo argumenta que la geometría del espacio de características es significativa para los humanos. Comprender los ángulos entre las características y los subespacios que definen es esencial para interpretar, auditar y controlar los Modelos de Lenguaje Grandes.