Where Do Models Find Happiness? Emotion Vectors in Open-Source LLMs

Resumen Técnico: "¿Dónde encuentran la felicidad los modelos? Vectores de emoción en LLMs de código abierto"

Planteamiento del problema
Trabajos recientes de Sofroniew et al. (2026) identificaron "vectores de emoción" dentro del espacio de activación interna del modelo propietario Claude Sonnet 4.5. Se descubrió que estos vectores codifican conceptos emocionales, influyen causalmente en el comportamiento del modelo y exhiben una estructura geométrica que refleja marcos psicológicos humanos (específicamente el modelo circunflejo de Russell de valencia y activación/arousal). Sin embargo, no estaba claro si estos hallazgos eran específicos del régimen de entrenamiento único de Claude o si representan una propiedad general de los modelos de lenguaje de gran tamaño (LLMs). Además, la evolución de estas representaciones a través de la profundidad de la red y la influencia de las metodologías de extracción (específicamente el corpus de historias utilizado) permanecían inexploradas. Este artículo aborda tres preguntas centrales: (1) ¿Son los vectores de emoción generalizables a los modelos de pesos abiertos? (2) ¿Cómo varía la emergencia de la geometría de la valencia a través de las capas del modelo? (3) ¿Cómo afecta la elección del corpus de historias a la extracción de estos vectores?

Metodología
Los autores replicaron y extendieron el análisis de los vectores de emoción en dos modelos de pesos abiertos: APERTUS-8B (un transformador de 32 capas con pesos, datos y código totalmente abiertos) y GEMMA-4-E4B (un transformador de 42 capas).

1. Construcción del conjunto de datos: Siguiendo a Sofroniew et al. (2026), los autores generaron conjuntos de datos sintéticos que contenían 1,539 historias para cada una de las 171 emociones distintas. Crucialmente, crearon dos corpora independientes: uno generado por APERTUS-8B y otro por GEMMA-4-E4B. Para cada emoción, se instó a los modelos a escribir historias donde los personajes experimentaran la emoción objetivo sin nombrarla, recurriendo a pistas indirectas (acciones, sensaciones físicas, diálogos). También se generó un conjunto fijo de 40 historias neutrales para servir como línea base.
2. Extracción de vectores de contraste: Para cada emoción y capa, los autores extrajeron las activaciones del flujo residual (residual stream). Para aislar las señales específicas de la emoción de las características lingüísticas generales, realizaron un proceso de dos pasos:
   • Promediado de las activaciones a través de tokens e historias para formar un vector bruto.
   • Proyección para eliminar el subespacio "agnóstico a la emoción" mediante la resta de la proyección del vector bruto sobre los componentes principales (principales $K$) derivados de las 40 historias neutrales (que explican el 50% de la varianza neutral).
3. Análisis:
   • PCA y Correlación: Se aplicó el Análisis de Componentes Principales (PCA) a las matrices de contraste. Los dos primeros componentes principales (PC1, PC2) se correlacionaron con las calificaciones humanas de valencia y activación (arousal) del Léxico NRC.
   • Similitud entre capas: Se utilizó el Alineamiento de Núcleo Centrado (CKA) para medir la similitud representacional entre capas.
   • Estabilidad Direccional: Se computó la similitud de coseno entre los vectores de dirección de valencia (el eje más correlacionado con las calificaciones humanas) a través de capas adyacentes para rastrear la estabilidad.

Contribuciones clave y resultados

• Generalización de los vectores de emoción: El estudio recuperó con éxito la geometría de la valencia en ambos modelos de pesos abiertos, demostrando que los vectores de emoción no son exclusivos de Claude.

  • APERTUS-8B: Logró un pico de correlación PC1–valencia de $r = 0.76$ (usando historias generadas por Gemma).
  • GEMMA-4-E4B: Logró un pico de correlación PC1–valencia de $r = 0.83$ (usando historias generadas por Gemma).
  • Estos picos se acercan o superan el $r = 0.81$ reportado para Claude Sonnet 4.5, confirmando la generalidad del fenómeno en diferentes arquitecturas.

• Trayectorias de emergencia divergentes: Aunque ambos modelos alcanzaron picos de correlación similares, la profundidad en la que emergieron las representaciones de valencia difirió significativamente:

  • GEMMA-4-E4B: Exhibió una codificación temprana seguida de un colapso. Las correlaciones de valencia alcanzaron su pico alrededor de la capa 16 (aprox. 38% de la profundidad) y luego cayeron hacia cero en las capas posteriores. El análisis CKA mostró un gradiente suave a través de todas las capas, sugiriendo que el espacio representacional se mantuvo estable incluso cuando el eje de valencia específico se degradó.
  • APERTUS-8B: Exhibió una emergencia tardía. Las correlaciones de valencia fueron cercanas a cero en la primera mitad de la red, aumentando bruscamente después de la capa 18 y estabilizándose en las capas superiores (alcanzando su pico en las capas 23–31). El análisis CKA reveló una "transición de fase" distintiva en las capas medias, indicando una reorganización del espacio representacional.

• Arousal dependiente del corpus: La extracción de la activación (PC2) fue altamente sensible al corpus de historias.

  • Ambos modelos mostraron una alineación PC2–activación significativamente más fuerte cuando se evaluaron con historias generadas por Gemma ($r$ hasta 0.45) en comparación con las historas generadas por Apertus ($r \le 0.21$).
  • Esto sugiere que las pistas lingüísticas relevantes para la activación están distribuidas de manera desigual entre los corpora generados, y que la elección del corpus de estímulos es un factor metodológico sustantivo en lugar de un mero detalle de implementación.

• Espacio estable, eje inestable: Los autores observaron una desconexión entre la estabilidad del espacio representacional general (CKA) y la estabilidad del eje de valencia específico. En GEMMA-4-E4B, el espacio permaneció similar a través de las capas incluso donde la correlación de valencia colapsó, lo que implica que la información de valencia se preserva pero se codifica a lo largo de un eje cambiante.

Significancia y Reivindicaciones
El artículo sostiene que representaciones emocionales de alto nivel similares pueden surgir de diferentes caminos computacionales dentro de las redes neuronales. Los hallazgos sugieren que:

1. Universalidad: Los vectores de emoción son una propiedad general de los LLM, no un artefacto del entrenamiento de un modelo específico.
2. Implicaciones para la interpretabilidad: El "dónde" y el "cómo" de la codificación emocional varían según la arquitectura. Monitorear o dirigir (steering) estos vectores requiere una selección cuidadosa de la capa, ya que la capa óptima para la intervención difiere entre modelos (temprana para Gemma, tardía para Apertus).
3. Rigor metodológico: La extracción de los vectores de emoción es sensible al corpus de entrada. El estudio destaca que la elección del corpus puede impactar significativamente la recuperabilidad de dimensiones emocionales específicas (particularmente la activación), lo que requiere conjuntos de estímulos diversos para un análisis robusto.

Los autores concluyen que, si bien la geometría máxima del espacio emocional es consistente, la trayectoria de desarrollo de estas representaciones es específica de cada modelo, lo que tiene implicaciones para las intervenciones de dirección dirigida y el monitoreo de seguridad en modelos de pesos abiertos.