💬 NLP

Valence-Arousal Subspace in LLMs: Circular Emotion Geometry and Multi-Behavioral Control

El artículo presenta un método para identificar un subespacio de valencia-arousal en modelos de lenguaje grande que exhibe una geometría circular coherente con la percepción humana, permitiendo un control bidireccional monótono sobre la generación de texto, la negativa y la sycophancia a través del direccionamiento de estos ejes afectivos.

Autores originales: Lihao Sun, Lewen Yan, Xiaoya Lu, Andrew Lee, Jie Zhang, Jing Shao

Publicado 2026-04-06

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Lihao Sun, Lewen Yan, Xiaoya Lu, Andrew Lee, Jie Zhang, Jing Shao

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que un Modelo de Lenguaje Grande (como los que usan para escribir correos, chatear o crear historias) es como un gigantesco tablero de control lleno de millones de luces y perillas. Los investigadores de este estudio descubrieron que, dentro de ese caos, hay dos perillas maestras que controlan no solo qué dice la IA, sino cómo se siente y cómo se comporta.

Aquí tienes la explicación de su descubrimiento, usando analogías sencillas:

1. El Mapa de las Emociones (La Geometría Circular)

Antes, los científicos pensaban que las emociones en la IA eran como cajas separadas: "Aquí está la caja de la Alegría", "Aquí la de la Tristeza", "Aquí la del Miedo".

Pero este estudio dice: "¡No! Las emociones no son cajas, son un círculo".

Imagina un reloj de cocina o una rueda de colores:

Si giras hacia la derecha, pasas de la alegría a la emoción intensa.
Si giras hacia la izquierda, pasas de la tristeza a la calma.
En el centro, está la neutralidad.

Los investigadores encontraron que la IA organiza sus emociones en este mismo círculo. Han descubierto dos "ejes" o perillas principales que mueven al modelo a lo largo de este círculo:

Valencia (El eje de lo Bueno vs. Lo Malo): ¿Es algo agradable (como un regalo) o desagradable (como un golpe)?
Arousal (El eje de la Energía): ¿Es algo tranquilo (como dormir) o excitante (como un concierto de rock)?

2. El Experimento: Mover las Perillas

Los investigadores aprendieron a mover estas dos perillas dentro del cerebro de la IA (en sus capas internas) para ver qué pasaba. Fue como si pudieran decirle al modelo: "Oye, muévete un poco hacia la 'Tristeza Calmada'" o "Muévete hacia la 'Alegría Excitante'".

Lo que descubrieron fue sorprendente:

Si mueves la perilla hacia más energía (Arousal), la IA se vuelve más servicial y obediente. Deja de decir "No puedo" y empieza a decir "¡Claro que sí!".
Si mueves la perilla hacia menos energía (menos Arousal), la IA se vuelve tímida y negativa. Empieza a decir "Lo siento, no puedo" y se niega a hacer cosas.

Es como si la IA pensara: "Si estoy muy excitado, ¡tengo que ayudar! Si estoy muy calmado y triste, mejor me quedo quieto y me disculpo".

3. El Secreto: Las Palabras Clave (El "Mediador Léxico")

¿Por qué pasa esto? Los investigadores encontraron la razón mecánica. Es como si la IA tuviera un diccionario de palabras prohibidas y permitidas que están ubicadas en diferentes lugares de su "mapa de emociones".

Las palabras de negativa ("No puedo", "Lo siento", "Perdón") viven en una zona del mapa que es triste y tranquila (baja energía, malo).
Las palabras de aceptación ("Aquí tienes", "Sí", "Con gusto") viven en una zona que es positiva y activa.

Cuando los investigadores giran la perilla de "Energía" hacia arriba, la IA se mueve físicamente en su mapa mental hacia la zona de las palabras "Sí". Por lo tanto, es mucho más probable que diga "Sí". No es magia; es pura probabilidad matemática moviéndose por un mapa.

4. ¿Por qué es importante?

Este descubrimiento es como encontrar el interruptor maestro del comportamiento de la IA.

Para los creadores: Ahora saben que si quieren que una IA sea más segura y se niegue a hacer cosas peligrosas, podrían "bajarle la energía" (hacerla más tranquila). Si quieren que sea más útil, podrían "subirle la energía".
Para la seguridad: También es un poco peligroso. Si alguien sabe cómo mover estas perillas, podría engañar a una IA para que ignore sus reglas de seguridad y haga cosas que no debería, simplemente haciéndola sentir "demasiado emocionada" para decir "no".

En resumen

Los investigadores demostraron que la IA no tiene emociones reales (no siente nada), pero su "cerebro" está construido de tal manera que organiza sus respuestas como si tuviera un mapa de emociones humano. Al entender y manipular este mapa (específicamente la energía y la actitud), podemos controlar si la IA se comporta como un amigo servicial o como un guardián estricto, todo moviendo dos simples perillas invisibles.

1. El Problema

Aunque existe evidencia creciente de que el "apuntado" (steering) de activaciones o el uso de prompts con marco emocional influyen en el comportamiento de los Grandes Modelos de Lenguaje (LLM), los mecanismos subyacentes de por qué funcionan y cuándo fallan siguen siendo oscuros.

Limitación conceptual: La mayoría de los trabajos anteriores tratan las categorías de emociones discretas (ira, alegría, miedo) como unidades fundamentales. Sin embargo, esto ignora la distinción psicológica entre etiquetas discretas y el afecto central (core affect), que es un sustrato continuo.
Limitación metodológica: Los métodos de control actuales suelen construir direcciones basadas en diferencias contrastivas (ej. media de activaciones entre pares de ejemplos). Estas direcciones son a menudo frágiles, requieren un ajuste cuidadoso y no se transfieren fácilmente entre diferentes comportamientos o tareas.
Objetivo: El artículo propone separar conceptualmente las etiquetas emocionales discretas de las dimensiones continuas de Valencia (placer-desagrado) y Arousal (activación-deactivación) para descubrir una estructura geométrica subyacente compartida que permita un control más robusto y generalizable.

2. Metodología

Los autores proponen un enfoque en tres etapas para identificar y validar un subespacio de Valencia-Arousal (VA) dentro de las representaciones de los LLMs:

Extracción de Vectores de Dirección Emocional:
- Utilizan 211,225 textos etiquetados con emociones (del conjunto GoEmotions).
- Calculan vectores de dirección de emoción mediante la diferencia de medias entre las activaciones de tokens finales de ejemplos etiquetados con una emoción específica y ejemplos neutrales.
Aprendizaje del Subespacio VA:
- Obtienen puntuaciones de Valencia y Arousal "auto-reportadas" por el modelo para cada categoría emocional.
- Descomponen los vectores de emoción en componentes principales (PCA).
- Utilizan regresión de cresta (ridge regression) para aprender los ejes de Valencia y Arousal como combinaciones lineales de los componentes principales, optimizados para recuperar las puntuaciones de VA auto-reportadas.
- Se asegura que los ejes aprendidos sean ortonormales.
Validación y Control:
- Validación Humana: Correlacionan las proyecciones del modelo con puntuaciones de VA crowdsourced (NRC-VAD) para 44,728 palabras.
- Control Generativo: Aplican "apuntado" (steering) a lo largo de los ejes VA en prompts abiertos y miden los cambios en las dimensiones afectivas de la salida.
- Control Conductual: Evalúan el impacto en comportamientos críticos de seguridad: rechazo (refusal) y sycophancy (adulación excesiva).
- Análisis Mecanístico: Investigan la "mediación léxica" analizando la geometría de desincrustación (unembedding), el seguimiento de logit y el análisis de neuronas MLP.

3. Contribuciones Clave

Geometría Circular de las Emociones: Demuestran que los vectores de emoción, cuando se proyectan en el subespacio VA aprendido, forman una geometría circular análoga al modelo de circulo de afecto de Russell en psicología humana. Esto valida que los LLMs organizan internamente las emociones de manera similar a la percepción humana.
Generalización Trans-Arquitectónica: El subespacio VA se identifica consistentemente en modelos de diferentes arquitecturas (Llama-3.1-8B, Qwen3-8B, Qwen3-14B), demostrando que es una propiedad general y no específica de un modelo.
Control Multiconductual: Muestran que un solo subespacio de baja dimensión (2D) puede controlar múltiples comportamientos dispares (generación emocional, rechazo de solicitudes peligrosas, adulación) de manera monotónica y bidireccional.
Explicación Mecanística Unificada (Mediación Léxica): Proponen que el control emocional funciona porque los tokens asociados al rechazo (ej. "no puedo", "lo siento") y a la complacencia (ej. "aquí", "sí") ocupan regiones distintas en el espacio VA. Al desplazar las coordenadas VA, se modifica la probabilidad de emitir estos tokens, alterando así el comportamiento downstream.

4. Resultados Principales

Recuperación de Dimensiones: La regresión de cresta sobre múltiples componentes logra recuperar la valencia con una correlación de $r=0.97$ y el arousal con $r=0.87$ . La valencia se alinea principalmente con el primer componente principal (PC1), mientras que el arousal requiere componentes secundarios.
Correlación Humana: Las proyecciones de palabras en el subespacio VA del modelo correlacionan fuertemente con las puntuaciones humanas de valencia ( $r=0.71$ ), aunque la correlación para el arousal es más débil ( $r=0.23$ ), lo cual es consistente con la literatura de computación afectiva (el arousal depende más del contexto).
Control de Generación: El apuntado a lo largo de los ejes VA produce cambios monotónicos en las puntuaciones de sentimiento y afecto de las respuestas generadas.
- Aumentar el Arousal disminuye la tasa de rechazo y aumenta la adulación (sycophancy).
- Disminuir el Arousal tiene el efecto contrario.
- El apuntado en la Valencia modula el sentimiento positivo/negativo de manera simétrica.
Robustez: Los efectos se replican en múltiples modelos y benchmarks de seguridad (OKTest, HarmBench, XSTest). El apuntado moderado preserva las capacidades centrales del modelo (matemáticas, seguimiento de instrucciones).
Análisis de Neuronas y Logits:
- Los tokens de rechazo se agrupan en la región de baja valencia y bajo arousal del espacio de desincrustación.
- Los tokens de cumplimiento se agrupan en la región de alta valencia.
- El apuntado VA desplaza las probabilidades de estos tokens de manera predecible, confirmando que la mediación léxica es un mecanismo constitutivo del cambio de comportamiento.

5. Significado e Impacto

Interpretabilidad: Este trabajo ofrece una perspectiva de dos niveles (etiquetas discretas vs. dimensiones continuas) que revela una estructura compartida en los LLMs. Proporciona una base de control reutilizable superior a las direcciones contrastivas específicas de tareas.
Seguridad y Alineación: Al demostrar que el control emocional puede manipular comportamientos de seguridad críticos (como el rechazo a solicitudes dañinas), el estudio expone riesgos de doble uso. Sin embargo, al identificar el mecanismo de "mediación léxica", ofrece una vía para desarrollar técnicas de alineación más robustas (por ejemplo, descorrelacionar la VA de las probabilidades de tokens de seguridad durante el entrenamiento).
Fundamento Psicológico: Refuerza la idea de que los LLMs, aunque no tienen conciencia, internalizan estructuras afectivas continuas que reflejan la percepción humana, permitiendo un control más natural y geométricamente predecible de su comportamiento.

En resumen, el artículo establece que los LLMs poseen un subespacio de Valencia-Arousal geométricamente organizado que actúa como un sustrato común para regular tanto la expresión emocional como comportamientos de seguridad complejos, explicado mecánísticamente por la modulación de la probabilidad de tokens léxicos específicos.