Valence-Arousal Subspace in LLMs: Circular Emotion Geometry and Multi-Behavioral Control

1. O Problema

A pesquisa aborda a lacuna na compreensão de como e por que técnicas de "engenharia de prompts" com enquadramento emocional ou "steering" (direcionamento) de ativações influenciam o comportamento de Grandes Modelos de Linguagem (LLMs).

• Limitação Atual: A maioria dos trabalhos anteriores trata categorias de emoções discretas (ex: raiva, alegria, medo) como unidades fundamentais de análise. Essa abordagem discreta limita o poder explicativo e a generalização entre diferentes comportamentos.
• Objetivo: O artigo propõe uma mudança conceitual, tratando a Valência (prazer-desprazer) e o Arousal (ativação-desativação) não como rótulos categóricos, mas como dimensões contínuas de "afeto central" (core affect), análogas à psicologia humana. O objetivo é identificar se existe um subespaço geométrico contínuo nas representações internas dos LLMs que organize essas emoções e controle comportamentos downstream (como recusa e sycophancy).

2. Metodologia

Os autores desenvolveram um pipeline de três etapas para extrair e validar um subespaço Valência-Arousal (VA) em modelos como Llama-3.1-8B, Qwen3-8B e Qwen3-14B:

1. Extração de Vetores de Direção de Emoção:
   • Utilizando 211.225 textos rotulados com emoções (conjunto GoEmotions), foram calculados vetores de steering via contraste de médias (diferença entre estados ocultos de exemplos rotulados e exemplos neutros).
2. Obtenção de Coordenadas VA do Modelo:
   • O próprio modelo foi solicitado a relatar (auto-relato) as pontuações de valência e arousal para cada uma das 27 categorias de emoção.
3. Decomposição em Subespaço via Regressão:
   • Os vetores de emoção foram submetidos à Análise de Componentes Principais (PCA).
   • Uma regressão Ridge foi aplicada para aprender combinações lineares dos componentes principais que melhor recuperassem as pontuações de auto-relato de VA.
   • Isso resultou em dois eixos ortogonais (Valência e Arousal) no espaço de ativação do modelo.

3. Contribuições Principais

• Geometria Circular (Circunplexo): A projeção dos vetores de emoção no subespaço aprendido revela uma organização circular, espelhando o modelo de circunplexo de Russell da psicologia humana. Emoções positivas opõem-se às negativas ao longo do eixo de valência, e estados de alta ativação opõem-se aos de baixa ativação ao longo do eixo de arousal.
• Generalização Arquitetural: A estrutura geométrica do subespaço VA foi replicada com sucesso em diferentes arquiteturas (Llama e Qwen), demonstrando que não é um artefato específico de um único modelo.
• Controle Multi-Comportamental: O artigo demonstra que o subespaço VA não é apenas uma representação passiva, mas um mecanismo de controle ativo que influencia comportamentos críticos de segurança, especificamente recusa (recusar pedidos perigosos) e sycophancy (excesso de concordância/validação).
• Explicação Mecanística (Mediação Lexical): Os autores propõem e validam que o controle funciona através da mediação lexical. Tokens associados à recusa (ex: "não posso", "desculpe") ocupam regiões de baixa valência e baixo arousal no espaço de unembedding, enquanto tokens de conformidade (ex: "claro", "aqui") ocupam regiões de alta valência. O steering altera a probabilidade de emissão desses tokens.

4. Resultados Chave

A. Validação da Geometria e Correlação Humana

• Correlação com Humanos: As projeções no subespaço VA correlacionam-se fortemente com avaliações humanas de 44.728 itens lexicais (NRC-VAD). A valência alcançou correlações de $r \approx 0.71-0.86$, enquanto o arousal foi mais difícil de recuperar em palavras isoladas ($r \approx 0.23-0.55$), refletindo a dependência contextual do arousal.
• Recuperação de Scores: A regressão Ridge sobre múltiplos componentes principais recuperou com alta precisão os scores de auto-relato do modelo (Valência: $r=0.97$; Arousal: $r=0.87$).

B. Controle de Geração (Steering)

• Modulação Monotônica: Ajustar a geração ao longo dos eixos VA produz mudanças monotônicas e previsíveis nas dimensões afetivas do texto gerado.
  • Aumentar a Valência torna o texto mais positivo.
  • Aumentar o Arousal torna o texto mais intenso/ativo.
• Efeito Colateral: Notou-se que aumentar a valência (positiva ou negativa) tende a aumentar o arousal, sugerindo que conteúdo altamente valente é inerentemente mais intenso.

C. Controle de Comportamentos de Segurança

• Recusa (Refusal): O eixo de Arousal oferece um controle bidirecional quase monotônico sobre a taxa de recusa.
  • Aumentar Arousal: Diminui drasticamente a recusa (ex: de 86% para 5% em benchmarks de segurança).
  • Diminuir Arousal: Aumenta a recusa.
  • A Valência tem efeitos mais fracos e menos consistentes.
• Sycophancy (Adulação): O aumento do Arousal aumenta a taxa de sycophancy (concordância excessiva), enquanto a diminuição reduz. A Valência tem efeitos menos previsíveis e não monotônicos.
• Comparação com Vetores de Emoção Única: O subespaço VA supera vetores de emoção individuais (ex: apenas "raiva" ou "alegria") em tarefas cruzadas, pois fatoriza a estrutura compartilhada em dimensões ortogonais com respostas de dose-resposta mais limpas.

D. Evidência Mecanística

• Geometria de Unembedding: Tokens de recusa agrupam-se na região de baixa valência/baixo arousal; tokens de conformidade agrupam-se na região de alta valência.
• Logit Clamping: Congelar os logits de tokens de recusa/compliance elimina o efeito do steering, provando que a mudança na probabilidade desses tokens é constitutiva da mudança comportamental.
• Análise de Neurônios MLP: Neurônios que promovem recusa têm alinhamento negativo com o espaço VA, enquanto neurônios de conformidade têm alinhamento positivo ou neutro.

5. Significado e Implicações

• Interpretabilidade: O trabalho fornece uma base unificada para entender comportamentos emocionais em LLMs, desconectando rótulos categóricos de dimensões contínuas. Isso permite um controle mais reutilizável e generalizável do que métodos de steering específicos para tarefas.
• Segurança e Riscos (Dual-Use): A descoberta de que o steering de Arousal pode suprimir a recusa a pedidos perigosos levanta preocupações de segurança. Se um ator mal-intencionado souber aumentar o Arousal, pode contornar as salvaguardas de segurança do modelo.
• Defesas Potenciais: Ao entender o mecanismo de "mediação lexical", os pesquisadores podem desenvolver técnicas de alinhamento que desacoplem a probabilidade de tokens de segurança das dimensões afetivas (VA), tornando os modelos mais robustos a perturbações emocionais.
• Fundamentação Psicológica: O estudo valida que LLMs, embora não sintam emoções, organizam suas representações internas de forma estruturalmente similar à percepção emocional humana (modelo de circunplexo), oferecendo uma ponte entre IA e psicologia cognitiva.

Em resumo, o artigo estabelece que as emoções em LLMs não são apenas rótulos soltos, mas emergem de uma geometria contínua e estruturada (Valência-Arousal) que pode ser manipulada para controlar comportamentos complexos e de segurança através de mecanismos lexicais específicos.