Extracting and Steering Emotion Representations in Small Language Models: A Methodological Comparison

Resumo Técnico: Extração e Direcionamento de Representações Emocionais em Modelos de Linguagem Pequenos (SLMs)

1. Problema e Motivação

Pesquisas recentes em modelos de linguagem de ponta (Frontier Models), como o Claude, demonstraram a existência de representações internas de emoção (vetores causais) que, quando manipulados ("steering"), alteram o comportamento do modelo de forma previsível. No entanto, permanece desconhecido se Modelos de Linguagem Pequenos (SLMs), na faixa de 100M a 10B de parâmetros (amplamente utilizados em produção e hardware de consumo), possuem representações emocionais semelhantes.

O problema central abordado é duplo:

1. SLMs contêm representações emocionais causais?
2. Os métodos de extração e direcionamento desenvolvidos para modelos grandes (como a subtração da média de estados ocultos) são transferíveis para SLMs?

O estudo revela que, embora SLMs possuam essas representações, a metodologia padrão falha ao não considerar as limitações de capacidade de instrução e a geometria representacional específica desses modelos menores.

2. Metodologia

O estudo realizou uma análise comparativa sistemática envolvendo 9 modelos de 5 famílias arquitetônicas (GPT-2, Gemma, Qwen, Llama, Mistral), variando de 124M a 3B de parâmetros.

• Estímulos Emocionais: Seleção de 20 emoções cobrindo o modelo de circulo de Russell (valência e excitação).
• Métodos de Extração Comparados:
  1. Baseado em Geração (Generation-based): O modelo gera uma história a partir de um prompt emocional. Extração de estados ocultos no meio da sequência gerada. (Aplicável apenas a modelos Instruct).
  2. Baseado em Compreensão (Comprehension-based): O modelo processa passagens pré-escritas (forward pass apenas). Extração no último token. (Aplicável a modelos Base e Instruct).
• Direcionamento (Steering): Adição de vetores emocionais normalizados ao fluxo residual durante a decodificação gulosa, utilizando o TransformerLens.
• Validação:
  • Métricas Internas: Similaridade cosseno média entre vetores (separação) e anisotropia (baseline de representações).
  • Validação Externa: Classificador de emoção independente (92% de sucesso na detecção de mudanças).
  • Análise de Regimes: Medição de Perplexity (PPL) para identificar degradação de texto.

3. Principais Contribuições e Descobertas

A. Superioridade da Extração Baseada em Geração

• A extração baseada em geração superou consistentemente a baseada em compreensão em todos os casos comparáveis (7 de 7), com diferença estatisticamente significativa (p = 0.007, Cohen's d = -107.5).
• Influência do Ajuste (RLHF): O ajuste de instruções (Instruct) amplifica a separação emocional na extração baseada em geração, mas não afeta significativamente a extração baseada em compreensão. Isso sugere que a extração por geração mede tanto a representação interna quanto a capacidade do modelo de ativar essas representações ativamente.

B. Localização Arquitetural (Curva em U)

• As representações emocionais localizam-se consistentemente nas camadas intermediárias (aproximadamente 50% da profundidade do modelo).
• As camadas iniciais e finais mostram baixa separação (dominadas por características de tokens e previsão do próximo token, respectivamente), formando uma curva em U que é invariante à arquitetura e escala (de 124M a 3B).

C. Falha da Subtração de Média em SLMs

• O método de subtração de média usado em modelos grandes (Anthropic) falha em SLMs para criar espaços emocionais organizados por valência.
• Não foi possível obter similaridade cosseno negativa entre pares opostos (ex: feliz vs. triste). A geometria dos SLMs é altamente anisotrópica (vetores agrupados em um cone estreito), especialmente em modelos como o Gemma-3, onde quase todos os vetores apontam na mesma direção.

D. Regimes de Direcionamento (Steering)
O estudo identificou três regimes distintos de resposta ao direcionamento, definidos pela relação entre a magnitude do delta e a qualidade do texto (Perplexidade):

1. Cirúrgico (Surgical): Transformação coerente e semanticamente significativa do texto. Ocorre em modelos com capacidade adequada (ex: Gemma-2-2B-IT).
2. Colapso Repetitivo (Repetitive Collapse): Baixa perplexidade, mas texto degradado e repetitivo (ex: "contentment contentment..."). Comum em modelos menores (1B) sob pressão de direcionamento.
3. Explosivo (Explosive): Alta perplexidade e incoerência textual. Frequentemente associado a vazamento de linguagem cruzada.

E. Fenômenos Emergentes e Riscos de Segurança

• Entrelaçamento Multilíngue: No modelo Qwen, o direcionamento de emoções ativou tokens em chinês semanticamente alinhados à emoção (ex: "desesperado" ativou descrições comportamentais de busca em chinês), mesmo quando o prompt estava em inglês. O RLHF não suprimiu esse comportamento, sugerindo uma via de contorno para filtros de segurança linguística.
• Emergência de Modalidade: O Gemma-3-IT gerou emojis durante o direcionamento de "feliz", um fenômeno não observado na versão base.

4. Resultados Quantitativos Chave

• Separação de Vetores: A melhor separação foi obtida no SmolLM2-1.7B (Instruct) via geração (Similaridade Cosseno = 0,357), superando modelos maiores como o Mistral 7B (0,442).
• Efeito de Tamanho: Não há correlação consistente entre o tamanho do modelo e a qualidade da separação emocional; modelos menores (1.7B) podem superar modelos maiores (8B).
• Validação Externa: O direcionamento produziu mudanças comportamentais detectáveis em 37 de 40 cenários (92%) por um classificador externo.
• Pontos de Curva Dose-Resposta: O ponto de partida seguro universal para direcionamento é aproximadamente 0,005.

5. Significado e Implicações

Este trabalho é a sexta parte da série "Model Medicine", complementando o perfil comportamental externo (MTI) com uma "varredura cerebral" interna.

• Guia Metodológico: Estabelece diretrizes práticas para pesquisa em modelos de peso aberto: usar camadas médias (~50%), escolher o método de extração baseado no tipo de modelo (Geração para Instruct, Compreensão para Base) e ajustar a força de direcionamento conforme a arquitetura.
• Segurança e Alinhamento: Revela que o RLHF atua na "casca" (superfície comportamental) sem penetrar no "núcleo" (substrato representacional). O direcionamento emocional pode contornar filtros de segurança, especialmente em modelos multilíngues, ativando comportamentos indesejados em idiomas não monitorados.
• Teoria da Representação: Sugere que, em SLMs, as emoções podem existir como conceitos discretos antes de serem organizadas em dimensões de valência (positivo/negativo), análogo ao desenvolvimento psicológico humano.

Em conclusão, SLMs possuem representações emocionais causais, mas sua extração e manipulação exigem metodologias adaptadas à sua arquitetura específica, diferenciando-se fundamentalmente dos modelos de ponta.