Whether, Not Which: Mechanistic Interpretability Reveals Dissociable Affect Reception and Emotion Categorization in LLMs

Resumo Técnico: Recepção de Afeto vs. Categorização de Emoção em LLMs

1. O Problema: A Ambiguidade do "Keyword Spotting"

Estudos recentes de interpretabilidade mecânica afirmaram que Grandes Modelos de Linguagem (LLMs) desenvolvem representações internas estruturadas de emoção (como "circuitos de emoção" ou "neurônios de emoção"). No entanto, uma crítica fundamental permanece sem resposta: esses circuitos detectam o significado emocional genuíno ou apenas os palavras-chave explícitas (ex: "devastado", "furioso") que frequentemente acompanham o conteúdo emocional nos dados de treinamento?

Todos os estudos anteriores utilizaram estímulos (textos) que sinalizavam emoção através de vocabulário explícito. Isso cria um confundidor lexical: se um modelo classifica um texto como "triste", ele está entendendo a situação descrita ou apenas reconhecendo a palavra "triste"? O artigo propõe testar a validade clínica dessas alegações removendo sistematicamente as palavras-chave de emoção.

2. Metodologia: Estímulos Clínicos e Interpretabilidade Mecânica

O estudo introduz uma metodologia rigorosa baseada na psicologia clínica para criar estímulos que evocam emoções específicas através de cues situacionais e comportamentais, sem qualquer palavra-chave de emoção ou descrição de estado interno.

• Conjunto de Estímulos:
  • Set A (Base de Replicação): 80 estímulos ricos em palavras-chave (padrão da literatura, ex: crowd-enVENT).
  • Set B (Estímulos Clínicos): 96 vignettes (pequenas histórias) desenhadas por um psicólogo clínico. Exemplo: uma mesa de cozinha com uma xícara fria e um vaso de cinzas (evocando luto) sem usar a palavra "luto" ou "tristeza".
  • Controles: 96 estímulos neutros pareados e testes de validação para garantir que os estímulos clínicos são "invisíveis" para analisadores de sentimento baseados em léxico.
• Modelos Testados: Seis modelos de duas famílias (Llama-3.2-1B, Llama-3-8B, Gemma-2-9B), incluindo variantes Base e Instruct.
• Métodos de Interpretabilidade (Convergência de 4 abordagens):
  1. Probing Linear: Para correlacionar ativações com rótulos emocionais.
  2. Activation Patching (Causal): Para testar se ativar neurônios de um texto rico em palavras-chave em um texto sem palavras-chave altera a saída.
  3. Experimentos de Knockout (Necessidade): Remoção de camadas para testar a fragilidade do sistema.
  4. Geometria Representacional: Análise de como as emoções se agrupam no espaço vetorial.

3. Principais Descobertas: Uma Dissociação Mecanística

Os resultados revelam que os LLMs não possuem um único mecanismo de "emoção", mas sim dois mecanismos dissociáveis:

A. Recepção de Afeto (Affect Reception)

• Definição: A detecção de que um conteúdo é emocionalmente significativo (binário: emocional vs. neutro).
• Desempenho: Alcança precisão quase perfeita (AUROC 1.000) em todos os seis modelos, mesmo sem palavras-chave.
• Localização: Saturação ocorre nas camadas iniciais (9% a 38% da profundidade da rede).
• Robustez: É independente de palavras-chave e não depende do tamanho do modelo (funciona bem em modelos de 1B parâmetros).
• Validação Causal: O patching de ativações de textos ricos em palavras-chave para textos clínicos transfere um sinal de "salência afetiva" que melhora a categorização, independentemente da emoção específica da fonte.

B. Categorização de Emoção (Emotion Categorization)

• Definição: O mapeamento do afeto detectado para uma categoria específica (ex: luto vs. raiva).
• Desempenho: É parcialmente dependente de palavras-chave. A precisão cai entre 1% e 7% quando as palavras-chave são removidas (Set B vs. Set A).
• Efeito de Escala: Modelos maiores (8B/9B) sofrem menos com a remoção de palavras-chave (queda de ~1-2%) em comparação com modelos menores (1B, queda de ~4-7%).
• Localização: Ocorre em camadas médias a tardias e requer integração distribuída, especialmente na ausência de palavras-chave.

4. Evidências Mecanísticas Adicionais

• Patching Cruzado: Quando ativações de um texto rico em palavras-chave (Set A) são injetadas em um texto clínico (Set B), o modelo não transfere a "identidade" da emoção (ex: raiva), mas sim um sinal de salência afetiva ("isso é importante emocionalmente"). Isso confirma que a detecção de relevância e a categorização são caminhos causais separados.
• Fragilidade e Arquitetura: Em modelos pequenos (1B), a categorização sem palavras-chave é frágil e depende de camadas específicas de atenção (MHSA). Em modelos maiores (8B/9B), o processamento torna-se distribuído e redundante, sem pontos únicos de falha.
• Geometria e Instruction Tuning:
  • Modelos Base tendem a agrupar representações pelo tipo de estímulo (com palavras-chave vs. sem palavras-chave).
  • Modelos Instruct (ajustados por RLHF) reorganizam a geometria para agrupar por categoria de emoção, independentemente do tipo de estímulo. O tuning não cria a capacidade de detectar emoção, mas reestrutura a organização das representações já existentes.

5. Contribuições e Significado

• Falsificação da Hipótese de "Keyword Spotting": O estudo prova que os circuitos de emoção não são apenas detectores de léxico. A detecção de significado emocional a partir do contexto situacional é real e robusta.
• Novo Paradigma de Validação Clínica: Introduz o uso de vignettes clínicas (sem palavras-chave) como padrão-ouro para validar alegações de processamento emocional em IA, evitando o viés lexical.
• Implicações para Segurança de IA (AI Safety):
  • Detecção de Crise: Sistemas de segurança podem detectar sofrimento emocional em usuários que evitam palavras-chave explícitas (ex: alguém descrevendo uma situação de luto sem usar a palavra "triste"), pois o mecanismo de "Recepção de Afeto" é robusto e precoce.
  • Respostas Nuanceadas: Para respostas terapêuticas precisas, a "Categorização" é necessária e beneficia-se de modelos maiores e alignment.
• Teoria do Modelo de Seleção de Persona (PSM): Os resultados apoiam a teoria de que o processamento emocional é uma característica pré-treinada (presente em modelos Base), e o alignment (RLHF) apenas reorganiza o acesso a essas representações.

Conclusão

O artigo conclui que os LLMs possuem uma arquitetura dual para emoção: uma detecção rápida e robusta de significado afetivo (Recepção de Afeto) que não depende de palavras-chave, e um processo mais lento e dependente de contexto para categorização específica (Categorização de Emoção). Isso muda o foco da pergunta "os circuitos de emoção existem?" para "como esses mecanismos dissociáveis operam e interagem?". O estudo libera todos os dados, códigos e as 96 vignettes clínicas para replicação e avanço da comunidade.