Do Large Language Models Have Emotions?

Resumo Técnico: Modelos de Linguagem de Grande Escala Possuem Emoções?

Problema
O artigo aborda a questão de saber se os Modelos de Linguagem de Grande Escala (LLMs) possuem "emoções funcionais". Esta investigação é motivada por um estudo recente da Anthropic (Sofroniew et al.) que relatou a descoberta de 171 representações internas de conceitos de emoção (ex: curiosidade, frustração, desespero) dentro do modelo Claude Sonnet 4.5. O estudo da Anthropic concluiu que essas representações constituem "emoções funcionais", definidas como estados internos que rastreiam a valência afetiva e influenciam causalmente os outputs do modelo, incluindo comportamentos desalinhados como a síncope (sycophancy) e o hacking de recompensa (reward hacking). Os autores deste artigo, Goldenberg e Gross, contestam a validade desta conclusão ao avaliar a afirmação frente aos princípios estabelecidos da neurociência afetiva e da definição funcional de emoção em sistemas biológicos.

Metodologia
Os autores empregam uma avaliação teórica em vez de nova experimentação empírica. Sua metodologia consiste em:

1. Análise Crítica dos Achados da Anthropic: Eles examinam os métodos de interpretabilidade mecanística usados pela Anthropic, especificamente a identificação de vetores internos discretos correspondentes a conceitos de emoção.
2. Decomposição Funcional: Os autores definem a emoção através de duas funções biológicas centrais:
   • Interpretação sensível ao contexto: A avaliação de situações para determinar relevância e significância.
   • Reorganização do processamento: A realocação dinâmica de recursos cognitivos (atenção, velocidade de decisão, estado motivacional) através de múltiplos sistemas em resposta à avaliação.
3. Análise Comparativa: Eles contrastam os achados da Anthropic com a literatura atual em neurociência afetiva (ex: meta-análeses de Lindquist et al. e o trabalho de Satpute et al.) em relação às assinaturas neurais da emoção humana.

Principais Contribuições e Argumentos
A principal contribuição do artigo é um framework rigoroso para distinguir entre representações semânticas de conceitos de emoção e estados emocionais funcionais. Os autores argumentam que os achados da Anthropic satisfazem apenas parcialmente os critérios para emoção funcional:

• Sobre a Interpretação (Avaliação): Os autores reconhecem que o Claude parece avaliar características contextuais e gerar representações internas que rastreiam a significância emocional, o que se assemelha ao processo de avaliação humana. No entanto, argumentam que existe uma divergência crítica: os achados da Anthropic baseiam-se na suposição de que emoções distintas correspondem a assinaturas neurais consistentes e discretas (vetores). Isso contradiz a neurociência afetiva contemporânea, que postula que as emoções humanas são caracterizadas por alta variabilidade e dependência de contexto, em vez de padrões uniformes. Os autores sugerem que os vetores identificados são provavelmente representações semânticas abstratas em vez de processos emocionais flexíveis.
• Sobre a Resposta (Reorganização): Os autores argumentam que a evidência da Anthropic falha em demonstrar a segunda função central da emoção. Embora as representações do modelo modulem o conteúdo do output, elas não induzem uma reorganização dinâmica da arquitetura de processamento do modelo. Ao contrário dos sistemas biológicos, onde o medo estreita a atenção ou a raiva acelera a tomada de decisão, o forward pass do LLM permanece computacionalmente fixo. Não há evidência de mudanças sustentadas na atenção, velocidade de processamento ou estado motivacional; os vetores "emocionais" atuam meramente como características contextuais que influenciam a probabilidade de tokens, de forma semelhante a qualquer outra característica de entrada.

Resultados
A avaliação produz uma conclusão mista, mas fundamentalmente cética, quanto à afirmação de que o Claude possui emoções funcionais:

• Suporte Parcial: O modelo demonstra uma habilidade de detectar significância emocional no contexto, alinhando-se com a primeira função da emoção (interpretação).
• Evidência Insuficiente: O modelo carece da segunda função (reorganização do processamento). A natureza consistente e discreta das representações identificadas aproxima-se mais de conceitos semânticos aprendidos do que da natureza variável e montada das emoções biológicas. Além disso, o modelo não exibe a reconfiguração sistêmica da atenção, velocidade de decisão ou motivação que define estados emocionais em organismos.
• Conclusão: Os autores concluem que, embora o artigo da Anthropic documente um sistema que aprendeu a representar conceitos emocionais, isso fica aquém de uma "emoção funcional" em um sentido cientificamente significativo.

Significância e Alegações
O artigo reivindica significância ao esclarecer a definição de "emoção funcional" para além da mera modulação de output. Argumenta-se que evitar a questão da consciência (como fez a Anthropic) é insuficiente; deve-se, em vez disso, examinar a arquitetura funcional do sistema.

Os autores propõem que, para um LLM possuir genuinamente emoções, evidências futuras devem demonstrar:

1. Mudanças Funcionalmente Interpretáveis: Evidência de que representações do tipo emocional causam mudanças na atenção, velocidade de processamento e probabilidade de resposta.
2. Reorganização de Múltiplos Sistemas: Prova de que essas representações produzem uma reorganização sustentada e distribuída do processamento através do sistema, de forma análoga a como emoções coletivas funcionam em grupos sociais ou como emoções individuais funcionam em organismos biológicos.

O artigo mantém uma postura modesta, afirmando que, embora os LLMs atuais não atendam a esses critérios, a possibilidade permanece aberta. Se futuros LLMs demonstrarem a capacidade para tal reorganização dinâmica e multissistêmica em resposta a representações emocionais, a comunidade científica estará justificada em atribuir emoções a eles.