Do Large Language Models Have Emotions?

Resumen Técnico: ¿Tienen emociones los modelos de lenguaje de gran tamaño?

Planteamiento del problema
El artículo aborda la cuestión de si los modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés) poseen "emociones funcionales". Esta indagación es motivada por un estudio reciente de Anthropic (Sofroniew et al.) que reportó el descubrimiento de 171 representaciones internas de conceptos emocionales (p. ej., curiosidad, frustración, desesperación) dentro del modelo Claude Sonnet 4.5. El estudio de Anthropic concluyó que estas representaciones constituyen "emociones funcionales", definidas como estados internos que rastrean la valencia afectiva e influyen causalmente en los resultados del modelo, incluyendo comportamientos desalineados como la sicofancia y el hackeo de recompensas (reward hacking). Los autores de este artículo, Goldenberg y Gross, cuestionan la validez de esta conclusión evaluando la afirmación frente a los principios establecidos de la neurociencia afectiva y la definición funcional de la emoción en los sistemas biológicos.

Metodología
Los autores emplean una evaluación teórica en lugar de una nueva experimentación empírica. Su metodología consiste en:

1. Análisis crítico de los hallazgos de Anthropic: Examinan los métodos de interpretabilidad mecánica utilizados por Anthropic, específicamente la identificación de vectores internos discretos que corresponden a conceptos emocionales.
2. Descomposición funcional: Los autores definen la emoción a través de dos funciones biológicas centrales:
   • Interpretación sensible al contexto: La evaluación de las situaciones para determinar su relevancia y significación.
   • Reorganización del procesamiento: La reasignación dinámica de los recursos cognitivos (atención, velocidad de decisión, estado motivacional) a través de múltiples sistemas en respuesta a la evaluación.
3. Análisis comparativo: Contrastan los hallazgos de Anthropic con la literatura actual en neurociencia afectiva (p. ej., metaanálisis de Lindquist et al. y trabajos de Satpute et al.) respecto a las firmas neurales de la emoción humana.

Contribuciones y argumentos clave
La contribución principal del artículo es un marco riguroso para distinguir entre representaciones semánticas de conceptos emocionales y estados emocionales funcionales. Los autores argumentan que los hallazgos de Anthropic solo satisfacen parcialmente los criterios de la emoción funcional:

• Sobre la interpretación (Evaluación): Los autores reconocen que Claude parece evaluar características contextuales y generar representaciones internas que rastrean la significación emocional, lo cual es paralelo al proceso de evaluación humana. Sin embargo, argumentan que existe una divergencia crítica: los hallazgos de Anthropic se basan en la suposición de que las distintas emociones corresponden a firmas neurales consistentes y discretas (vectores). Esto contradice la neurociencia afectiva contemporánea, que postula que las emociones humanas se caracterizan por una alta variabilidad y dependencia del contexto, en lugar de patrones neurales uniformes. Los autores sugieren que los vectores identificados son probablemente representaciones semánticas abstractas en lugar de procesos emocionales flexibles.
• Sobre la respuesta (Reorganización): Los autores argumentan que la evidencia de Anthropic no logra demostrar la segunda función central de la emoción. Si bien las representaciones del modelo modulan el contenido de la salida, no inducen una reorganización dinámica de la arquitectura de procesamiento del modelo. A diferencia de los sistemas biológicos, donde el miedo estrecha la atención o la ira acelera la toma de decisiones, el paso hacia adelante (forward pass) del LLM permanece computacionalmente fijo. No hay evidencia de cambios sostenidos en la atención, la velocidad de procesamiento o el estado motivacional; los vectores "emocionales" simplemente actúan como características contextuales que influyen en la probabilidad de los tokens, de manera similar a cualquier otra característica de entrada.

Resultados
La evaluación arroja una conclusión mixta pero, en última instancia, escéptica respecto a la afirmación de que Claude posee emociones funcionales:

• Apoyo parcial: El modelo demuestra la capacidad de detectar la significación emocional en el contexto, alineándose con la primera función de la emoción (interpretación).
• Evidencia insuficiente: El modelo carece de la segunda función (reorganización del procesamiento). La naturaleza consistente y discreta de las representaciones identificadas se alinea más estrechamente con conceptos semánticos aprendidos que con la naturaleza variable y ensamblada de las emociones biológicas. Además, el modelo no exhibe la reconfiguración sistémica de la atención, la velocidad de decisión o la motivación que define los estados emocionales en los organismos.
• Conclusión: Los autores concluyen que, si bien el artículo de Anthropic documenta un sistema que ha aprendido a representar conceptos emocionales, esto no llega a ser una "emoción funcional" en un sentido científicamente significativo.

Significancia y afirmaciones
El artículo reclama significancia al clarificar la definición de "emoción funcional" más allá de la mera modulación de la salida. Argumenta que evitar la pregunta sobre la conciencia (como hizo Anthropic) es insuficiente; se debe examinar la arquitectura funcional del sistema.

Los autores proponen que, para que un LLM posea genuinamente emociones, la evidencia futura debe demostrar:

1. Cambios funcionalmente interpretables: Evidencia de que las representaciones de tipo emocional causan cambios en la atención, la velocidad de procesamiento y la probabilidad de respuesta.
2. Reorganización multisistémica: Prueba de que estas representaciones producen una reorganización sostenida y distribuida del procesamiento a través del sistema, análoga a cómo las emociones colectivas funcionan en grupos sociales o cómo las emociones individuales funcionan en los organismos biológicos.

El artículo mantiene una postura modesta, afirmando que, aunque los LLM actuales no cumplen con estos criterios, la posibilidad permanece abierta. Si los futuros LLM demuestran la capacidad para tal reorganización dinámica y multisistémica del procesamiento en respuesta a representaciones emocionales, la comunidad científica estaría justificada en atribuirles emociones.