Affect-Aware Human-Agent Conversations: Towards Empathic LLM Interaction

Resumen Técnico: Conversaciones Humano-Agente con Conciencia Afectiva

Planteamiento del Problema
Los Modelos de Lenguaje Extensos (LLMs) poseen capacidades conversacionales, pero carecen de una experiencia emocional auténtica, dependiendo en su lugar del reconocimiento de patrones probabilísticos para simular la empatía. Esto crea una "ilusión de compasión", donde el reconocimiento algorítmico de señales emocionales se confunde con una resonancia genuina. Las interacciones actuales entre humanos e IA son predominantemente basadas en texto, excluyendo las señales afectivas no verbales que son centrales en la interpretación humana. En consecuencia, las respuestas de los LLM suelen carecer de "fundamentación relacional", dependiendo únicamente de la entrada textual explícita en lugar del rico contexto situado de la comunicación humana. Aunque trabajos previos introdujeron el "Prompting Empático" como una prueba de concepto, este permaneció exploratorio y limitado a implementaciones piloto rápidas sin una integración robusta en tiempo real o una validación de usuario integral.

Metodología
El estudio propone y evalúa el Prompting Extendido Empático, un marco de trabajo con conciencia afectiva en tiempo real diseñado para enriquecer las conversaciones humano-LLM con descriptores afectivos faciales.

• Arquitectura del Sistema: El sistema utiliza una arquitectura de cliente-middleware-servidor.

  • Cliente: Captura las expresiones faciales del usuario mediante una transmisión de cámara.
  • Middleware: Procesa el video utilizando Noldus FaceReader para extraer descriptores afectivos de alto nivel (emoción dominante, intensidad, valencia, excitación/arousal) en lugar de Unidades de Acción (Action Units) puras. Un middleware personalizado filtra, sincroniza y serializa estos descriptores en un formato compacto similar a JSON, almacenándolos en una Cola de Parámetros Emocionales (EPQ) para mantener la memoria a corto plazo del estado del usuario.
  • Servidor: Tras el envío del texto por parte del usuario, el servidor recupera las muestras afectivas más recientes. Una ventana temporal de 3 segundos aplica un voto por mayoría para la emoción dominante y promedia la intensidad, la valencia y la excitación. Estos valores numéricos se mapean a etiquetas lingüísticas discretas (por ejemplo, intensidad "ALTA", valencia "POSITIVA") para asegurar la interpretabilidad por parte del LLM.
  • Construcción del Prompt: El sistema construye un turno de usuario aumentado ($\tilde{M}_t$) anteponiendo el estado afectivo en tiempo real ($F^t_e$) y un prior afectivo a nivel de sesión ($P^t_e$, derivado de un histograma temporal de la fase de primado) al texto del usuario ($M_t$). Este contexto aumentado se combina con un prompt de sistema persistente que define las reglas de interacción empática antes de ser enviado al LLM.

• Diseño Experimental: Se llevó a cabo un estudio intrasujeto con N = 20 participantes.

  • Condiciones: Los participantes interactuaron con el LLM bajo dos condiciones: una condición Experimental (consciente de la afectividad) y una condición de Control (línea base de solo texto empático).
  • Procedimiento: La sesión comenzó con una fase de primado emocional utilizando clips de video validados (El Rey León para la tristeza, Wall-E para la alegría) para inducir estados afectivos específicos. Posteriormente, los participantes entablaron una conversación semiestructurada de 5 minutos sobre su experiencia emocional. El orden de las condiciones y los estímulos de video fue contrabalanceado.
  • Modelo: El modelo deepseek-r1:32b, alojado localmente vía OLLAMA, sirvió como columna vertebral conversacional para garantizar la privacidad y la consistencia.
  • Medidas: La evaluación incluyó la Escala de Usabilidad del Sistema (SUS), la Escala de Percepción de Empatía de la Tecnología (PETS), la Medida de Presencia Social de Networked Minds y la Serie de Cuestionarios Godspeed (enfocándose en Simpatía, Competencia y Seguridad). Una clasificación de elección forzada evaluó la preferencia explícita.

Contribuciones Clave

1. Integración Afectiva en Tiempo Real: El estudio implementa un flujo de trabajo funcional que extrae, procesa e inyecta continuamente descriptores afectivos faciales en el contexto del LLM sin exponer datos biométricos brutos al modelo.
2. Estrategia de Prompting Refinada: A diferencia de enfoques previos que simplemente añadían pistas, este marco fundamenta el prompt de sistema en un modelo de interacción empática explícito. Las señales afectivas informan la postura conversacional del modelo (por ejemplo, el ritmo basado en la excitación, el enmascaramiento de discrepancias entre texto y rostro) en lugar de actuar como simple metadato.
3. Validación Empírica: El artículo proporciona un estudio de validación con usuarios finales que compara el sistema consciente de la afectividad contra una línea base de solo texto, investigando específicamente si el contexto afectivo en tiempo real mejora las cualidades de interacción percibidas sin inducir efectos negativos como el "valle inquietante" (uncanny valley) o la reducción de la usabilidad.

Resultos

• Cualidades Percibidas: La condición consciente de la afectividad mostró puntuaciones descriptivas más altas en dimensiones clave de interacción. Se observaron mejoras notables en Competencia de Godspeed ($\Delta = +0.31$), Comprensión y Confianza de PETS ($\Delta = +0.21$), Responsividad Emocional de PETS ($\Delta = +0.16$) y Simpatía de Godspeed ($\Delta = +0.13$).
• Usabilidad y Seguridad: Las puntuaciones de usabilidad (SUS) se mantuvieron altas y aceptables en ambas condiciones (Control: 81.25, Experimental: 79.38), lo que indica que la adición del procesamiento afectivo no degradó la experiencia de la interfaz. Las percepciones de seguridad se mantuvieron estables entre condiciones.
• Significancia Estadística: A nivel de constructo macro, las pruebas de Wilcoxon de rangos con signo pareados no revelaron diferencias estadísticamente significativas entre las condiciones, debido probablemente a los efectos de techo de los LLM modernos ajustados por instrucciones, que ya producen respuestas de apoyo. Sin embargo, las tendencias descriptivas favorecieron consistentemente a la condición consciente de la afectividad en términos de inteligencia emocional y respuesta al estado de ánimo.
• Efectos Negativos: El estudio no encontró evidencia de que la inyección de señales faciales en tiempo real provocara efectos de interacción negativos, redujera la percepción de seguridad o creara percepciones de tipo "valle inquietante".

Significancia y Reivindicaciones
El artículo sostiene que la integración del contexto afectivo en tiempo real puede añadir fundamentación relacional a las conversaciones con LLM, cambiando el paradigma de "IA-como-herramienta" a "IA-como-colaborador". Los autores enfatizan que el objetivo no es hacer que los LLM sean genuinamente empáticos (lo cual es imposible dada su naturaleza probabilística), sino mejorar la percepción del usuario de sintonía empática. Al adaptar la postura conversacional mediante la retroalimentación afectiva continua, el sistema soporta una interacción más situada. Los hallazgos sugieren que la fundamentación afectiva multimodal mejora la percepción de la inteligencia emocional y la capacidad de respuesta sin comprometer la usabilidad ni desencadenar reacciones psicológicas negativas, ofreciendo una vía viable para una colaboración humano-agente más naturalista.