Learning dynamics from online-offline systems of LLM agents

Título: Dinámicas de aprendizaje de sistemas en línea-offline de agentes LLM

1. Planteamiento del Problema

La inestabilidad social está cada vez más vinculada a la interacción dinámica entre sistemas en línea y fuera de línea. Mientras que la investigación previa ha modelado la propagación de información y el desorden social en humanos (usando modelos epidemiológicos), existe una brecha crítica en la comprensión de cómo los agentes automatizados basados en Modelos de Lenguaje (LLM) difunden información.

• Contexto: Los bots de alto volumen y los agentes LLM están generando una porción significativa del tráfico en redes sociales. Su comportamiento, definido por "personalidades" asignadas mediante prompts, puede amplificar noticias y generar patrones de contagio a gran escala.
• Objetivo: El trabajo busca modelar matemáticamente cómo se propagan las noticias (específicamente sobre conflictos armados) en una red de agentes LLM, investigando cómo las características de los eventos (suavidad vs. violencia) y las personalidades de los agentes afectan la dinámica global de la red.

2. Metodología

Los autores diseñaron un experimento de simulación combinado con dos enfoques de modelado matemático:

A. Simulación de Agentes (Datos):

• Red: Se generaron redes aleatorias $k$-regulares con $N=128$ agentes y grado $k=5$.
• Agentes: Se utilizaron instancias de gpt-3.5-turbo-1106. Cada agente recibió una de 32 perfiles de personalidad únicos, derivados de las 5 dimensiones del modelo "Big Five" (Apertura, Conciencia, Extraversión, Estabilidad Emocional y Amabilidad), donde cada dimensión es binaria (alta/baja).
• Datos de Entrada (Eventos): Se seleccionaron noticias del banco de datos ACLED (Filipinas, 2021-2024). Mediante embeddings de texto y Análisis de Componentes Principales (PCA), los eventos se agruparon en dos clusters: Eventos Pacíficos (protestas, demostraciones) y Eventos Severos (violencia política, ataques).
• Proceso: Un agente "semilla" recibe una noticia. Basándose en su personalidad y el contenido, decide si compartirla con sus vecinos. Este proceso se repite iterativamente ($T=15$ pasos) hasta que la noticia se propaga o se detiene. Se ejecutaron múltiples realizaciones con diferentes asignaciones de personalidad y eventos.

B. Modelado Matemático:
Se propusieron dos modelos para describir la dinámica observada:

1. Modelo Estocástico Basado en Agentes (Regresión Logística):
   • Modela la probabilidad $p_i$ de que un nodo pase de "no comprometido" a "comprometido".
   • Utiliza una regresión logística donde la probabilidad depende del perfil de personalidad (32 coeficientes) y la severidad del evento.
   • Se estimó mediante Máxima Verosimilitud (MLE).
2. Modelo de Campo Medio (Ecuaciones Diferenciales):
   • Una aproximación del modelo de agentes que agrupa a los individuos en dos categorías basadas en su comportamiento de propagación (identificadas mediante pruebas estadísticas Tukey HSD).
   • Utiliza un sistema de ecuaciones diferenciales tipo Susceptible-Infecado (SI) con dos tasas de transmisión ($\tau_1, \tau_2$) correspondientes a dos grupos de rasgos.
   • Los parámetros se estimaron minimizando el error cuadrático medio (RMSE) entre la curva de la ecuación diferencial y los datos simulados.

3. Contribuciones Clave

• Marco de Modelado Híbrido: Presenta una metodología para estudiar la interacción online-offline utilizando LLMs como sujetos de prueba en redes complejas.
• Identificación de Grupos de Personalidad: Demostró que, a pesar de la complejidad de 32 perfiles, el comportamiento de propagación puede reducirse a dos grupos funcionales distintos con tasas de transmisión diferentes.
• Simplicidad vs. Precisión: Evidenció que un modelo de campo medio de dos parámetros (ecuaciones diferenciales) captura la dinámica global con mayor precisión que un modelo logístico completo de 33 parámetros, ofreciendo una herramienta más eficiente para predecir cascadas de información.
• Análisis de Sesgo de Contenido: Cuantificó cómo la naturaleza del evento (pacífico vs. violento) altera las tasas de propagación, encontrando que los eventos pacíficos se difunden más fácilmente.

4. Resultados

• Dinámica de Propagación: La curva de compromiso total sigue una forma sigmoide. El crecimiento inicial es impulsado rápidamente por el Grupo 2 (agentes con mayor probabilidad de compartir), mientras que el Grupo 1 (agentes reacios) se compromete lentamente, causando una meseta en la curva global.
• Influencia de la Personalidad:
  • La Apertura (Openness) y la Extraversión son los rasgos más determinantes para la propagación.
  • Los agentes con baja apertura tienden a evitar temas controvertidos o violentos.
• Comparación de Modelos (Errores RMSE):
  • Modelo Logístico Completo (33 parámetros): RMSE = 0.0414. Subestima ligeramente el compromiso temprano y lo sobreestima al final.
  • Modelo de Campo Medio (2 parámetros): RMSE = 0.0223. Proporcionó el mejor ajuste, capturando casi perfectamente la dinámica de eventos pacíficos y siendo más preciso que el modelo logístico para eventos severos.
• Efecto de la Severidad: Los eventos pacíficos tienen una tasa de transmisión significativamente mayor que los eventos violentos. El modelo de campo medio predice con alta precisión la propagación de noticias pacíficas.

5. Significado e Implicaciones

• Predictibilidad de Agentes LLM: El estudio sugiere que, aunque los agentes LLM tienen comportamientos complejos y estocásticos, sus patrones de difusión de información a gran escala son estables y predecibles mediante modelos matemáticos de baja dimensión.
• Herramienta para Análisis Social: Estos modelos permiten entender y potencialmente predecir cómo la información (y la desinformación) se propagará en redes donde humanos y LLM interactúan.
• Futuras Direcciones: El marco propuesto es escalable para estudiar otras arquitecturas de LLM y, crucialmente, para simular redes híbridas donde agentes LLM interactúan con humanos reales, proporcionando un "banco de pruebas" controlado para estudiar la inestabilidad social y la formación de opinión.

En resumen, el artículo demuestra que la complejidad de las interacciones entre LLMs con personalidades diversas puede simplificarse matemáticamente en un modelo de contagio de dos tasas, ofreciendo una nueva perspectiva sobre la estabilidad y la dinámica de la información en la era de la inteligencia artificial generativa.