Resumen Técnico: Redes de Contagio: Propagación del Sesgo del Evaluador en Sistemas Multi-Agente de LLM

1. Planteamiento del Problema

En los sistemas multi-agente de Modelos de Lenguaje Extensos (LLM), los agentes evalúan frecuentemente las salidas de otros para guiar la colaboración, asignar tareas y seleccionar respuestas. Si bien este mecanismo de evaluación por pares es central en marcos como AutoGen y MetaGPT, crea un bucle de retroalimentación cerrado donde los juicios sesgados de un agente influyen directamente en las salidas subsecuentes de otro.

El problema central abordado es la Propagación del Sesgo del Evaluador: el fenómeno donde los sesgos sistemáticos de evaluación (por ejemplo, una preferencia por el razonamiento paso a paso o respuestas basadas en evidencia) se propagan a través de la red de agentes. Si no se controla, esta propagación puede conducir a un colapso de preferencia en todo el sistema, donde toda la red converge en una única estrategia, eliminando la diversidad cognitiva que los sistemas multi-agente están diseñados para explotar. El artículo pregunta si estos sesgos se propagan entre los agentes y bajo qué condiciones escalan hacia un fallo sistémico.

2. Metodología

Marco Teórico: Redes de Contagio

Los autores formalizan la propagación del sesgo utilizando un marco llamado Redes de Contagion (Contagion Networks), trazando una analogía con los modelos epidemiológicos (SIS/SIR).

• Matriz de Contagio entre Agentes ($\Gamma_N$): Una matriz de $N \times N$ donde las entradas fuera de la diagonal $\gamma_{j \to i}$ representan el coeficiente de contagio: la magnitud del cambio en la distribución de la estrategia en el agente $A_i$ después de $R$ rondas de evaluación por parte del agente $A_j$.
• Dinámica de Propagación: La propagación del sesgo a lo largo de un camino de longitud $L$ se cuantifica mediante el factor acumulativo $\beta_L = \prod \gamma$.
• Clasificación de Regímenes: El comportamiento del sistema está gobernado por el radio espectral $\rho(\Gamma_N)$:
  • Supresión ($\rho < 1$): El sesgo se atenúa con cada salto.
  • Persistencia ($\rho \approx 1$): El sesgo se propaga con una degradación mínima.
  • Cascada ($\rho > 1$): El sesgo se amplifica, conduciendo al colapso de la preferencia.
• Mitigación mediante Diversidad: El Teorema 2 postula que aumentar el número de evaluadores independientes ($k$) con perfiles de preferencia diversos reduce el factor de contagio efectivo $\gamma_{eff}$, pudiendo romper la condición de cascada.

Diseño Experimental

El estudio utiliza un experimento controlado de 3 agentes utilizando DeepSeek-chat (deepseek-v4-flash) para establecer un límite inferior de contagio dentro de una familia de modelos homogénea.

• Configuración de Agentes: Tres agentes (A, B, C) diferenciados únicamente por sus prompts de sesgo de evaluador:
  • Agente A: Sesgado hacia la estructura (prefiere el razonamiento paso a paso).
  • Agente B: Equilibrado (neutral).
  • Agente C: Sesgado hacia la evidencia (prefiere respuestas basadas en evidencia).
• Mecanismo de Aprendizaje: Los agentes actualizan sus pesos de estrategia mediante Aprendizaje por Refuerzo en Tiempo de Prueba (TTRL), un mecanismo de adaptación sin parámetros que ajusta multiplicativamente las distribuciones de muestreo de estrategias basándose en la retroalimentación del evaluador.
• Fases:
  1. Línea Base: Medir los perfiles de preferencia independientes.
  2. Contagio Pareado: Medir $\gamma_{i \to j}$ para todos los pares ordenados para construir $\Gamma_3$.
  3. Propagación en Cadena: Simular una cadena de 3 saltos ($A \to B \to C$) para medir la atenuación acumulada.
  4. Mitigación: Probar el efecto del aumento del tamaño del comité de evaluadores ($k=1, 2, 3$) sobre el contagio efectivo.

3. Resultados Clave

1. Contagio Medible pero Débil en Sistemas Homogéneos

Incluso dentro de la misma familia de modelos subyacentes, los sesgos de los evaluadores se propagan consistentemente entre los agentes.

• Coeficientes de Contagio: Las entradas fuera de la diagonal en $\Gamma_3$ oscilaron entre 0.143 y 0.304 (media $\gamma \in [0.157, 0.352]$).
• Asimetría: El contagio fue asimétrico; el agente sesgado hacia la evidencia (C) ejerció el contagio externo más fuerte ($\bar{\gamma}_{C \to \cdot} = 0.241$), mientras que el agente sesgado hacia la estructura (A) ejerció el más débil ($\bar{\gamma}_{A \to \cdot} = 0.154$).

2. Régimen de Supresión vs. Régimen de Cascada

El sistema operó en el Régimen de Supresión bajo una topología de cadena.

• Atenuación en Cadena: En una cadena de 3 saltos ($A \to B \to C$), el factor de propagación acumulado fue $\beta_3 = 0.0055$, lo que indica una atenuación casi completa del sesgo tras tres saltos.
• Sensibilidad Topológica: Aunque la topología de cadena mostró supresión (todos los $\gamma < 1.0$), el radio espectral de la matriz totalmente conectada fue $\rho(\Gamma_3) \approx 1.402$. Esto sugiere que los mismos agentes podrían entrar en un Régimen de Cascada si se despliegan en una topología totalmente conectada, aunque permanecen estables en una cadena.
• Homogéneo vs. Inter-Modelo: Estos coeficientes de modelos homogéneos (0.14–0.30) son de 3 a 5 veces más débiles que los coefientes inter-modelo observados en trabajos previos (MM-EPC: GPT-4o $\to$ DeepSeek, $\gamma \approx 0.85–1.3$). Esto respalda la hipótesis de que la arquitectura compartida proporciona una regularización implícita contra la amplificación del sesgo.

3. La Diversidad del Evaluador como Estrategia de Mitigación

El aumento del tamaño del comité de evaluadores redujo significativamente el contagio efectivo.

• Reducción: Aumentar el comité de $k=1$ a $k=3$ redujo el factor de contagio efectivo ($\gamma_{eff}$) en un 72.4% (de 0.264 a 0.073).
• Recuperación de la Diversidad: La entropía de la estrategia ($H$) se acercó al máximo teórico ($\ln 5 \approx 1.609$) a medida que aumentaba el tamaño del comité, confirmando que evaluadores diversos mantienen la diversidad cognitiva incluso en regímenes de supresión.

4. Contribuciones

1. Matriz de Contagio entre Agentes ($\Gamma_N$): Un marco formal que extiende la medición del sesgo desde entornos de 2 agentes o inter-modales hacia topologías de $N$ agentes arbitrarias.
2. Teorema de Regímenes de Propagación: Una caracterización de tres regímenes dinámicos (Supresión, Persistencia, Cascada) gobernados por el radio espectral $\rho(\Gamma_N)$, demostrando que $\rho > 1$ es la condición para la cascada en redes totalmente conectadas.
3. Validación Empírica de la Supresión: Demostración de que los agentes de modelos homogéneos operan en un régimen de supresión con una rápida atenuación del sesgo ($\beta_3 = 0.0055$), contrastando con el régimen de cascada visto en interacciones entre modelos distintos.
4. Umbral Crítico de Diversidad: Prueba y verificación de que un comité de $k \ge 3$ evaluadores diversos reduce el contagio efectivo por debajo de los umbrales de cascada, proporcionando una estrategia de mitigación accionable.
5. Marco Abierto: Lanzamiento del marco experimental de Redes de Contagio para permitir a la comunidad la medición de $\Gamma_N$.

5. Significado y Reivindicaciones

El artículo afirma proporcionar el primer análisis de la propagación del sesgo en cadenas de evaluación de múltiples saltos, revelando que los sesgos de los evaluadores se comportan como agentes infecciosos en una red de contacto.

• Imagen Unificada del Sesgo: El trabajo conecta con la investigación previa de MM-EPC para definir un "espectro de contagio" unificado. Postula que la diversidad inter-modelo amplifica la propagación del sesgo (llevando al posible colapso), mientras que los grupos de evaluadores homogéneos proporcionan una supresión natural.
• Implicaciones de Diseño: Los autores argumentan que los diseñadores de sistemas multi-agente deben:
  • Preferir familias de modelos homogéneos con prompts diversos sobre familias de modelos heterogéneos para evitar la amplificación del sesgo.
  • Medir $\Gamma$ antes del despliegue para diagnosticar posibles riesgos de cascada.
  • Utilizar comités de evaluadores ($k \ge 3$) como una estrategia de defensa en profundidad.
  • Monitorear la entropía de la estrategia como un indicador de salud en tiempo real del sistema.

El artículo concluye con una reflexión práctica: "Cuando construyes un sistema multi-agente donde los agentes se evalúan entre sí, estás construyendo una red de contagio". Enfatiza la necesidad de medir las matrices de contagio y mantener la diversidad de los evaluadores para preservar la diversidad cognitiva esencial para las tareas de razonamiento complejo.