Resumo Técnico: Redes de Contágio: Propagação de Viés de Avaliador em Sistemas de LLM Multi-Agente

1. Declaração do Problema

Em sistemas de modelos de linguagem de grande escala (LLM) multi-agente, os agentes frequentemente avaliam as saídas uns dos outros para guiar a colaboração, alocar tarefas e selecionar respostas. Embora este mecanismo de avaliação por pares seja central para frameworks como AutoGen e MetaGPT, ele cria um ciclo de feedback fechado onde julgamentos enviesados de um agente influenciam diretamente as saídas subsequentes de outro.

O problema central abordado é a Propagação de Viés do Avaliador: o fenômeno onde vieses sistemáticos de avaliação (por exemplo, uma preferência por raciocínio passo a passo ou respostas baseadas em evidências) se espalham pela rede de agentes. Se não controlado, essa propagação pode levar a um colapso de preferência em todo o sistema, onde toda a rede converge para uma única estratégia, eliminando a diversidade cognitiva que os sistemas multi-agente foram projetados para explorar. O artigo questiona se esses vieses se propagam entre agentes e sob quais condições eles escalam para uma falha sistêmica.

2. Metodologia

Estrutura Teórica: Redes de Contágio

Os autores formalizam a propagação de viés usando uma estrutura chamada Redes de Contágio, traçando uma analogia com modelos epidemiológicos (SIS/SIR).

• Matriz de Contágio entre Agentes ($\Gamma_N$): Uma matriz $N \times N$ onde as entradas fora da diagonal $\gamma_{j \to i}$ representam o coeficiente de contágio — a magnitude da mudança na distribuição de estratégia do agente $A_i$ após $R$ rodadas de avaliação pelo agente $A_j$.
• Dinâmica de Propagação: A propagação do viés ao longo de um caminho de comprimento $L$ é quantificada pelo fator cumulativo $\beta_L = \prod \gamma$.
• Classificação de Regimes: O comportamento do sistema é governado pelo raio espectral $\rho(\Gamma_N)$:
  • Supressão ($\rho < 1$): O viés atenua a cada salto.
  • Persistência ($\rho \approx 1$): O viés se propaga com mínima decaimento.
  • Cascata ($\rho > 1$): O viés se amplifica, levando ao colapso de preferência.
• Mitigação via Diversidade: O Teorema 2 postula que aumentar o número de avaliadores independentes ($k$) com perfis de preferência diversos reduz o fator de contágio efetivo $\gamma_{eff}$, potencialmente quebrando a condição de cascata.

Design Experimental

O estudo utiliza um experimento controlado de 3 agentes usando DeepSeek-chat (deepseek-v4-flash) para estabelecer um limite inferior de contágio dentro de uma família de modelos homogênea.

• Configuração de Agentes: Três agentes (A, B, C) diferenciados apenas por seus prompts de viés de avaliador:
  • Agente A: Enviesado por estrutura (prefere raciocínio passo a passo).
  • Agente B: Equilibrado (neutro).
  • Agente C: Enviesado por evidência (prefere respostas baseadas em evidências).
• Mecanismo de Aprendizado: Os agentes atualizam seus pesos de estratégia via Aprendizado por Reforço em Tempo de Teste (TTRL), um mecanismo de adaptação livre de parâmetros que ajusta multiplicativamente as distribuições de amostragem de estratégia com base no feedback do avaliador.
• Fases:
  1. Baseline: Medir perfis de preferência isolados.
  2. Contágio Pareado: Medir $\gamma_{i \to j}$ para todos os pares ordenados para construir $\Gamma_3$.
  3. Propagação em Cadeia: Simular uma cadeia de 3 saltos ($A \to B \to C$) para medir a atenuação cumulativa.
  4. Mitigação: Testar o efeito do aumento do tamanho do comitê de avaliadores ($k=1, 2, 3$) no fator de contágio efetivo.

3. Principais Resultados

1. Contágio Mensurável, mas Fraco em Sistemas Homogêneos

Mesmo dentro da mesma família de modelos subjacente, os vieses dos avaliadores propagam-se consistentemente entre os agentes.

• Coeficientes de Contágio: As entradas fora da diagonal em $\Gamma_3$ variaram de 0,143 a 0,304 (média $\gamma \in [0,157, 0,352]$).
• Assimetria: O contágio foi assimétrico; o agente enviesado por evidência (C) exerceu o contágio externo mais forte ($\bar{\gamma}_{C \to \cdot} = 0,241$), enquanto o agente enviesado por estrutura (A) exerceu o mais fraco ($\bar{\gamma}_{A \to \cdot} = 0,154$).

2. Regime de Supressão vs. Regime de Cascata

O sistema operou no Regime de Supressão sob topologia de cadeia.

• Atenuação em Cadeia: Em uma cadeia de 3 saltos ($A \to B \to C$), o fator de propagação cumulativo foi $\beta_3 = 0,0055$, indicando quase completa atenuação do viés após três saltos.
• Sensibilidade Topológica: Embora a topologia de cadeia tenha mostrado supressão (todos os $\gamma < 1,0$), o raio espectral da matriz totalmente conectada era $\rho(\Gamma_3) \approx 1,402$. Isso sugere que os mesmos agentes poderiam entrar em um Regime de Cascata se implantados em uma topologia totalmente conectada, embora permaneçam estáveis em uma cadeia.
• Homogêneo vs. Cross-Model: Estes coeficientes de modelos homogêneos (0,14–0,30) são 3–5$\times$ mais fracos que os coeficientes cross-model observados em trabalhos anteriores (MM-EPC: GPT-4o $\to$ DeepSeek, $\gamma \approx 0,85–1,3$). Isso apoia a hipótese de que a arquitetura compartilhada fornece uma regularização implícita contra a amplificação de viés.

3. Diversidade de Avaliadores como Estratégia de Mitigação

Aumentar o tamanho do comitê de avaliadores reduziu significativamente o contágio efetivo.

• Redução: Aumentar o comitê de $k=1$ para $k=3$ reduziu o fator de contágio efetivo ($\gamma_{eff}$) em 72,4% (de 0,264 para 0,073).
• Recuperação de Diversidade: A entropia de estratégia ($H$) aproximou-se do máximo teórico ($\ln 5 \approx 1,609$) conforme o tamanho do comitê aumentava, confirmando que avaliadores diversos mantêm a diversidade cognitiva mesmo em regimes de supressão.

4. Contribuições

1. Matriz de Contágio entre Agentes ($\Gamma_N$): Um framework formal que estende a medição de viés de configurações de 2 agentes ou cross-modais para topologias arbitrárias de $N$ agentes.
2. Teorema de Regime de Propagação: Uma caracterização de três regimes dinâmicos (Supressão, Persistência, Cascata) governados pelo raio espectral $\rho(\Gamma_N)$, provando que $\rho > 1$ é a condição para cascata em redes totalmente conectadas.
3. Validação Empírica de Supressão: Demonstração de que agentes de modelos homogêneos operam em um regime de supressão com rápida atenuação de viés ($\beta_3 = 0,0055$), contrastando com o regime de cascata visto em interações cross-model.
4. Limiar Crítico de Diversidade: Prova e verificação de que um comitê de $k \ge 3$ avaliadores diversos reduz o contágio efetivo abaixo dos limiares de cascata, fornecendo uma estratégia de mitigação acionável.
5. Framework Aberto: Lançamento do framework experimental de Redes de Contágio para permitir a medição da comunidade de $\Gamma_N$.

5. Significância e Alegações

O artigo afirma fornecer a primeira análise da propagação de viés em cadeias de avaliação de múltiplos saltos de agentes, revelando que os vieses dos avaliadores se comportam como agentes infecciosos em uma rede de contato.

• Visão Unificada de Viés: O trabalho conecta-se com a pesquisa anterior de MM-EPC para definir um "espectro de contágio" unificado. Ele postula que a diversidade cross-model amplifica a propagação de viés (levando ao potencial colapso), enquanto pools de avaliadores homogêneos fornecem supressão natural.
• Implicações de Design: Os autores argumentam que designers de sistemas multi-agente devem:
  • Preferir famílias de modelos homogêneas com prompts diversos em vez de famílias de modelos heterogêneas para evitar a amplificação de viés.
  • Medir $\Gamma$ antes da implantação para diagnosticar potenciais riscos de cascata.
  • Utilizar comitês de avaliadores ($k \ge 3$) como uma estratégia de defesa em profundidade.
  • Monitorar a entropia de estratégia como um indicador de saúde em tempo real do sistema.

O artigo conclui com uma lição prática: "Quando você constrói um sistema multi-agente onde os agentes avaliam uns aos outros, você está construindo uma rede de contágio". Ele enfatiza a necessidade de medir matrizes de contágio e manter a diversidade de avaliadores para preservar a diversidade cognitiva essencial para tarefas de raciocínio complexo.