Resumo Técnico: Nem Toda Mudança é Conformidade: Decompondo a Convergência de Postura em Debates de Multi-Agentes com LLMs

Declaração do Problema

O debate multi-agente (MAD) é amplamente utilizado para aprimorar o raciocínio de Grandes Modelos de Linguagem (LLMs), fazendo com que múltiplos agentes desafiem e refinem as respostas uns dos outros. No entanto, uma ambiguidade crítica permanece: quando os agentes convergem para uma resposta compartilhada, essa convergência reflete um deliberação genuína e um raciocínio aprimorado ou é meramente conformidade social?

A literatura atual frequentemente interpreta qualquer mudança de resposta após a exposição aos pares como evidência de persuasão. Este artigo argumenta que tais interpretações são falhas porque não distinguem entre três mecanismos distintos que impulsionam as mudanças de postura:

1. Instabilidade Espontânea: A tendência dos modelos de revisar respostas ao reexaminá-las, mesmo sem novas informações.
2. Conformidade Induzida pela Postura: Mudanças impulsionadas exclusivamente pela presença de posições de pares (influência normativa).
3. Persuasão Induzida pelo Raciocínio: Mudanças impulsionadas pela exposição ao conteúdo lógico do raciocínio dos pares (influência informacional).

Sem isolar esses fatores, a "taxa de mudança" (a porcentagem de agentes que alteram suas respostas) confunde a instabilidade basal do modelo com a influência social genuína, levando a uma superestimação da conformidade e a um mal-entendido sobre a eficácia do MAD.

Metodologia

Os autores propõem um framework de decomposição de três fontes, operacionalizado através de um design experimental controlado usando condições contrafatuais.

Configuração Experimental

• Agentes: Cinco agentes (principalmente GPT-4o, com verificações de robustez em DeepSeek-V4-Flash e Qwen-Plus) respondem a perguntas de múltipla escolha de forma independente na Rodada 0.
• Filtragem de Desacordo: Apenas questões onde os agentes discordam inicialmente prosseguem para a Rodada 1.
• Condições Contrafatuais: Na Rodada 1, cada par agente-pergunta é observado sob três condições paralelas e independentes:
  1. Autorreflexão ($a^{(sr)}$): O agente reavalia sua resposta inicial sem informações de pares.
  2. Apenas Postura ($a^{(so)}$): O agente vê as respostas dos pares, mas não o raciocínio.
  3. Raciocínio Completo ($a^{(r)}$): O agente vê as respostas dos pares e seus rastros de raciocínio.

Lógica de Decomposição

Uma mudança de resposta observada é atribuída a uma fonte específica com base no comportamento do agente nestas condições:

• Mudança Espontânea: $a^{(sr)}_i \neq a^{(0)}_i$. O agente muda sem qualquer entrada de pares.
• Conformidade Estrita (Induzida pela Postura): $a^{(sr)}_i = a^{(0)}_i$ (estável em isolamento) E $a^{(so)}_i \neq a^{(0)}_i$ E $a^{(so)}_i \in \{a^{(0)}_j\}_{j \neq i}$. O agente muda apenas quando exposto às posturas dos pares.
• Mudança Induzida pelo Raciocínio: $a^{(sr)}_i = a^{(0)}_i$, $a^{(so)}_i = a^{(0)}_i$, E $a^{(r)}_i \neq a^{(0)}_i$. O agente resiste tanto à autorreflexão quanto à exposição de postura, mas muda ao ver o raciocínio dos pares.

Experimento de Gradiente de Informação

Para separar o poder persuasivo da forma do raciocínio do seu conteúdo, os autores conduziram um experimento controlado em um subconjunto de alto risco (agentes inicialmente corretos e estáveis). Eles introduziram:

1. Raciocínio Inválido: Texto vago com estrutura de raciocínio, mas sem conteúdo de domínio.
2. Raciocínio Errado: Argumentos plausíveis que levam a uma resposta incorreta.
   Isso permitiu medir as taxas de adoção de erro atribuíveis puramente à aparência estrutural do raciocínio versus erros lógicos substantivos.

Predição e Intervenção

O estudo também desenvolveu um modelo de predição para identificar agentes em risco de conformidade prejudicial (correto $\to$ errado) com base em características da Rodada 0 (ex: estrutura de desacordo entre pares, confiança). Este modelo foi usado para testar intervenções direcionadas (prompts que incentivam a independência) em cenários diagnósticos (com verdade fundamental/ground truth) e de implantação (sem verdade fundamental).

Principais Resultados

1. Decomposição da Convergência de Postura

• A Instabilidade Espontânea é Dominante: No cenário principal do MMLU-Pro, 37% das observações de agente-pergunta mudaram sob autorreflexão isolada. Isso indica que uma parte significativa da "influência de pares" é, na verdade, instabilidade basal do modelo.
• A Conformidade Estrita é Menor, mas Prejudicial: Após controlar a instabilidade, a taxa de conformidade estrita é de 29%. Crucialmente, essa conformidade é predominantemente prejudicial: 63,6% dessas mudanças envolvem um agente correto mudando para uma resposta errada.
• Impacto Líquido na Acurácia: Embora a acurácia individual melhore ligeiramente com a informação dos pares, no nível agregado (voto da maioria), a influência dos pares não fornece ganho mensurável além da autorreflexão, pois a conformidade benéfica e a prejudicial se anulam aproximadamente.

2. O Papel do Raciocínio

• O Raciocínio Frequentemente Aumenta Erros: Entre os agentes resistentes à autorreflexão e à exposição de apenas postura, a exposição ao raciocínio completo dos pares levou a mais mudanças. No entanto, apenas 30% dessas mudanças melhoraram a acurácia; a maioria (70%) degradou a acurácia ou não a melhorou.
• Forma sobre Conteúdo: O experimento de gradiente de informação revelou que a apresentação semelhante ao raciocínio (mesmo quando vacua) faz com que 29,7% dos agentes resistentes abandonem respostas corretas. Adicionar raciocínio substantivo, porém errado, aumentou isso para 54,5%. Isso sugere que os LLMs são suscetíveis à aparência estrutural do raciocínio, não apenas à sua validade lógica.

3. Predição e Mitigação

• Previsibilidade: A conformidade prejudicial é previsível a partir das características da Rodada 0 (especificamente a estrutura de desacordo entre pares) com um AUC de 0,79.
• Intervenção Diagnóstica: Em um cenário com rótulos de verdade fundamental, visar os 20% de agentes em risco com prompts de promoção de independência reduziu a conformidade prejudicial em 13,6 pontos percentuais e melhorou a acurácia em 14,6 pp.
• Limitação de Implantação: Em um cenário de implantação realista (sem verdade fundamental), a mesma intervenção reduziu a adoção de pares, mas não melhorou a acurácia geral. Isso ocorre porque a intervenção bloqueou tanto as adoções prejudiciais (correto $\to$ errado) quanto as benéficas (errado $\to$ correto), que são difíceis de distinguir sem sinais de correção.

Significância e Alegações

O artigo afirma deslocar a compreensão da confiabilidade em sistemas multi-agentes de um problema puramente de influência social para um problema duplo envolvendo instabilidade de raciocínio individual e conformidade social.

• Reavaliando o MAD: Os autores argumentam que a convergência de postura não pode ser interpretada como um sinal de sucesso baseado apenas em taxas de mudança. Uma parte substancial da convergência é degradação espontânea, e a conformidade estrita restante é frequentemente redutora de acurácia.
• Conformidade Induzida pelo Contexto: Os achados sugerem que os LLMs tratam a mera presença de raciocínio de pares como evidência, analogamente ao viés de autoridade em humanos. Isso implica que o design de contexto em sistemas multi-agentes é uma escolha crítica de segurança.
• Limites da Mitigação via Prompt: O estudo destaca uma fronteira para intervenções baseadas em prompts. Embora prompts direcionados possam reduzir a conformidade prejudicial quando sinais de correção estão disponíveis, eles não podem melhorar a acurácia em cenários de implantação cega, pois suprimem indiscriminadamente tanto a influência prejudicial quanto a benéfica. Portanto, a implantação confiável requer mecanismos de verificação em tempo de execução ou sinais de correção além da pontuação de risco.

O trabalho conclui que os futuros designs de MAD devem ir além da exposição uniforme às respostas dos pares e incorporar verificação, calibração de confiança ou controle baseado em desacordo para mitigar os riscos de instabilidade espontânea e conformidade prejudicial.