When Agents "Misremember" Collectively: Exploring the Mandela Effect in LLM-based Multi-Agent Systems

1. Problema Investigado

O artigo aborda uma vulnerabilidade crítica e subexplorada em sistemas multiagentes baseados em Grandes Modelos de Linguagem (LLMs): o Efeito Mandela Coletivo.

• Definição: O Efeito Mandela refere-se a um fenômeno cognitivo onde um grupo compartilha uma memória falsa de um fato verificável, resultante de informações incorretas reforçadas socialmente e internalizadas.
• Contexto: Embora os sistemas multiagentes sejam projetados para simular dinâmicas sociais como deliberação e consenso, eles são suscetíveis a vieses cognitivos coletivos. Diferente de alucinações individuais (erros pontuais), o Efeito Mandela envolve a consolidação e persistência de falsas memórias através da interação social, levando a julgamentos de grupo falhos e à propagação de desinformação em cenários de alto risco (ex: revisão de contratos, verificação de fatos, diagnósticos médicos).
• ** lacuna de pesquisa:** Trabalhos anteriores focaram em conformidade de curto prazo ou erros individuais, ignorando como falsas narrativas persuasivas podem ser internalizadas como memórias estáveis em sistemas multiagentes.

2. Metodologia: MANBENCH

Para estudar sistematicamente esse fenômeno, os autores propõem o MANBENCH, um novo benchmark (ponto de referência) projetado especificamente para avaliar o Efeito Mandela.

A. Curação de Tarefas

• Baseado no dataset BIG-Bench Hard (BBH).
• Estrutura: 20 tarefas com 4.838 perguntas de múltipla escolha.
• Domínios: As tarefas são classificadas em quatro categorias para testar diferentes tipos de vulnerabilidade:
  1. História, Tempo e Eventos.
  2. Concepções Erradas e Cognição Social.
  3. Conhecimento Geral.
  4. Conhecimento Específico de Domínio.
• Mecanismo: Para cada pergunta, um LLM é usado para selecionar a resposta incorreta mais plausível (distrator) para servir como a "falsa verdade" a ser implantada.

B. Protocolos de Interação

O benchmark utiliza cinco protocolos para simular cenários sociais variados:

1. Protocolo de Realidade Baseline (B): O agente responde isoladamente para estabelecer o conhecimento factual inicial.
2. Protocolo Genérico de Curto Prazo (GS): Um grupo de agentes não diferenciados gera consenso falso imediatamente.
3. Protocolo Genérico de Longo Prazo (GL): Após o consenso falso, o agente é reavaliado após um processo de "consolidação de memória" (resumo do diálogo), testando se a memória falsa persistiu.
4. Protocolo Baseado em Papéis de Curto Prazo (RS): Agentes com papéis estratégicos específicos (Iniciador de Erro, Provedor de Detalhes, Reforçador de Consenso, Endossador de Autoridade, Comprometedor Questionador) criam uma narrativa falsa complexa e convincente.
5. Protocolo Baseado em Papéis de Longo Prazo (RL): Similar ao RS, mas com teste de memória de longo prazo.

C. Métricas de Avaliação

• Taxa de Erro ($Err_P$): Proporção de respostas incorretas.
• Taxa de Deslocamento da Realidade ($\sigma_P$): A proporção de perguntas que o agente respondeu corretamente no baseline, mas respondeu incorretamente após a interação social (mede a "substituição" da memória verdadeira).
• Taxa Máxima de Deslocamento ($\sigma_{max}$): A proporção total de memórias corretas comprometidas por pelo menos um dos protocolos sociais.

3. Contribuições Principais

1. Introdução do MANBENCH: O primeiro benchmark sistemático para quantificar o Efeito Mandela em LLMs, cobrindo múltiplos domínios, tamanhos de grupo e escalas de tempo de memória.
2. Análise Empírica Abrangente: Avaliação de 13 LLMs (comerciais e open-source) demonstrando que o efeito é generalizado, mas varia conforme a arquitetura e o tamanho do modelo.
3. Descoberta de Fatores Críticos: Identificação de que a composição do grupo (papéis especializados vs. genéricos) e a escala de tempo (curto vs. longo prazo) são determinantes para a solidificação de falsas memórias.
4. Estratégias de Mitigação: Proposição e validação de defesas em nível de prompt e nível de modelo, demonstrando redução significativa na suscetibilidade.

4. Resultados Chave

A. Existência e Magnitude do Efeito

• Universalidade: Todos os 13 modelos avaliados são suscetíveis ao Efeito Mandela.
• Impacto Social: A taxa de erro aumenta drasticamente sob influência social. Por exemplo, o erro do Qwen3-235B saltou de 25,48% (baseline) para 74,75% no protocolo de Curto Prazo Baseado em Papéis (RS).
• Memória de Longo Prazo: Modelos como Claude 3.5 Haiku e Qwen3 internalizam as falsas memórias, mantendo altas taxas de deslocamento mesmo após a consolidação (ex: $\sigma_{RL}$ de 55,63% para o Claude). Outros, como o GPT-5, mostram maior resiliência a longo prazo, sugerindo capacidade de auto-correção.

B. Fatores Influenciadores

• Composição do Grupo: Grupos baseados em Papéis (Role-based) são significativamente mais eficazes em induzir o efeito do que grupos genéricos. A complexidade narrativa e a percepção de credibilidade (ex: um "Endossador de Autoridade") amplificam a vulnerabilidade.
• Tamanho do Grupo:
  • Em grupos genéricos, o efeito satura em torno de 7 agentes.
  • Em grupos baseados em papéis, observa-se uma curva em U invertido: o efeito atinge o pico com 6 agentes (alta credibilidade) e diminui com grupos maiores (9+), onde o agente desenvolve "vigilância induzida por suspeita", percebendo a coordenação excessiva como uma conspiração.
• Domínio de Conhecimento: O efeito é forte em narrativas ambíguas, mas também corrompe Conhecimento Específico de Domínio (ex: medicina), onde a taxa de deslocamento inicial foi de 67,46%.
• Escala do Modelo: Aumentar o tamanho do modelo não garante imunidade. Alguns modelos maiores (ex: Qwen3 235B) tornaram-se mais vulneráveis, possivelmente por serem melhores em compreender e internalizar narrativas complexas, mesmo que falsas.

C. Estratégias de Mitigação

• Defesa em Nível de Prompt:
  • Ancoragem Cognitiva: Força o agente a estabelecer uma "âncora" baseada em seu conhecimento interno antes de analisar a influência social.
  • Escrutínio da Fonte: Incentiva a análise da estrutura persuasiva e dos papéis dos interlocutores.
  • Resultado: Redução drástica na taxa de deslocamento (ex: de 56% para 17% no GPT-4o com Ancoragem Cognitiva).
• Defesa em Nível de Modelo (SFT):
  • Fine-tuning supervisionado com um conjunto de dados balanceado: um conjunto de Resiliência (para rejeitar falsidades) e um conjunto Cooperativo (para aceitar verdades corretas de outros agentes).
  • Resultado: Modelos treinados mostraram alta resiliência a falsas memórias sem perder a capacidade de aprender com orientações corretas, evitando o viés de rejeitar toda informação social.

5. Significado e Implicações

• Segurança de IA: O estudo revela que sistemas multiagentes colaborativos podem gerar e estabilizar desinformação de forma autônoma, representando um risco ético e prático significativo.
• Desenvolvimento de Sistemas Robustos: A descoberta de que agentes possuem uma "vigilância latente" (que pode ser ativada por prompts ou treinamento) oferece um caminho para projetar sistemas mais éticos e confiáveis.
• Futuro da Pesquisa: O MANBENCH estabelece uma base para medir a robustez factual de sistemas colaborativos, destacando a necessidade de mecanismos de defesa que equilibrem a cooperação social com a integridade factual.

Em suma, o paper demonstra que a "memória coletiva" em LLMs é frágil e manipulável, mas que estratégias de defesa adequadas podem mitigar esse risco, permitindo a construção de sistemas multiagentes mais resilientes e alinhados com a verdade factual.