💻 ciência da computação

When Does Hallucination Propagate? Reconciling Six Formalizations of Error Spread in Multi-Agent LLM Systems

Este artigo reconcilia descobertas contraditórias sobre a propagação de alucinações em sistemas de LLM multiagentes ao demonstrar que seis formalizações distintas são projeções de um único processo regido por correlação de erro e canais de verificação independentes, revelando que a propagação depende de métricas estruturais em vez de apenas da topologia e que o aumento da diversidade inicial dos agentes pode, paradoxalmente, amplificar alegações falsas.

Autor original: Zhang Shaoxuan

Publicado 2026-11-10

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autor original: Zhang Shaoxuan

Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelo autor. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

No mundo de alto risco da inteligência artificial, engenheiros estão construindo cada vez mais equipes de assistentes digitais em vez de depender de um único cérebro poderoso. A lógica é intuitiva: se um grande modelo de linguagem comete um erro, um segundo modelo pode detectá-lo, e um terceiro pode confirmar a correção. Essa abordagem, conhecida como sistema multiagente, está sendo implementada para revisar triagens médicas, analisar contratos financeiros e filtrar literatura científica, onde um único erro factual pode ser custoso. A esperança é que, ao fazer com que esses agentes verifiquem uns aos outros, o grupo se torne mais confiável do que qualquer membro individual. No entanto, um corpo crescente de pesquisas sugere que esse trabalho em equipe às vezes tem o efeito oposto. Em vez de detectar erros, os agentes podem acidentalmente reforçá-los, fazendo com que uma afirmação falsa se espalhe pelo grupo como um rumor, ganhando peso e confiança a cada repetição.

Este paradoxo é o foco de uma nova revisão sistemática de Shaoxuan Zhang, pesquisador do Instituto de Tecnologia de Harbin. O artigo aborda uma situação confusa onde dois estudos recentes, ambos rastreando o mesmo tipo de erro através de uma cadeia de agentes, chegaram a conclusões opostas. Um estudo descobriu que os erros estavam diminuindo e tornando-se mais fáceis de detectar à medida que avançavam pela linha. O outro descobriu que os erros estavam se tornando mais difíceis de detectar e estavam persistindo por mais tempo. Ambos os estudos estavam corretos, mas mediam coisas diferentes. Um contava quantos fatos falsos existiam, enquanto o outro media o quão fácil era encontrá-los. A revisão reconcilia essas descobertas ao mostrar que uma afirmação falsa pode tornar-se mais rara em número e, simultaneamente, tornar-se mais invisível para o sistema.

O cerne do trabalho de Zhang é uma estrutura que explica exatamente quando uma afirmação falsa crescerá e quando ela desaparecerá. O autor identifica dois principais fatores estruturais que decidem o resultado. O primeiro é o quanto os agentes dependem da mesma informação. Se todos os agentes estiverem lendo o mesmo histórico de conversa ou usando os mesmos dados de treinamento, eles tendem a cometer os mesmos erros. Quando verificam uns aos outros, não estão oferecendo opiniões independentes; estão simplesmente ecoando o mesmo erro. O segundo fator é se existe uma fonte de verdade que exista fora do grupo. Se os agentes apenas conversarem entre si, estarão presos em um ciclo. Mas se um agente tiver acesso a uma ferramenta externa, um banco de dados ou uma verificação baseada em regras que os outros não utilizam, o sistema pode quebrar o ciclo e corrigir o erro.

A revisão analisou quarenta e dois artigos publicados no último ano para ver como pesquisadores têm estudado este problema. Descobriu que o campo está atualmente utilizando seis linguagens matemáticas diferentes para descrever o mesmo processo, o que torna difícil comparar resultados. Alguns pesquisadores medem a velocidade com que uma afirmação se espalha, enquanto outros medem o quanto os agentes concordam entre si. Zhang mapeia essas diferentes abordagens em uma única linha do tempo de como uma afirmação viaja. A jornada começa com a geração de uma afirmação, passa pela transmissão entre agentes e pode terminar em amplificação, onde o erro cresce, ou em recuperação, onde ele é detectado.

Um padrão marcante emergiu dos dados. Cada estudo que incluiu um canal de verificação independente — algo fora do grupo de agentes para verificar os fatos — relatou que os erros foram reduzidos. Por outro lado, os poucos estudos que relataram que os erros estavam piorando não possuíam tal verificação externa. Isso sugere que a chave para interromper as alucinações não é apenas adicionar mais agentes ou fazê-los conversar mais, mas garantir que pelo menos uma parte do sistema tenha acesso a evidências que os outros não podem gerar por conta própria. A revisão também destaca um perigo oculto: um sistema pode parecer estar melhorando porque está descartando afirmações falsas, mas pode estar descartando respostas corretas ao mesmo tempo. Se o grupo concorda com uma resposta errada e ignora o agente que está certo, o sistema falhou, mesmo que o número de "alucinações" pareça diminuir.

O artigo conclui que o design atual de muitos sistemas multiagentes carece de um componente crucial: um mecanismo de recuperação dedicado. A prevenção, que tenta impedir que os erros ocorram em primeiro lugar, não é suficiente porque erros inevitavelmente passarão. Uma vez que uma afirmação falsa entra no sistema, é necessário um meio para removê-la. A revisão argumenta que simplesmente votar na resposta final não é uma solução, porque um voto não pode criar nova informação; ele pode apenas escolher entre as opções já presentes. Se a resposta correta não estiver no conjunto de ideias geradas pelos agentes, nenhum número de votações a encontrará. A única maneira de reduzir a taxa de erro é introduzir evidências independentes que alterem o próprio conjunto de opções.

Este trabalho fornece um conjunto claro de perguntas para engenheiros que constroem esses sistemas. Eles devem decidir o que conta como um portador de uma afirmação, se seus métodos de verificação são verdadeiramente independentes e qual tipo de erro estão realmente medindo. As descobertas sugerem que a promessa dos sistemas multiagentes é real, mas apenas se o design levar em conta o fato de que os agentes podem facilmente reforçar os erros uns dos outros. Sem uma verificação externa ou uma maneira de recuperar de erros que já se espalharam, o sistema pode acabar amplificando os próprios erros que foi construído para resolver. O caminho a seguir não é apenas tornar os agentes mais inteligentes, mas estruturar suas interações para que a verdade tenha uma maneira de entrar na conversa vinda de fora.

Resumo Técnico: Quando a Alucinação se Propaga?

Declaração do Problema

Sistemas de Grandes Modelos de Linguagem (LLMs) multiagentes são frequentemente implementados sob a premissa de que agentes verificando uns aos outros reduzem as alucinações, baseando-se na intuição de que amostras independentes geram erros independentes. No entanto, estudos empíricos recentes apresentam descobertas contraditórias: alguns relatam que as taxas de alucinação atenuam (diminuem) à medida que as afirmações avançam por um pipeline, enquanto outros relatam amplificação (aumento). O artigo argumenta que essas contradições surgem porque a literatura mede quantidades diferentes ao longo de eixos distintos sem um quadro unificado. Um estudo pode medir a prevalência de texto não sustentado (canal extensivo), enquanto outro pode medir a detectabilidade desse texto (canal intensivo). Uma afirmação pode tornar-se simultaneamente mais rara (menor prevalência) e mais difícil de detectar (menor detectabilidade).

Além disso, o campo carece de um vocabulário unificado para reconciliar seis formalismos distintos propostos no último ano, que modelam a propagação de erro como processos de Markov, dinâmica de redes, cascatas estocásticas, divergências de contexto, agrupamento de confiança ou tensores de influência causal. As pesquisas existentes organizam-se por fluxo de trabalho de agentes, estágios de capacidade do sistema ou configurações de aplicação, mas nenhuma toma a "afirmação viajante" como a unidade de análise.

Metodologia

O artigo emprega uma revisão sistemática de um corpus amostrado propositalmente de 42 artigos (32 estudos incluídos) extraídos de registros do arXiv de fins de 2022 a fins de 2026. A amostragem foi baseada em cotas, visando estágios específicos de propagação de erro (amplificação, consolidação, transmissão, atribuição, recuperação) e formalizações.

Protocolo de Codificação:
O autor codificou o corpus contra um novo framework definido por:

Unidade de Análise: A afirmação (proposição), não o agente ou o sistema.
Variáveis Estruturais: A correlação dos erros dos agentes e a independência dos canais de verificação.
Canais de Resultado: Distinção entre a amplificação de Falsos Positivos (FP) (afirmações falsas ganhando suporte) e a supressão de Verdade por Falsos Negativos (FN) (afirmações corretas sendo descartadas).
Definição de Verificação: Uma definição estrita de "evidência independente" onde os inputs do verificador devem ser disjuntos da ancestralidade (proveniência) da afirmação. Modelos heterogêneos revisando o mesmo contexto não contam como independentes.

O estudo também auditou as práticas de relatório do campo, verificando a presença de métricas de nível de propagação, canais de verificação independentes e distribuições de out-degree recuperáveis em grafos de comunicação.

Principais Contribuições

1. Uma Explicação Condicional da Propagação de Erro

O artigo propõe que o crescimento de uma afirmação falsa é determinado por duas variáveis estruturais:

Pressão de Correlação: O grau em que os agentes compartilham priors, prompts, contexto ou histórico de conversa, levando a erros correlacionados.
Verificação Independente: A presença de um canal que fornece evidência disjunta da ancestralidade do conjunto de agentes (ex: ferramentas externas, recuperação de corpora não pertencentes aos agentes).

Proposição 1: A agregação reduz as taxas de erro apenas se (i) os erros não forem fortemente correlacionados positivamente E (ii) existir pelo menos um canal de verificação independente. Se os erros forem correlacionados, o número efetivo de votantes colapsa e, sem evidência independente, o sistema não consegue se autocorrigir.

2. Reconciliação de Seis Formalismos

O autor demonstra que os seis formalismos existentes (processos de Markov, processos de rede, cascatas estocásticas, etc.) não são contraditórios, mas sim projeções do mesmo processo subjacente $(k, e)$ sobre diferentes observáveis:

$k$ : Contagem de corroboração (suporte de outros agentes).
$e$ : Contagem de evidência independente.
Cada formalismo mede um aspecto diferente (ex: probabilidade de escape, número de reprodução, pontuação de divergência), mas falha ao não separar os canais FP e FN ou ao não considerar a independência da evidência.

3. A Topologia e o Limiar

O artigo define uma razão de ramificação $R = f \cdot s$ , onde $f$ é o fan-out e $s$ é a probabilidade de sobrevivência por salto (per-hop).

Proposição 2b: Em uma topologia de cadeia linear, $f=1$ , tornando $R < 1$ por construção. Assim, cadeias não podem amplificar o número de portadores (canal extensivo); qualquer atenuação observada é uma consequência topológica, não necessariamente evidência de autocorreção.
No entanto, cadeias podem amplificar a detectabilidade (canal intensivo) via deriva semântica ( $\mu$ ) e lavagem de proveniência ( $\lambda$ ).
Conjectura 1: O desacordo na literatura sobre se a topologia ou a escala do modelo domina pode ser uma função de onde sistemas específicos se situam em relação ao limiar $R=1$ .

4. Governança e Intervenções

O artigo mapeia intervenções para parâmetros e canais de resultado:

Teto de Agregação (Proposição 3): Nenhuma regra de agregação (votação, consenso) pode remover a perda de agregação ( $\Lambda$ ) uniformemente ou criar informação não presente no pool de candidatos. Intervenções no lado da agregação são de soma zero entre os canais FP e FN.
Canais Independentes: Somente a adição de um canal de verificação independente pode reduzir as taxas de FP e FN simultaneamente, alterando o pool de candidatos em vez de apenas reponderá-los.
Recuperação como Componente de Primeira Classe: O artigo defende o tratamento da recuperação (detecção, contenção, rollback) como algo distinto da prevenção. Dev devido ao efeito "catraca" (ratchet effect) na memória persistente (onde as escritas são baratas e irreversíveis, mas as retrações são caras), sistemas sem mecanismos de rollback acumulam erros duráveis.

Resultados do Corpus Codificado

Lacunas de Relatório: Dos 32 estudos incluídos, apenas 10 relatam qualquer métrica de nível de propagação, 9 relatam um canal de verificação independente e apenas 7 relatam uma estrutura de grafo que permite recuperação de out-degree.
O Padrão de Coocorrência: Uma descoberta crítica é a ausência de coocorrência entre verificação independente e amplificação. Todos os 9 estudos com um canal independente relataram atenuação. Ambos os estudos que relataram amplificação careciam de um canal independente.
Escassez de Métricas: O número de reprodução efetivo ( $R_{eff}$ ) e a perda de agregação ( $\Lambda$ ) são relatados em exatamente um artigo cada, destacando a falta de quantidades comensuráveis na área.
Paradoxo da Diversidade: Contrariamente à intuição de design, aumentar a diversidade inicial das respostas dos agentes pode aumentar a adoção falsa (conformidade), pois o desacordo fornece um alvo para uma maioria convergir.

Significância e Alegações

O artigo alega fornecer o primeiro framework que reconcilia descobertas contraditórias na confiabilidade de LLMs multiagentes ao distinguir entre o canal extensivo (contagem de portadores) e o canal intensivo (força de suporte/detectabilidade).

Sua principal significância reside em:

Resolver o Desacordo: Mostrar que "amplificação" e "atenuação" não são mutuamente exclusivos, mas descrevem diferentes projeções do mesmo processo.
Definir Independência: Estabelecer uma definição rigorosa de verificação independente baseada em proveniência, que reclassifica muitos procedimentos de "verificação" na literatura como meros protocolos de coordenação.
Identificar o Limite de Agregação: Provar que mecanismos de votação e consenso não podem corrigir erros se o pool de candidatos subjacente carecer de respostas corretas ou evidência independente.
Estabelecer uma Agenda: Propor um padrão de relatório (conjunto de portadores, perda de agregação, distribuição de out-degree, comparador) para tornar estudos futuros comparáveis e sugerir experimentos específicos para separar mecanismos causais de artefatos de pesquisa.

O artigo conclui modestamente, observando que, embora os mecanismos estejam documentados, os parâmetros quantitativos (como o coeficiente de adoção falsa $g$ e o coeficiente de abandono da verdade $a$ ) permanecem não estimados na literatura atual, e que o framework serve primariamente como um esquema para organizar e comparar evidências, em vez de um modelo totalmente calibrado.