Robust Multi-Agent LLMs under Byzantine Faults

Resumo Técnico: LLMs Multi-Agente Robustos Sob Falhas Bizantinas

Declaração do Problema
Agentes de Modelos de Linguagem (LLM) estão sendo cada vez mais implantados em sistemas multi-agente peer-to-peer (LLM-MAS) para resolver tarefas por meio de consenso colaborativo. No entanto, esses sistemas enfrentam uma vulnerabilidade crítica: agentes não confiáveis ou bizantinos (aqueles que são defeituosos devido a alucinações ou adversários devido a manipulação intencional) podem influenciar agentes honestos a chegar a conclusões incorretas. Abordagens existentes, como CP-WBFT, dependem que os agentes relatem suas próprias pontuações de confiança para ponderar as respostas dos vizinhos. Essa abordagem é fundamentalmente falha porque agentes bizantinos podem falsificar suas pontuações de confiança para dominar o processo de agregação. Além disso, métodos anteriores frequentemente carecem de topologias de comunicação principiais, levando a uma degradação de desempenho que pode ser pior do que operar sem colaboração. O desafio central é projetar um protocolo descentralizado onde agentes honestos possam refinar iterativamente suas respostas e alcançar um consenso correto, apesar da presença de agentes bizantinos que podem injetar informações arbitrárias ou enganosas.

Metodologia: Consenso Ancorado em Si Mesmo (SAC)
Os autores propõem o Consenso Ancorado em Si Mesmo (SAC), um protocolo totalmente descentralizado e iterativo de filtragem e refinamento. Diferentemente de métodos anteriores que confiam na confiança relatada pelo remetente, o SAC transfere o ônus da avaliação para o receptor. O protocolo opera em quatro etapas por rodada:

1. Transmissão: Cada agente transmite sua resposta atual para seus vizinhos.
2. Avaliação no Lado do Receptor: Ao receber as respostas dos vizinhos, cada agente $i$ calcula independentemente uma pontuação de avaliação $s_{i \to j}$ para cada vizinho $j$ usando seu próprio LLM. Essa pontuação é derivada de um prompt de verificação que avalia a correção da resposta do vizinho em relação à consulta, desacoplando completamente a pontuação de qualquer confiança relatada pelo remetente.
3. Filtragem: O agente $i$ identifica vizinhos cujas pontuações são estritamente inferiores à sua própria pontuação de autoavaliação. Em seguida, ele descarta os $F$ vizinhos com as pontuações mais baixas desse conjunto (onde $F$ é o limite do número de vizinhos bizantinos). Essa etapa garante que entradas potencialmente maliciosas ou de baixa qualidade sejam removidas antes do refinamento.
4. Refinamento: O agente $i$ refina sua resposta reconsultando seu LLM com a consulta original, sua resposta atual e o conjunto retido de respostas dos vizinhos, ponderadas por suas pontuações no lado do receptor.

Estrutura Teórica e Condições Topológicas
Para garantir que agentes honestos preservem informações confiáveis, os autores aproveitam a teoria clássica de consenso resiliente a falhas bizantinas, especificamente a família de algoritmos Mean-Subsequence-Reduced (MSR) e $r$-robustez.

• $(F+1)$-Robustez: Os autores estabelecem que, se o grafo de comunicação $G$ for $(F+1)$-robusto, o mecanismo de filtragem garante duas propriedades críticas:
  1. Resiliência Local: Após a filtragem, cada agente honesto retém pelo menos um vizinho cuja resposta é pelo menos tão confiável quanto a pontuação mínima entre todos os agentes confiáveis. Isso impede que agentes bizantinos corrompam o processo de refinamento.
  2. Conectividade Global: O subgrafo induzido por agentes honestos permanece conectado (especificamente, contém uma árvore de saída enraizada) mesmo após a filtragem, garantindo que a informação se propague corretamente através da rede sem fragmentação.
• O artigo prova que a $(F+1)$-robustez é uma condição necessária para conter a influência de $F$ agentes bizantinos locais nesse cenário, oferecendo uma alternativa fundamentada matematicamente à seleção de topologia ad hoc.

Principais Contribuições

1. Consenso Ancorado em Si Mesmo (SAC): A introdução de um algoritmo totalmente descentralizado que substitui a confiança vulnerável relatada pelo remetente por avaliação no lado do receptor e um mecanismo de filtragem inspirado em MSR, adaptado para interações em linguagem natural.
2. Garantias Teóricas de Teoria dos Grafos: O estabelecimento das condições de $(F+1)$-robustez como fundamento teórico para garantir que agentes não bizantinos possam conter a influência bizantina e convergir para respostas corretas.
3. Validação Empírica: Demonstração de que o SAC suprime efetivamente a influência bizantina em diversas topologias de comunicação (MERG, Completo, Erdős–Rényi) e benchmarks de raciocínio, enquanto métodos anteriores colapsam sob condições adversárias.

Resultados Experimentais
Os autores avaliaram o SAC em dois benchmarks desafiadores: MATH500 (raciocínio simbólico Nível 4) e Commonsense170k (raciocínio de senso comum heterogêneo). A configuração envolveu $n=7$ agentes (4 fortes e honestos, 2 fracos/honestos-defeituosos, 1 bizantino adversário) com $F=3$.

• Degradação de Desempenho das Linhas de Base: O método de linha de base, CP-WBFT, sofreu falha catastrófica sob influência bizantina. No MATH500, apresentou uma Melhoria de Tolerância a Falhas Bizantinas (BFTI) negativa variando de $-10,4\%$ a $-24,8\%$, significando que a colaboração degradou o desempenho abaixo das capacidades independentes dos agentes. Agentes fortes foram arrastados significativamente (por exemplo, a precisão caiu de $84\%$ para $49\%$).
• Eficácia do SAC: Em contraste, o SAC alcançou BFTI positiva ($+3,8\%$ a $+7,6\%$ no MATH500) em todas as topologias. Ele preservou com sucesso o desempenho dos agentes fortes enquanto elevou o desempenho dos agentes fracos.
• Métricas de Robustez: O SAC manteve alta "Maioria Honesta" (a fração de consultas onde a maioria dos agentes honestos concorda com a verdade fundamental), atingindo $83,3\%$ a $96,7\%$ no MATH500, comparado a $36,7\%$ a $46,7\%$ para o CP-WBFT.
• Estabilidade: A análise por rodada mostrou que a contaminação do CP-WBFT ocorreu imediatamente na primeira rodada e persistiu, enquanto o SAC mostrou precisão estável ou em melhoria ao longo das iterações, sem degradação progressiva.

Significado e Alegações
O artigo afirma que a principal vulnerabilidade na colaboração descentralizada atual de LLMs é a dependência de confiança relatada pelo remetente, o que cria uma superfície de ataque para manipulação adversária. Ao migrar para avaliação no lado do receptor, o SAC remove a capacidade de agentes bizantinos manipularem sinais de confiança. Além disso, o trabalho destaca que o design de topologia não é meramente uma heurística, mas uma necessidade matemática; satisfazer a $(F+1)$-robustez é essencial para conter a influência bizantina. Os autores concluem que, para que a colaboração descentralizada de LLMs seja confiável, os sistemas devem integrar avaliação de confiança no lado do receptor com topologias de rede conscientes de robustez. O artigo reconhece limitações, observando que a avaliação atual está restrita a redes estáticas de pequeno porte ($n=7, 9$) e respostas de turno único, e que a robustez depende da qualidade da função de pontuação do receptor.