Robust Multi-Agent LLMs under Byzantine Faults

Riepilogo Tecnico: LLM Multi-Agente Robusti Sotto Fault Byzantine

Enunciato del Problema
Gli agenti basati su Large Language Model (LLM) sono sempre più dispiegati in sistemi multi-agente peer-to-peer (LLM-MAS) per risolvere compiti attraverso un consenso collaborativo. Tuttavia, questi sistemi presentano una vulnerabilità critica: agenti inaffidabili o Byzantine (quelli difettosi a causa di allucinazioni o avversari a causa di manipolazioni intenzionali) possono trascinare gli agenti onesti verso conclusioni errate. Gli approcci esistenti, come CP-WBFT, si basano sulla segnalazione autonoma da parte degli agenti di punteggi di confidenza per ponderare le risposte dei vicini. Questo approccio è fondamentalmente difettoso perché gli agenti Byzantine possono falsificare i propri punteggi di confidenza per dominare il processo di aggregazione. Inoltre, i metodi precedenti spesso mancano di topologie di comunicazione principiate, portando a un degrado delle prestazioni che può essere peggiore rispetto all'operatività senza collaborazione. La sfida fondamentale è progettare un protocollo decentralizzato in cui gli agenti onesti possano affinare iterativamente le proprie risposte e raggiungere un consenso corretto nonostante la presenza di agenti Byzantine che potrebbero iniettare informazioni arbitrarie o fuorvianti.

Metodologia: Consenso Auto-Ancorato (SAC)
Gli autori propongono il Consenso Auto-Ancorato (SAC), un protocollo iterativo di filtraggio e raffinamento completamente decentralizzato. A differenza dei metodi precedenti che si fidano della confidenza segnalata dal mittente, SAC sposta l'onere della valutazione sul ricevente. Il protocollo opera in quattro fasi per ogni round:

1. Broadcast: Ogni agente trasmette la propria risposta corrente ai propri vicini.
2. Valutazione lato Ricevente: Ricevute le risposte dei vicini, ogni agente $i$ calcola indipendentemente un punteggio di valutazione $s_{i \to j}$ per ciascun vicino $j$ utilizzando il proprio LLM. Questo punteggio è derivato da un prompt di verifica che valuta la correttezza della risposta del vicino rispetto alla query, disaccoppiando completamente il punteggio da qualsiasi confidenza auto-segnalata dal mittente.
3. Filtraggio: L'agente $i$ identifica i vicini i cui punteggi sono strettamente inferiori al proprio punteggio di auto-valutazione. Successivamente, scarta i $F$ vicini con i punteggi più bassi da questo insieme (dove $F$ è il limite sul numero di vicini Byzantine). Questa fase garantisce che input potenzialmente malevoli o di bassa qualità vengano rimossi prima del raffinamento.
4. Raffinamento: L'agente $i$ affina la propria risposta ripromptando il proprio LLM con la query originale, la propria risposta corrente e l'insieme mantenuto delle risposte dei vicini, ponderate in base ai loro punteggi di valutazione lato ricevente.

Quadro Teorico e Condizioni Topologiche
Per garantire che gli agenti onesti preservino informazioni affidabili, gli autori sfruttano la teoria classica del consenso resiliente ai fault Byzantine, in particolare la famiglia di algoritmi Mean-Subsequence-Reduced (MSR) e la robustezza $r$.

• Robustezza $(F+1)$: Gli autori stabiliscono che se il grafo di comunicazione $G$ è $(F+1)$-robusto, il meccanismo di filtraggio garantisce due proprietà critiche:
  1. Resilienza Locale: Dopo il filtraggio, ogni agente onesto mantiene almeno un vicino la cui risposta è almeno affidabile quanto il punteggio minimo tra tutti gli agenti affidabili. Questo impedisce agli agenti Byzantine di corrompere il processo di raffinamento.
  2. Connettività Globale: Il sottografo indotto dagli agenti onesti rimane connesso (nello specifico, contiene un albero uscente radicato) anche dopo il filtraggio, garantendo che le informazioni si propaghino correttamente attraverso la rete senza frammentazione.
• Il documento dimostra che la robustezza $(F+1)$ è una condizione necessaria per contenere l'influenza di $F$ agenti Byzantine locali in questo contesto, offrendo un'alternativa matematicamente fondata alla selezione topologica ad hoc.

Contributi Chiave

1. Consenso Auto-Ancorato (SAC): L'introduzione di un algoritmo completamente decentralizzato che sostituisce la vulnerabile confidenza segnalata dal mittente con una valutazione lato ricevente e un meccanismo di filtraggio ispirato all'MSR, adattato per interazioni in linguaggio naturale.
2. Garanzie Teoriche dei Grafi: L'istituzione delle condizioni di robustezza $(F+1)$ come fondamento teorico per garantire che gli agenti non-Byzantine possano contenere l'influenza Byzantine e convergere verso risposte corrette.
3. Validazione Empirica: Dimostrazione che SAC sopprime efficacemente l'influenza Byzantine attraverso diverse topologie di comunicazione (MERG, Completa, Erdős–Rényi) e benchmark di ragionamento, mentre i metodi precedenti collassano in condizioni avversarie.

Risultati Sperimentali
Gli autori hanno valutato SAC su due benchmark impegnativi: MATH500 (ragionamento simbolico di Livello 4) e Commonsense170k (ragionamento di senso comune eterogeneo). La configurazione ha coinvolto $n=7$ agenti (4 onesti forti, 2 onesti/deboli o difettosi, 1 avversario Byzantine) con $F=3$.

• Degrado delle Prestazioni delle Baseline: Il metodo baseline, CP-WBFT, ha subito un fallimento catastrofico sotto l'influenza Byzantine. Su MATH500, ha mostrato un miglioramento della tolleranza ai fault Byzantine (BFTI) negativo, compreso tra $-10.4\%$ e $-24.8\%$, il che significa che la collaborazione ha degradato le prestazioni al di sotto delle capacità autonome degli agenti. Gli agenti forti sono stati trascinati verso il basso in modo significativo (ad esempio, l'accuratezza è scesa dall'$84\%$ al $49\%$).
• Efficacia di SAC: Al contrario, SAC ha ottenuto un BFTI positivo ($+3.8\%$ to $+7.6\%$ su MATH500) su tutte le topologie. Ha preservato con successo le prestazioni degli agenti forti, migliorando al contempo quelle degli agenti deboli.
• Metriche di Robustezza: SAC ha mantenuto un'alta "Maggioranza Onesta" (la frazione di query in cui la maggioranza degli agenti onesti concorda con la verità fondamentale), raggiungendo dall'$83.3\%$ al $96.7\%$ su MATH500, rispetto al $36.7\%$-$46.7\%$ per CP-WBFT.
• Stabilità: L'analisi per round ha mostrato che la contaminazione di CP-WBFT si è verificata immediatamente nel primo round ed è persistita, mentre SAC ha mostrato un'accuratezza stabile o in miglioramento nel corso delle iterazioni, senza un degrado progressivo.

Significato e Affermazioni
Il documento afferma che la vulnerabilità primaria nella collaborazione decentralizzata attuale degli LLM è la dipendenza dalla confidenza segnalata dal mittente, che crea una superficie di attacco per manipolazioni avversarie. Spostandosi verso una valutazione lato ricevente, SAC rimuove la capacità degli agenti Byzantine di manipolare i segnali di fiducia. Inoltre, il lavoro sottolinea che la progettazione topologica non è meramente euristica ma una necessità matematica; soddisfare la robustezza $(F+1)$ è essenziale per contenere l'influenza Byzantine. Gli autori concludono che affinché la collaborazione decentralizzata tra LLM sia affidabile, i sistemi devono integrare la valutazione della fiducia lato ricevente con topologie di rete consapevoli della robustezza. Il documento riconosce le limitazioni, notando che la valutazione attuale è limitata a reti statiche di piccole dimensioni ($n=7, 9$) e risposte a turno singolo, e che la robustezza dipende dalla qualità della funzione di punteggio del ricevente.