🤖 AI

Robust Multi-Agent LLMs under Byzantine Faults

Dit artikel introduceert Self-Anchored Consensus (SAC), een volledig gedecentraliseerd iteratief filter-en-verbeterprotocol dat multi-agent-systemen op basis van grote taalmodellen in staat stelt om robuust Byzantijnse fouten te weerstaan en betrouwbare prestaties te handhaven over diverse communicatietopologieën heen, zonder te vertrouwen op kwetsbare coördinatie op basis van leiders of zelfgerapporteerde betrouwbaarheid.

Oorspronkelijke auteurs: Haejoon Lee, Vincent-Daniel Yun, Hyeonho Oh, Dimitra Panagou, Sai Praneeth Karimireddy

Gepubliceerd 2026-05-12

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC0 1.0

Oorspronkelijke auteurs: Haejoon Lee, Vincent-Daniel Yun, Hyeonho Oh, Dimitra Panagou, Sai Praneeth Karimireddy

Oorspronkelijk artikel vrijgegeven aan het publieke domein onder CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een groep vrienden voor die samen een moeilijk raadsel proberen op te lossen. Ze zijn allemaal slim, maar sommigen zijn moe, sommigen verward, en helaas kunnen er één of twee "oproermakers" zijn die de groep expres op het verkeerde spoor proberen te zetten. Dit is het probleem dat het artikel aanpakt: Hoe kan een team van AI-agenten (digitale "vrienden") samenwerken om het juiste antwoord te vinden wanneer sommigen van hen onbetrouwbaar of kwaadaardig zijn?

Hier is een eenvoudige uiteenzetting van het verhaal van het artikel, met gebruikmaking van alledaagse analogieën.

Het Probleem: De "Zekerheid"-Valstrik

In het verleden probeerden onderzoekers dit op te lossen door elke AI-agent te vragen: "Hoe zeker ben ik van mijn antwoord?"

De Tekortkoming: Stel je een oproermaker in je vriendengroep voor die eigenlijk ongelijk heeft over het raadsel, maar luidkeels schreeuwt: "Ik ben 100% zeker dat ik gelijk heb!" De andere vrienden, die vertrouwen in dat luide zelfvertrouwen, zouden hun mening kunnen wijzigen en het verkeerde spoor volgen.
De Bevinding van het Artikel: De auteurs tonen aan dat vertrouwen op het eigen verslag van een agent over hoe zeker het is, een enorm veiligheidslek is. Een kwaadaardige agent kan zijn zekerheid gemakkelijk liegen om de hele groep te misleiden.

De Oplossing: "Zelf-verankerde Consensus" (SAC)

De auteurs stellen een nieuwe manier van werken voor, genaamd Self-Anchored Consensus (SAC). In plaats van te vragen: "Hoe zeker ben jij?", vraagt het systeem: "Hoe zeker ben ik dat jouw antwoord juist is?"

Denk hierbij aan een Peer-Reviewfeest:

De Uitzending: Iedereen schrijft zijn antwoord op het raadsel op en deelt dit met zijn buren.
De Lokale Rechter: In plaats van te vertrouwen op het zelfvertrouwen van de schrijver, treedt elke agent op als rechter voor zijn buren. Het bekijkt het antwoord van de buur en vraagt zijn eigen interne logica: "Maakt dit zin? Is het correct?" Het geeft de buur een score op basis van zijn eigen oordeel.
De Filter (De "Laagste F"-Regel): Dit is het belangrijkste deel. Als een agent 5 buren heeft, en het weet dat er maximaal 3 oproermakers kunnen zijn (een concept dat de "Byzantijnse" limiet wordt genoemd), negeert het simpelweg de 3 laagst-scorende antwoorden. Het maakt niet uit of de oproermaker schreeuwt "Ik ben 100% zeker!" – als de lokale rechter denkt dat het antwoord slecht is, wordt het weggegooid.
De Verfijning: De agent neemt vervolgens zijn eigen antwoord en de overige "goede" antwoorden van zijn buren om een nieuw, beter antwoord te creëren.

Het Veiligheidsnet: Het "Robuuste" Netwerk

Opdat dit systeem werkt, moeten de vrienden op een specifieke manier met elkaar verbonden zijn. Het artikel gebruikt een wiskundig concept genaamd $(F+1)$ -robustheid.

De Analogie: Stel je voor dat je in een kamer bent met een groep mensen. Als je zeker wilt weten dat je niet omringd bent door leugenaars, moet je ervoor zorgen dat zelfs als je je verbindingen met de ergste 3 mensen afsnijdt, je nog steeds ten minste één eerlijke persoon over hebt om mee te praten.
Het artikel bewijst dat als het netwerk is ontworpen met deze specifieke "veiligheidsmarge", de eerlijke agenten altijd in staat zullen zijn om ten minste één goed antwoord te vinden om aan vast te houden, waardoor de oproermakers de hele groep niet naar beneden kunnen slepen.

Wat gebeurde er in de Experimenten?

De onderzoekers testten dit op twee soorten raadsels: Wiskundeproblemen (zoals het oplossen van vergelijkingen) en Alledaagse vragen (zoals "Is een tomaat een fruit of een groente?").

De Oude Manier (CP-WBFT): Toen een oproermaker loog over zijn zekerheid, stortte de hele groep in. De slimme agenten raakten in de war en begonnen verkeerde antwoorden te geven. De prestaties van de groep werden daadwerkelijk slechter dan als ze gewoon alleen hadden gewerkt.
De Nieuwe Manier (SAC): De oproermakers werden succesvol gefilterd.
- De Sterke Agenten: De slimste agenten bleven slim. Ze werden niet naar beneden getrokken door het lawaai.
- De Zwakke Agenten: De minder zelfverzekerde agenten werden daadwerkelijk beter, omdat ze leerden van de gefilterde, hoogwaardige antwoorden van hun buren.
- Het Resultaat: De groep bereikte veel vaker het juiste antwoord, zelfs met de oproermakers aanwezig.

De Conclusie

Dit artikel introduceert een methode waarbij AI-agenten niet vertrouwen op elkaars "opscheppen" (zelf gerapporteerde zekerheid). In plaats daarvan vertrouwen ze op hun eigen vermogen om het werk van hun buren te beoordelen. Door de slechtste antwoorden te filteren en het netwerk op een specifieke, robuuste manier verbonden te houden, kan de groep op koers blijven en problemen correct oplossen, zelfs wanneer sommige leden proberen hen te saboteren.

Kortom: Luister niet naar wie het hardst schreeuwt; luister naar wie het beste bewijs heeft, en zorg ervoor dat je genoeg goede vrienden om je heen hebt om de slechte te negeren.

Technische Samenvatting: Robuste Multi-Agent LLM's onder Byzantijnse Fouten

Probleemstelling
Grote Taalmodellen (LLM) worden steeds vaker ingezet in peer-to-peer multi-agent systemen (LLM-MAS) om taken op te lossen via collaboratief consensus. Deze systemen kampen echter met een kritieke kwetsbaarheid: onbetrouwbare of Byzantijnse agenten (die defect zijn door hallucinaties of kwaadaardig door intentionele manipulatie) kunnen eerlijke agenten beïnvloeden tot onjuiste conclusies. Bestaande aanpakken, zoals CP-WBFT, vertrouwen erop dat agenten zelfverklarde betrouwbaarheidsscores rapporteren om de antwoorden van buren te wegen. Deze aanpak is fundamenteel gebrekkig omdat Byzantijnse agenten hun betrouwbaarheidsscores kunnen vervalsen om het aggregatieproces te domineren. Bovendien ontbreken bij eerdere methoden vaak principiële communicatietopologieën, wat leidt tot prestatiedegradatie die erger kan zijn dan werken zonder samenwerking. De kernuitdaging is het ontwerpen van een gedecentraliseerd protocol waarbij eerlijke agenten hun antwoorden iteratief kunnen verfijnen en tot correcte consensus kunnen komen, ondanks de aanwezigheid van Byzantijnse agenten die willekeurige of misleidende informatie kunnen injecteren.

Methodologie: Zelfverankerd Consensus (SAC)
De auteurs stellen Self-Anchored Consensus (SAC) voor, een volledig gedecentraliseerd, iteratief filter-en-verfijn-protocol. In tegenstelling tot eerdere methoden die vertrouwen op door de afzender gerapporteerde betrouwbaarheid, verlegt SAC de evaluatielast naar de ontvanger. Het protocol werkt per ronde in vier fasen:

Uitzenden: Elke agent zendt zijn huidige antwoord uit naar zijn buren.
Ontvanger-zijde scoring: Bij ontvangst van antwoorden van buren berekent elke agent $i$ onafhankelijk een evaluatiescore $s_{i \to j}$ voor elke buur $j$ met behulp van zijn eigen LLM. Deze score is afgeleid van een verificatieprompt die de juistheid van het antwoord van de buur relativeert tot de query, waarbij de score volledig ontkoppeld is van enige zelfgerapporteerde betrouwbaarheid door de afzender.
Filteren: Agent $i$ identificeert buren waarvan de scores strikt lager zijn dan zijn eigen zelf-score. Hij verwijdert vervolgens de $F$ laagst scorende buren uit deze set (waarbij $F$ de bovengrens is van het aantal Byzantijnse buren). Deze stap zorgt ervoor dat potentieel kwaadaardige of van lage kwaliteit input wordt verwijderd voordat verfijning plaatsvindt.
Verfijning: Agent $i$ verfijnt zijn antwoord door zijn LLM opnieuw te prikkelen met de originele query, zijn huidige antwoord en de behouden set van antwoorden van buren, gewogen op basis van hun ontvanger-zijde scores.

Theoretisch Kader en Topologische Voorwaarden
Om te garanderen dat eerlijke agenten betrouwbare informatie behouden, maken de auteurs gebruik van klassieke Byzantijnse-resistente consensus-theorie, specifiek de familie van Mean-Subsequence-Reduced (MSR) algoritmen en $r$ -robustheid.

$(F+1)$ -Robustheid: De auteurs stellen vast dat als het communicatiediagram $G$ $G$ $(F+1)$ $(F + 1)$ -robust is, het filtermechanisme twee kritieke eigenschappen waarborgt:
1. Lokale Resilientie: Na het filteren behoudt elke eerlijke agent ten minste één buur wiens antwoord minstens even betrouwbaar is als de minimale score onder alle betrouwbare agenten. Dit voorkomt dat Byzantijnse agenten het verfijningsproces corrumperen.
2. Globale Connectiviteit: Het subdiagram dat wordt geïnduceerd door eerlijke agenten blijft verbonden (specifiek, het bevat een gewortelde uitgaande tak) zelfs na het filteren, waardoor wordt gegarandeerd dat informatie correct door het netwerk verspreidt zonder fragmentatie.
Het artikel bewijst dat $(F+1)$ -robustheid een noodzakelijke voorwaarde is om de invloed van $F$ lokale Byzantijnse agenten in deze setting te beteugelen, en biedt een wiskundig onderbouwde alternatief voor ad-hoc topologie-selectie.

Belangrijkste Bijdragen

Self-Anchored Consensus (SAC): De introductie van een volledig gedecentraliseerd algoritme dat kwetsbare door de afzender gerapporteerde betrouwbaarheid vervangt door evaluatie aan de kant van de ontvanger en een op MSR geïnspireerd filtermechanisme dat is toegespitst op interacties in natuurlijke taal.
Grafentheoretische Waarborgen: Het vaststellen van $(F+1)$ -robustheidsvoorwaarden als de theoretische basis om te waarborgen dat niet-Byzantijnse agenten Byzantijnse invloed kunnen beteugelen en convergeren naar correcte antwoorden.
Empirische Validatie: Demonstratie dat SAC de Byzantijnse invloed effectief onderdrukt over diverse communicatietopologieën (MERG, Volledig, Erdős–Rényi) en redeneerbenchmarks, terwijl eerdere methoden onder adversariele omstandigheden instorten.

Experimentele Resultaten
De auteurs hebben SAC geëvalueerd op twee uitdagende benchmarks: MATH500 (symboolredenering niveau 4) en Commonsense170k (heterogene gezond verstand redenering). De opstelling omvatte $n=7$ agenten (4 sterke eerlijke, 2 zwakke eerlijke/defecte, 1 kwaadaardige Byzantijnse) met $F=3$ .

Prestatie-degradatie van Baselines: De basismethode, CP-WBFT, leed aan catastrofale uitval onder Byzantijnse invloed. Op MATH500 vertoonde het een negatieve Byzantijnse Fouttolerantie Verbetering (BFTI) variërend van $-10,4\%$ tot $-24,8\%$ , wat betekent dat samenwerking de prestaties verslechterde onder de standalone capaciteiten van de agenten. Sterke agenten werden aanzienlijk naar beneden getrokken (bijvoorbeeld, nauwkeurigheid daalde van $84\%$ naar $49\%$ ).
Effectiviteit van SAC: Daarentegen behaalde SAC een positieve BFTI ( $+3,8\%$ tot $+7,6\%$ op MATH500) over alle topologieën. Het slaagde erin de prestaties van sterke agenten te behouden terwijl het de prestaties van zwakke agenten verhoogde.
Robustheidsmetrieken: SAC behield een hoge "Eerlijke Meerderheid" (het fractie van queries waarbij de meerderheid van de eerlijke agenten overeenkomt met de grondwaarheid), met waarden van $83,3\%$ tot $96,7\%$ op MATH500, vergeleken met $36,7\%$ tot $46,7\%$ voor CP-WBFT.
Stabiliteit: Per-ronde analyse toonde aan dat vervuiling bij CP-WBFT onmiddellijk in de eerste ronde optrad en aanhield, terwijl SAC stabiele of verbeterende nauwkeurigheid liet zien over iteraties zonder progressieve degradatie.

Betekenis en Aanspraken
Het artikel stelt dat de primaire kwetsbaarheid in huidige gedecentraliseerde LLM-samenwerking de afhankelijkheid is van door de afzender gerapporteerde betrouwbaarheid, wat een aanvalsoppervlak creëert voor kwaadaardige manipulatie. Door over te schakelen naar evaluatie aan de kant van de ontvanger, verwijdert SAC de mogelijkheid voor Byzantijnse agenten om vertrouwenssignalen te manipuleren. Bovendien onderstreept het werk dat topologieontwerp niet louter een heuristiek is, maar een wiskundige noodzaak; het voldoen aan $(F+1)$ -robustheid is essentieel om Byzantijnse invloed te beteugelen. De auteurs concluderen dat voor betrouwbare gedecentraliseerde LLM-samenwerking systemen evaluatie van vertrouwen aan de kant van de ontvanger moeten integreren met robuustheidsbewuste netwerktopologieën. Het artikel erkent beperkingen, waarbij wordt opgemerkt dat de huidige evaluatie beperkt is tot statische netwerken van kleine omvang ( $n=7, 9$ ) en antwoorden in één ronde, en dat de robuustheid afhankelijk is van de kwaliteit van de scoringfunctie van de ontvanger.