🤖 machine learning

The Honest Quorum Problem: Epistemic Byzantine Fault Tolerance for Agentic Infrastructure

Dit artikel introduceert Epistemic Byzantine Fault Tolerance (EBFT), een nieuw consensusframework voor agentische infrastructuur dat het "Honest Quorum Problem" aanpakt door traditionele fouttolerantie uit te breiden om rekening te houden met gecorreleerde redeneerfouten onder protocol-conforme agenten, waardoor semantische validiteit en liveness worden gewaarborgd door middel van vertrouwen-geïndexeerde grenzen op ongeldige bekrachtigingen en onbruikbare ondersteuning.

Oorspronkelijke auteurs: Jun He, Deying Yu

Gepubliceerd 2026-07-20

📖 7 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Jun He, Deying Yu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een wereld voor waarin computers niet alleen rigide, vooraf geschreven instructies volgen zoals een rekenmachine, maar in plaats daarvan fungeren als kleine, redenerende werknemers. Deze "agentic" computers kunnen naar een chaotische situatie kijken, een beleid lezen en beslissen wat de volgende stap is. Maar hier komt de crux: omdat ze gebruikmaken van probabilistisch redeneren (zoals het raden van de beste zet in een spel), kunnen ze soms een "slimme" fout maken. Ze kunnen alle regels perfect volgen, de juiste formulieren ondertekenen en op tijd antwoorden, maar toch besluiten iets gevaarlijks te doen.

Om deze digitale werknemers in toom te houden, gebruiken we een systeem genaamd Byzantine Fault Tolerance. Denk aan dit als een superstrenge stemclub. De regel van de club is simpel: zolang een bepa bepaald aantal leden "ja" stemt, is de beslissing definitief. Traditioneel gingen we ervan uit dat als een lid geen "slechte kerel" was (een verrader die het systeem probeert te breken), hij altijd het juiste zou stemmen. Maar wat als de "goede kerels" allemaal hetzelfde tekstboek gebruiken, dezelfde leraar en dezelfde studiegids? Ze kunnen er allemaal naast zitten, niet omdat ze verraders zijn, maar omdat ze allemaal dezelfde fout hebben geleerd. Dit is het angstaanjagende nieuwe probleem dat dit artikel aanpakt: een groep eerlijke, regelvolgende computers die het eens wordt over een ramp.

Het Honest Quorum Probleem: Wanneer Goede Kerels het Oneens Zijn over het Foute Antwoord

Dit artikel, getiteld The Honest Quorum Problem, duikt in een zeer specifiek hoofdpijnprobleem voor de toekomst van AI en computernetwerken. Het vraagt: Wat gebeurt er wanneer een groep eerlijke, regelvolgende AI-agenten het met elkaar eens wordt over iets dat eigenlijk een vreselijk idee is?

In de oude dagen van de computerwetenschap hadden we een vangnet genaamd Byzantine Fault Tolerance (BFT). Stel je een groep generaals voor die moeten beslissen of ze een kasteel aanvallen. Sommige generaals kunnen verraders zijn (Byzantine faults) die proberen de anderen te misleiden. De BFT-regel zegt: "Zolang we genoeg eerlijke generaals hebben, kunnen we de verraders negeren en een veilige beslissing nemen." De kernveronderstelling was dat de "eerlijke" generaals altijd het juiste antwoord zouden weten.

Maar de auteurs van dit artikel wijzen erop dat deze veronderstelling in het tijdperk van AI is doorbroken. Ze introduceren een nieuw concept genaamd een Epistemic Fault (epistemische fout). "Epistemisch" betekent simpelweg "gerelateerd aan kennis". Een epistemische fout doet zich voor wanneer een AI-agent volkomen eerlijk is — hij volgt het protocol, zet de digitale handtekening en liegt niet — maar zijn redenering onjuist is.

Het "Honest Quorum" Scenario
Stel je een commissie van zeven AI-agenten (validators) voor die de taak hebben om een wijziging aan een cloudserver goed te keuren.

De Opzet: Eén agent stelt voor: "Laten we deze gebruiker de mogelijkheid geven om al onze gegevens te verwijderen."
De Valstrik: Alle zeven agenten zijn "eerlijk". Ze zijn geen verraders. Ze volgen allemaal de regels. Maar ze zijn toevallig allemaal getraind op dezelfde dataset, gebruiken dezelfde zoekinstrumenten en hebben dezelfde "blinde vlekken".
Het Resultaat: Alle zeven agenten stemmen "Ja". Ze vormen een perfect Quorum (een meerderheid). Het systeem zegt: "Geweldig! We hebben een certificaat! Laten we het doen!"
De Ramp: Het systeem verwijdert alle gegevens. Het protocol werkte perfect, maar de betekenis van de beslissing was fout.

Het artikel noemt dit het Honest Quorum Problem. Het is een falen waarbij het systeem technisch gezien "correct" is (iedereen is het eens, handtekeningen zijn geldig) maar semantisch "kapot" (de actie is gevaarlijk).

De Nieuwe Oplossing: EBFT

De auteurs stellen een nieuw veiligheidsmodel voor genaamd Epistemic Byzantine Fault Tolerance (EBFT). In plaats van alleen maar hoofden te tellen, probeert EBFT te meten hoe waarschijnlijk het is dat de eerlijke agenten allemaal dezelfde fout maken.

Ze introduceren twee nieuwe "budgetten" om dit risico te beheren:

Het Veiligheidsbudget ( $e_\delta$ ): Dit is een limiet op hoeveel eerlijke agenten vals kunnen instemmen met een slecht idee.
- Analogie: Stel je voor dat je een team kunstcritici inhuurt om een schilderij te beoordelen. Je weet dat critici soms, zelfs goede critici, kunnen worden misleid door een vervalsing. Het Veiligheidsbudget vraagt: "Wat is het maximale aantal critici dat tegelijkertijd door dezelfde valse schildering kan worden misleid?" Als je team te klein is, of als ze allemaal naar dezelfde kunstacademie zijn gegaan, kan dat aantal te hoog zijn en kun je hun stem niet vertrouwen.
Het Liveness Budget ( $u_\epsilon$ ): Dit is een limiet op hoeveel eerlijke agenten er helemaal niet zullen stemmen (door in de war te raken, een timeout te krijgen of te weigeren te antwoorden).
- Analogie: Als te veel critici te druk zijn, te verward of te bang zijn om te stemmen, kun je geen beslissing bereiken. Dit budget meet hoeveel "afwezigen" of "ik weet het niet"-reacties je kunt tolereren voordat het systeem vastloopt.

Hoe het in de Praktijk Werkt

Het artikel stelt een tweestaps-proces voor om de boel veilig te houden:

Stap 1: De Kalibratie (De "Proefrit")
Voordat je een AI-commissie echte beslissingen laat nemen, moet je ze testen. Je geeft ze een reeks oefenopdrachten waarbij je weet wat het juiste antwoord is.

Je controleert: "Hoe vaak waren ze het allemaal oneens met het juiste antwoord?" (Dit geeft je het Veiligheidsbudget).
Je controleert: "Hoe vaak liepen ze vast of weigerden ze te antwoorden?" (Dit geeft je het Liveness Budget).
Cruciaal is dat je controleert of ze daadwerkelijk divers zijn. Als je zeven agenten hebt, maar ze gebruiken allemaal hetzelfde "brein" (model) en dezelfde "bibliotheek" (retriece-bron), zullen ze waarschijnlijk samen falen. Het artikel betoogt dat het hebben van zeven verschillende namen niet genoeg is; je moet bewijzen dat ze niet dezelfde verborgen zwakheden delen.

Stap 2: De Runtime (De "Echte Zaak")
Wanneer er een echt verzoek binnenkomt, controleert het systeem eerst de testresultaten.

Als het verzoek lijkt op iets waar de commissie niet op getest is, of als de testresultaten laten zien dat de commissie te risicovol is, zegt het systeem: "Nee, ik stem hier niet op." Het kan een mens vragen om in te grijpen.
Als het verzoek veilig is en de commissie klaar is, telt het de stemmen. Maar nu wordt de "score om te slagen" (de drempelwaarde) berekend op basis van die testbudgetten, en niet op basis van een simpele wiskundige formule zoals "meer dan de helft".

Wat het Papier Zegt (en Niet Zegt)

De auteurs zijn zeer voorzichtig met wat ze beweren. Ze bewijzen dat:

Alleen al overeenstemming (iedereen stemt op dezelfde manier) geen garantie biedt dat de beslissing veilig is.
Je niet kunt vertrouwen op eenvoudige wiskunde (zoals de oude "3f + 1" regel) om dit op te lossen. Je moet het risico van de AI-redenering meten.
Je een specifiek "kalibratieproces" nodig hebt om te meten hoe vaak AI-agenten gecorreleerde fouten maken.

Ze beweren niet een wondermiddel te hebben dat AI perfect veilig maakt. Ze geven toe dat:

Als de AI-agenten verborgen verbindingen delen (zoals dezelfde trainingsdata of dezelfde cloudprovider), ze nog steeds samen kunnen falen op manieren die we niet kunnen voorspellen.
Dit systeem extra stappen en tijd (latentie) toevoegt, omdat je moet testen en verifiëren voordat je handelt.
De "budgetten" schattingen zijn gebaseerd op testen. Als de AI wordt bijgewerkt of de wereld verandert, moet je alles opnieuw testen.

De Belangrijkste Conclusie

De belangrijkste boodschap van het artikel is een waarschuwing en een gids. Het waarschuwt ons dat in een wereld van slimme, redenerende AI, "eerlijk" zijn niet genoeg is. Een groep eerlijke agenten kan nog steeds voor een ramp stemmen als ze allemaal hetzelfde denken.

Om dit op te lossen, kunnen we niet alleen stemmen tellen. We moeten de kwaliteit van de overeenstemming meten. We moeten weten: "Zijn deze agenten werkelijk onafhankelijk, of zijn het slechts zeven klonen van dezelfde fout?" Door deze nieuwe "budgetten" te gebruiken en de agenten rigoureus te testen voordat ze mogen stemmen, kunnen we systemen bouwen die veilig zijn, zelfs wanneer de agenten imperfect zijn. Het is een verschuiving van vertrouwen op het feit dat "goede kerels" altijd gelijk zullen hebben, naar bewijzen dat "goede kerels" niet allemaal tegelijkertijd ongelijk zullen hebben.

Technische Samenvatting: Het Honest Quorum Probleem en Epistemic Byzantine Fault Tolerance

1. Probleemstelling: Het Honest Quorum Probleem

Het paper identificeert een kritieke faalmodus in gedistribueerde systemen waarbij "agentic" validators — deelnemers die stochastische, geleerde of generatieve redenering gebruiken om semantische oordelen te vellen — opereren binnen een deterministisch consensusprotocol.

In klassieke Byzantine Fault Tolerance (BFT) gaat het systeem ervan uit dat elke deelnemer buiten een begrensde set van "Byzantine" (arbitrair defecte) nodes "eerlijk" is, wat betekent dat zij de protocollair transitie- of validatiesemantiek correct implementeren. Het Honest Quorum Probleem verzwakt deze partitie. Het postuleert een scenario waarin een quorum van validators:

Protocol-compliant is: Zij authenticeren correct, reageren binnen de time-outs, volgen het stemprotocol en doen niet aan equivocatie (het ondertekenen van tegenstrijdige berichten).
Semantisch incorrect is: Ondanks protocol-compliance steunen zij collectief een staatstransitie die een applicatie-niveau invariant schendt (bijv. het verlenen van ongeautoriseerde schrijfactcess).

Deze fout wordt een epistemische fout genoemd. In tegenstelling tot traditionele Byzantine faults, ontstaan epistemische fouten door de stochastische aard van de redeneerprocessen van de validators. Meerdere protocol-compliant validators kunnen coherent falen omdat zij onderliggende afhankelijkheden delen zoals model-lineage, trainingsdistributies, prompt-patronen, retrieval-bronnen, toolchains of provider-infrastructuur. Bijgevolg garandeert nominale identiteitsdiversiteit geen epistemische onafhankelijkheid.

Het paper stelt vast dat protocol-overeenstemming (agreement) geen semantische validiteit impliceert, en dat semantische validiteit geen executieve veiligheid impliceert. Een systeem kan een goed gevormd certificaat bereiken voor een ongeldige transitie als de concentratie van protocol-compliant validators die die specifieke ongeldige klasse steunen, het quorumdrempel overschrijdt.

2. Methodologie: Epistemic Byzantine Fault Tolerance (EBFT)

Om dit aan te pakken, definieert het paper Epistemic Byzantine Fault Tolerance (EBFT), een fouttolerantiemodel voor "Post-Deterministic Distributed Systems" (PDDS) — systemen waar deterministische coördinatie omringd wordt door stochastische semantische oordeelsvorming.

Kerndefinities

EBFT breidt de conventionele Byzantine fault bound ( $f$ ) uit met twee op vertrouwen geïndexeerde grootheden die het gedrag van protocol-compliant validators ( $H$ ) begrenzen:

$e_\delta$ (Semantic-Safety Budget): Een grens aan het gewicht van coherente ongeldige steunverklaring door protocol-compliant validators buiten de Byzantine set. Dit kwantificeert het risico dat voldoende eerlijke validators onterecht instemmen met een ongeldige transitie.
$u_\epsilon$ (Liveness Budget): Een grens aan onbruikbare steun van protocol-compliant validators. Dit omvat valse afwijzingen, onthoudingen, time-outs, divergerende outputs of canonicalisatie-fouten die voorkomen dat een geldige kandidaat een certificaat vormt.

Deze budgetten zijn gedefinieerd over een specifieke workload domein $D$ en zijn conditioneel op gebeurtenissen $E_\delta$ en $U_\epsilon$ , die met waarschijnlijkheden $1-\delta$ en $1-\epsilon$ standhouden, respectievelijk.

Drempelafleiding (Threshold Derivation)

Het paper leidt certificaat-drempelvoorwaarden ( $q$ ) af die de vereisten voor veiligheid, overeenstemming en liveness scheiden:

Semantic Certificate Validity: Om te voorkomen dat een ongeldige kandidaat een certificaat vormt, moet de drempel voldoen aan $q > f + e_\delta$ . Dit zorgt ervoor dat zelfs als alle Byzantine nodes ( $f$ ) en de maximaal toegestane coherente valse steunverklaringen ( $e_\delta$ ) stemmen voor een ongeldige transitie, zij het quorum niet kunnen bereiken.
Agreement: Om conflicterende certificaten te voorkomen, moet de drempel voldoen aan $2q - N > f$ (of $q > (N+f)/2$ ). Cruciaal is dat deze conditie alleen afhangt van de Byzantine bound $f$ . Omdat protocol-compliant validators in EBFT niet aan equivocatie doen, bedreigen zij de overeenstemming niet, zelfs als zij epistemisch faulty zijn.
Liveness: Om te garanderen dat een geldige kandidaat een certificaat kan verkrijgen, moet de drempel voldoen aan $q \le N - f - u_\epsilon$ . Dit zorgt ervoor dat de beschikbare bruikbare steun van eerlijke validators voldoende is om de drempel te halen.

Het paper bewijst dat een haalbare gehele drempelwaarde $q$ alleen bestaat als de systeemomvang $N$ specifieke populatie-ongelijkheden voldoet (bijv. $N > 2f + e_\delta + u_\epsilon$ ).

Kalibratie en Diversiteit

Het paper benadrukt dat "diversiteit" (verschillende modellen, providers of prompts) geen bewijs van veiligheid is. In plaats daarvan is diversiteit een mechanisme om de upper-tail concentratie van fouten te verminderen. De methodologie vereist offline kalibratie om $e_\delta$ en $u_\epsilon$ empirisch te schatten voor een specifieke commissieconfiguratie.

Risicoprofielen: Tijdens kalibratie wordt een ondertekend risicoprofiel gegenereerd, waarbij het domein, de commissie, drempels en herkomst (modelversies, prompts, tools) worden gespecificeerd.
Runtime Admission: Tijdens de runtime controleert het systeem of de aanvraag binnen het gekalibreerde domein valt en of het risicoprofiel geldig is. Als de aanvraag geldig is, worden geïsoleerde validatiepakketten gedispatched. Een certificaat wordt pas gevormd als het aantal steunverklaringen aan de vooraf gekalibreerde drempel $q$ voldoet.
Recalibratie: Profielen moeten verlopen of ingetrokken worden bij modelupdates, verschuivingen in de workload of detectie van nieuwe common-mode failures.

3. Belangrijkste Bijdragen

Formalisering van het Honest Quorum Probleem: Het paper definieert een faalmodus waarbij protocol-compliant, niet-equivocaterende validators collectief een semantisch ongeldige transitie steunen vanwege gecorreleerde epistemische fouten.
Definitie van EBFT: Het introduceert een foutmodel dat arbitrair Byzantine gedrag scheidt van confidence-indexed semantische budgetten ( $e_\delta$ en $u_\epsilon$ ) voor protocol-compliant validators.
Threshold Theorems: Het leidt noodzakelijke en voldoende voorwaarden af voor semantische certificaatvaliditeit, overeenstemming (agreement) en liveness in PDDS. Opmerkelijk is dat het bewijst dat agreement uitsluitend afhangt van de Byzantine bound, terwijl veiligheid en liveness afhangen van de epistemische budgetten.
Diversiteit-bewuste Assurance: Het herformuleert diversiteit niet als een garantie van onafhankelijkheid, maar als een variabele die gemeten moet worden om de upper-tail concentratie van ongeldige steunverklaringen te verminderen. Het schetst een methodologie om deze budgetten te schatten via kalibratie en adversariële testen.

4. Resultaten en Theoretische Grenzen

Onmogelijkheidstheorema's: Het paper bewijst dat zonder aanvullende semantische gronding (bijv. een validiteitsorakel, vertrouwde verifieerder of gekalibreerde concentratiebound), geen protocol dat enkel op agreement-signalen vertrouwt, semantische certificaatvaliditeit kan garanderen. Als de distributie van semantische fouten onbeperkt is, kan een ongeldige kandidaat elke count-based certificaatregel met waarschijnlijkheid één verzadigen.
Common-Mode Failure Floor: Als een subset van validators een latente common-mode failure deelt (bijv. identieke modelgewichten), is de waarschijnlijkheid van een onveilige certificaat ten minste de waarschijnlijkheid van dat common-mode event, ongeacht het aantal validators.
Drempel Haalbaarheid (Threshold Feasibility): Het paper biedt exacte gehele formules voor het selecteren van $q$ zodat semantische validiteit, overeenstemming en liveness simultaan worden voldaan onder de gedefinieerde probabilistische events. Het toont aan dat het simpelweg herwegen van de klassieke $3f+1$ formule onvoldoende is; het systeem moet expliciet rekening houden met $e_\delta$ en $u_\epsilon$ .

5. Betekenis en Claims

Het paper positioneert EBFT als een theoretisch kader voor agentic infrastructuur, waarbij autonome agenten (LLM's, reasoning systemen) deelnemen aan gedistribueerde control planes. De primaire betekenis ligt in:

Ontkoppeling van Agreement en Semantiek: Het modelleert expliciet de kloof tussen "protocol agreement" (het besluiten van dezelfde log-entry) en "semantische validiteit" (de entry is veilig/correct).
Kwantificering van Epistemisch Risico: Het gaat verder dan kwalitatieve claims over "diversiteit" door over te gaan naar kwantitatieve grenzen voor gecorreleerde semantische fouten.
Operationalisering van Veiligheid: Het stelt een tweefasig proces voor (offline kalibratie + runtime admission) dat systemen in staat stelt om stochastische validators te gebruiken terwijl rigoureuze, probabilistische veiligheidsgaranties behouden blijven.

De auteurs stellen bescheiden dat dit werk een "positionering" is binnen het OpenKedge onderzoeksprogramma, en geen productbeschrijving. Zij beweren niet dat zij semantische correctheid deterministisch oplossen, maar bieden eerder een foutmodel en drempeltheorie voor systemen waar semantische oordeelsvorming inherent stochastisch is. De garanties zijn conditioneel op de validiteit van de kalibratie, de stabiliteit van het workload domein en de nauwkeurigheid van de geschatte budgetten.