🤖 AI

TRUST: A Framework for Decentralized AI Service v.0.1

Het artikel introduceert TRUST, een gedecentraliseerd raamwerk dat Hiërarchische Gerichte Acyclische Grafen, het DAAN-protocol en een meerlagig consensusmechanisme benut om de beperkingen op het gebied van robuustheid, schaalbaarheid, doorzichtigheid en privacy van gecentraliseerde AI-auditing te overwinnen, waardoor betrouwbare, transparante en winstgevende verificatie voor Grote Redeneringsmodellen en Multi-Agent Systemen mogelijk wordt.

Oorspronkelijke auteurs: Yu-Chao Huang, Zhen Tan, Mohan Zhang, Pingzhi Li, Zhuo Zhang, Tianlong Chen

Gepubliceerd 2026-05-01

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yu-Chao Huang, Zhen Tan, Mohan Zhang, Pingzhi Li, Zhuo Zhang, Tianlong Chen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een ziekenhuis runt en een team artsen moet inhuren om patiënten te diagnosticeren. In de huidige wereld van AI huur je meestal slechts één beroemde, dure arts (een gecentraliseerd AI-model) in en vraag je hen om hun diagnose op te schrijven. Je kijkt alleen naar het eindantwoord: "De patiënt heeft medicatie nodig." Als het antwoord klopt, huur je hen in.

Het Probleem:
Soms krijgt die beroemde arts het juiste antwoord puur door geluk of een gok, zelfs als hun redenering volledig verkeerd was. Bijvoorbeeld, ze kunnen de leeftijd van de patiënt verwarren met het gewicht, een cruciale regel overslaan en toch het juiste medicijn raden. Als je alleen het eindantwoord controleert, huur je een arts in die eigenlijk gevaarlijk is. Als de toestand van de patiënt de volgende keer iets verandert, zal deze "gelukkige" arts een dodelijke fout maken.

Bovendien, omdat deze arts in een privékantoor werkt (gecentraliseerd), kun je niet zien hoe ze hebben nagedacht. Je kunt niet controleren of ze vooroordeelsvol waren, moe, of of hun logica gebrekkig was. Als ze een fout maken, weet je niet wie je de schuld moet geven.

De Oplossing: TRUST
Het paper introduceert TRUST (Transparent, Robust, and Unified Services for Trustworthy AI). Denk aan TRUST niet als één arts, maar als een gedecentraliseerd, democratisch ziekenhuisnetwerk waar duizenden onafhankelijke experts elkaars werk gezamenlijk controleren.

Zo werkt het, met eenvoudige analogieën:

1. Het recept opbreken in stappen (HDAGs)

In plaats van één persoon te vragen een volledig medisch verslag van 50 pagina's te lezen en een oordeel te vellen, breekt TRUST het denkproces van de AI (de "Chain of Thought") op in een stroomdiagram genaamd een HDAG (Hierarchical Directed Acyclic Graph).

De Analogie: Stel je een complex cake-recept voor. In plaats dat één chef het hele ding in één keer probeert te bakken en hoopt dat het goed is, breekt TRUST het recept op in kleine stappen: "Meel mengen", "Eieren toevoegen", "Bakken op 175 graden".
De Magie: Elke stap wordt naar een andere expert gestuurd. Een wiskundige expert controleert de "Meel mengen"-rekening. Een logica-expert controleert de volgorde van "Eieren toevoegen". Een menselijke expert controleert de uiteindelijke "Bakken"-beslissing. Omdat de stappen zijn opgesplitst, kunnen veel mensen ze tegelijkertijd controleren (parallelle verwerking), waardoor het snel is en moeilijk te bedriegen.

2. Het detective-netwerk voor groepen (CIGs)

Soms is AI niet slechts één persoon; het is een team van agenten die met elkaar praten (zoals een programmeur, een reviewer en een manager). Wanneer het team faalt, is het moeilijk te weten wie er iets verpest heeft. Heeft de programmeur slechte code geschreven, of gaf de manager de verkeerde instructies?

De Analogie: TRUST gebruikt een Causal Interaction Graph (CIG), wat lijkt op het whiteboard van een detective dat de punten verbindt. Het trekt een lijn van "Instructie van de manager" naar "Output van de programmeur".
De Magie: Als het eindproduct kapot is, traceert het systeem de lijn terug. Het kan zeggen: "De programmeur heeft zijn werk perfect gedaan, maar de manager gaf de verkeerde opdracht." Dit stopt het "Schuldspel" waarbij de laatste persoon die het project aanraakte, wordt ontslagen voor de fouten van iedereen anders.

3. Het jury-systeem (Consensus & Privacy)

Hoe weten we dat de experts niet liegen of samenzweren? TRUST gebruikt een Jury-systeem op een open grootboek (blockchain).

De Analogie: Stel je een rechtszaal voor waar 100 juryleden stemmen over of een stap correct is. Maar hier is de draai: Geen enkel jurylid ziet de hele zaak.
- Jurylid A ziet alleen de stap "Meel mengen".
- Jurylid B ziet alleen de stap "Eieren toevoegen".
- Ze weten niet wie de andere juryleden zijn, en ze kunnen het volledige recept niet zien.
De Magie: Dit beschermt de "Geheime Saus" (het eigenaardige AI-logic van het bedrijf) tegen diefstal, omdat niemand het volledige plaatje heeft. Echter, als 66% van de juryleden het eens is dat een stap correct is, wordt deze geaccepteerd. Als een jurylid probeert "Ja" te stemmen voor een slechte stap om betaald te krijgen, vangt het systeem hen op en verliezen ze hun storting (geld dat ze hebben ingezet).

4. De "Chirurgische Reparatie" (Actieve Verfijning)

Als een stap verkeerd is, laten huidige systemen de AI meestal de hele taak opnieuw beginnen vanaf nul. Dat is alsof je het hele huis afbrandt omdat je de verkeerde specerij in de soep hebt gedaan.

De Analogie: TRUST gebruikt Actieve Verfijning. Het identificeert exact welke stap verkeerd was (de "slechte specerij"), snijdt deze eruit en vraagt de AI om alleen dat deel te herstellen.
De Magie: De rest van het huis (de correcte stappen) blijft precies zoals het is. Dit bespaart een enorme hoeveelheid tijd en geld (tot wel 99% besparing voor kleine fouten).

5. De economische regels (Veiligheid-Winstgevendheid)

Het paper bewijst wiskundig dat dit systeem zichzelf in stand houdt.

Eerlijke Werknemers: Als je een eerlijke expert bent die je werk doet, verdien je geld.
Bedriegers: Als je probeert te bedriegen of verkeerd stemt, verlies je je geld.
Het Resultaat: Het wordt financieel irrationeel om kwaadwillend te zijn. Het systeem is zo ontworpen dat "goed zijn" de meest winstgevende strategie is.

Wat TRUST volgens de claims eigenlijk doet

Op basis strikt van het paper is TRUST een raamwerk dat:

AI-redenering audit: Het controleert hoe een AI denkt, niet alleen het eindantwoord, om "gelukkige gissen" te vangen die eigenlijk gevaarlijk zijn.
Tamper-proof ranglijsten creëert: Het rangschikt AI-modellen op basis van geverifieerde, onveranderlijke data zodat bedrijven de scores niet kunnen bedriegen.
Data verifieert: Het creëert een markt voor hoogwaardige data-labeling waarbij de kwaliteit wordt bewezen door het netwerk, niet door één baas.
AI-agenten regelt: Het fungeert als een veiligheidsreling voor AI-teams, waardoor ze stoppen met het doen van schadelijke dingen (zoals bestanden verwijderen of geld overmaken) tenzij het netwerk toestemming geeft.

Samenvattend:
TRUST verandert AI-verificatie van een "Black Box" (waarbij je een enkel bedrijf vertrouwt) in een "Glazen Huis" (waarbij duizenden onafhankelijke ogen het werk controleren, de logica is opgesplitst in kleine, verifieerbare stukjes, en het systeem zo is ontworpen dat eerlijkheid betaalt en bedrog verliest). Het claimt AI veiliger, transparanter en goedkoper te maken om te verifiëren, vooral voor hoog-risico banen zoals geneeskunde, recht en financiën.

1. Probleemstelling

Het paper adresseert de kritieke beperkingen van gecentraliseerde AI-verificatie in het tijdperk van Large Reasoning Models (LRM's) en Multi-Agent Systemen (MAS). Huidige gecentraliseerde benaderingen lijden onder vier fundamentele gebreken:

Robuustheid: Gecentraliseerde auditors creëren enkele uitvalpunten die kwetsbaar zijn voor aanvallen (bijvoorbeeld prompt-injectie) en systematische biases.
Schaalbaarheid: De combinatorische complexiteit van redeneersporen maakt handmatige of gecentraliseerde geautomatiseerde verificatie economisch en computationeel onuitvoerbaar.
Ondoorzichtigheid: "Black box"-auditing ondermijnt vertrouwen, aangezien gebruikers veiligheidsclaims of modelcapaciteiten niet onafhankelijk kunnen verifiëren.
Privacy: Het blootleggen van volledige redeneersporen voor publieke audit riskeert diefstal van intellectueel eigendom (modeldistillatie) en datalekken.

Bovendien richten bestaande evaluatieparadigma's (bijvoorbeeld "LLM-as-a-Judge") zich op auditing van alleen output. Het paper demonstreert via een klinische casestudie (CHA2DS2-VASc-score) dat modellen juiste output kunnen produceren via gebrekkige redenering ("correct door toeval"). Audits die alleen naar output kijken, falen in het detecteren van deze "hallucinaties", wat leidt tot catastrofale fouten onder distributieveranderingen. Bovendien lijden lineaire audits in MAS aan recency bias, waarbij het laatste agent wordt beschuldigd in plaats van de ware oorzaak van fouten.

2. Methodologie: Het TRUST-kader

De auteurs stellen TRUST (Transparent, Robust, and Unified Services for Trustworthy AI) voor, een gedecentraliseerd kader dat verschuift van lineaire auditing naar structurele decompositie en consensusgebaseerde verificatie.

A. Structurele Decompositie

Het kader transformeert lineaire redeneersporen in grafstructuren om parallelle, privacy-beschermende auditing mogelijk te maken:

Hiërarchische Gerichte Acyclische Grafen (HDAG's): Voor Chain-of-Thought (CoT)-redenering van een enkel model.
- Decomposeert sporen in vijf abstractieniveaus: Doel, Strategie, Tactiek, Stap en Operatie.
- Randen coderen semantische relaties (bijvoorbeeld decomposeert_naar, is_afhankelijk_van, validatie).
- Maakt het mogelijk dat verschillende redeneercomponenten worden geauditeerd op passende granulariteit door overeenkomende auditor-types.
Causale Interactiegrafen (CIG's): Voor Multi-Agent Systemen (MAS).
- Projecteert interactielogs in een graaf waarbij knopen agenttoestanden vertegenwoordigen (Rol, Input, Output, Status) en randen berichttransmissie vertegenwoordigen.
- Dubbel-Lagen Audit: Scheidt Knopenvaliditeit (redeneercorrectheid) van Randintegriteit (protocolinachtname en transmissiegetrouwheid).
- Lost het probleem van de "Black Box van Black Boxes" op door deterministische oorzaak-toeschrijving mogelijk te maken, waarbij onderscheid wordt gemaakt tussen primaire fouten (Invalid_Root) en cascadefouten (Invalid_Cascade).

B. Drie-Toren Auditor-Architectuur

Het netwerk maakt gebruik van een heterogene set auditors die worden gerouteerd op basis van taakcomplexiteit:

Toren 1 (Computationeel): Deterministische checkers (interpreters, stellingbewijzers) voor syntaxis, wiskunde en code. Foutenrate $\epsilon \approx 0$ .
Toren 2 (LLM-evaluators): Gespecialiseerde modellen voor semantische consistentie en logische flow. Foutenrate $\epsilon \approx 0,05$ .
Toren 3 (Mensenexperts): Domeinspecialisten voor hoog-risico, ambigu of veiligheidskritieke beslissingen. Foutenrate $\epsilon \approx 0,30$ .

C. Consensus- en Privacymechanismen

Stake-gewogen Consensus: Auditors stemmen over segmenten met behulp van een Commit-Reveal-protocol om meelopen (herding) te voorkomen. Een tweederde meerderheid ( $\tau=0,66$ ) is vereist voor segmentvaliditeit.
Privacy-by-Design:
- Gesegmenteerde Distributie: Auditors ontvangen alleen versleutelde, atomaire segmenten van het spoor, wat reconstructie van propriëtaire logica voorkomt.
- Off-Chain Opslag: Volledige sporen worden opgeslagen op IPFS; alleen metadata en cryptografische hashes worden on-chain geregistreerd.
Actieve Verfijning (DAAN-protocol): Bij het identificeren van oorzaken voert het systeem een Prune-Freeze-Repair-cyclus uit. Het snoeit defecte subgrafieken, bevriest geldig upstream-werk en regenereert alleen de noodzakelijke delen, wat resulteert in tot 99% kostenbesparing vergeleken met globale retry's.

D. Economische Incentives

Het kader implementeert een Veiligheid-Winstbaarheids-Theorema:

Reputatie-gewogen Slashing: Auditors met een lage reputatie krijgen hogere straffen voor onjuiste stemmen.
Opbrengststructuur: Eerlijke auditors hebben gegarandeerd een positieve verwachte winst, terwijl kwaadaardige actoren verwachte verliezen lijden, waardoor gecoördineerde aanvallen economisch irrationeel worden.

3. Belangrijkste Bijdragen

Eerste Gedecentraliseerd Auditing Systeem: Een privacy-beschermend verificatiesysteem voor redeneersporen dat opereert zonder centrale vertrouwde autoriteit, met bewijsbare garanties onder Byzantijnse foutcondities.
Nieuwe Graf-decompositie: Introductie van HDAG's en CIG's om modulaire verificatie en deterministische foutlokaliseren mogelijk te maken in zowel single-model als multi-agent contexten.
Theoretische Garanties: Bewijs van het Veiligheid-Winstbaarheids-Theorema, dat stelt dat eerlijke auditors winst maken en kwaadaardige actoren geld verliezen, met faalkansen begrensd door Hoeffding- en Chernoff-ongelijkheden.
Actieve Verfijning: Een chirurgisch reparatiemechanisme dat alleen defecte subgrafieken regenereert, wat tokenkosten en latentie aanzienlijk verlaagt.
Uitgebreide Toepassingen: Het kader ondersteunt vier use-cases: Gedecentraliseerde Auditing, Tamper-proof Leaderboards, Trustless Data-annotatie en Gereguleerde Autonome Agenten.

4. Experimentele Resultaten

Het kader werd geëvalueerd over meerdere benchmarks (MMLU-Pro, GSM8K, MATH, HumanEval) en modellen (GPT-OSS, DeepSeek-R1, Qwen):

Nauwkeurigheid: TRUST behaalde 72,4% nauwkeurigheid, wat 4–18% beter is dan baselines.
Robuustheid: Het systeem bleef veerkrachtig tegen 20% corruptie (kwaadaardige deelnemers).
Oorzaak-toeschrijving: Het DAAN-protocol behaalde 70% nauwkeurigheid in het identificeren van oorzaken, vergeleken met 54–63% voor standaardmethoden.
Efficiëntie: Actieve verfijning resulteerde in 60% tokensavings vergeleken met strategieën voor globale retry.
Menselijke Validatie: Mens-in-de-lus-studies bevestigden het ontwerp met een F1-score van 0,89 en een Brier-score van 0,074.
Latentie: Voor alleen Toren 1/2 is de totale latentie onder 10 seconden, vergelijkbaar met gecentraliseerde evaluatie.

5. Betekenis

Dit werk vertegenwoordigt een paradigma-verschuiving in AI-veiligheid en verantwoordingsplicht:

Van Output naar Proces: Het gaat verder dan "black box"-outputevaluatie naar semantische auditing van het redeneerproces, cruciaal voor hoog-risico domeinen zoals geneeskunde en recht.
Gedecentraliseerd Vertrouwen: Het demonstreert dat vertrouwen in AI kan worden afgedwongen via economische incentives en cryptografie in plaats van afhankelijkheid van gecentraliseerde poortwachters.
Schaalbare Privacy: Het lost de spanning tussen transparantie en privacy op, waardoor strenge verificatie mogelijk is zonder propriëtaire modellogica bloot te leggen.
Infrastructuur voor Autonome Agenten: Door deterministische fouttoeschrijving en zelfherstellende capaciteiten te bieden, legt TRUST de basis voor de veilige implementatie van autonome multi-agent systemen.

Kortom, TRUST biedt de theoretische en technische basis voor een gedecentraliseerde, economisch duurzame en privacy-beschermende infrastructuur voor het verifiëren van de veiligheid en correctheid van AI-systemen van de volgende generatie.