Verifiable Agentic Infrastructure: Proof-Derived Authorization for Sovereign AI Systems
Dit artikel introduceert het Gedistribueerde Vertrouwenskader (DTF), een verificatiearchitectuur die soevereine AI-systemen beveiligd door statieke, op identiteit gebaseerde autorisatie te vervangen door een dynamisch, op consensus gebaseerd model waarbij uitvoeringsbevoegdheid strikt wordt afgeleid uit cryptografisch verifieerbare Rechtvaardigingsbewijzen en een onveranderlijke Bewijsketen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een enorme, hoogbeveiligde bank runt. In de oude tijden gaf je je beveiligingswachten (de AI-agenten) een hoofdsleutel die elke deur opende. Je vertrouwde hen omdat ze het juiste identiteitsbewijs hadden. Maar hier zit het probleem: deze wachters zijn nu AI. Ze zijn snel en slim, maar soms raken ze in de war, hallucineren ze of worden ze bedrogen. Ze kunnen proberen de kluisdeur open te maken, zelfs als ze dat niet hoeven, of ze kunnen proberen geld te verplaatsen dat ze niet mogen aanraken, allemaal terwijl ze een perfect geldig identiteitsbewijs vasthouden.
Het oude systeem zei: "Als je het badge hebt, mag je gaan." Het nieuwe systeem, beschreven in dit paper, zegt: "Het hebben van het badge is niet genoeg. Je hebt een specifiek, ondertekend toestemmingsformulier nodig voor exact deze ene taak, goedgekeurd door een panel van rechters, voordat je een centimeter mag bewegen."
Dit paper introduceert een systeem genaamd DTF (Distributed Trust Framework) om dit op te lossen. Hier is hoe het werkt, opgesplitst in eenvoudige onderdelen:
1. Het Probleem: De Valstrik van "Staande Bevoegdheid"
Momenteel gebruikt een AI-agent, als het een server wil verwijderen of een financiële instelling wil wijzigen, gewoon zijn permanente inloggegevens. Als die gegevens geldig zijn, zegt het systeem "Ja".
- Het Risico: Een AI kan een fout maken (zoals denken dat een server leeg is, terwijl deze eigenlijk de website van het bedrijf draait) en deze verwijderen. Het systeem laat dit gebeuren omdat de AI het "juiste" ID had.
2. De Oplossing: Het "Toestemmingsformulier"-systeem
In plaats van de AI te laten handelen op basis van zijn permanente ID, dwingt het DTF-systeem een nieuw proces af. Denk hierbij aan een hoog-risico bouwproject:
- Stap 1: De Intentie (Het Ontwerp)
De AI-agent "doet" de actie niet zomaar. Het dient eerst een voorstel in: "Ik wil Server X uitschakelen." - Stap 2: Het Motivatiebewijs (Het Veiligheidsrapport)
Voordat iemand dit goedkeurt, genereert het systeem automatisch een Motivatiebewijs. Dit is geen chatlog van wat de AI dacht. Het is een gestructureerd, machineleesbaar document dat zegt:- Wat doen we? (Server X uitschakelen)
- Waarom is het veilig? (Server X heeft geen verkeer, het is eigendom van Team B, en het maakt geen deel uit van een kritieke afhankelijkheid).
- Wat zijn de grenzen? (Alleen deze server, alleen voor 5 minuten).
- Stap 3: Het Consensus (Het Panel van Rechters)
Dit bewijs wordt niet door één persoon of één computer goedgekeurd. Het wordt verzonden naar een Zwerm Evaluators. Stel je een panel van verschillende experts voor:- Eén controleert de regels (Beleid).
- Eén controleert of de server daadwerkelijk leeg is (Status).
- Eén controleert of het te riskant is (Risico).
- Eén kan een mens zijn voor grote beslissingen.
Ze kijken allemaal naar hetzelfde bewijs. Als ze het allemaal eens zijn (of een specifiek consensus bereiken), wordt de actie goedgekeurd. Als één zegt "Wacht, die server is eigenlijk kritiek", stopt het hele proces.
- Stap 4: De Uitvoeringsidentiteit (De Tijdelijke Pas)
Zodra het panel het bewijs goedkeurt, creëert het systeem een tijdelijke, eenmalige pas. Deze pas is strikt beperkt. Het zegt: "Je mag alleen Server X uitschakelen, en alleen voor de komende 5 minuten." Het kan niets anders aanraken. - Stap 5: De Bewijsketen (De Black Box)
Elke stap – het voorstel, het bewijs, de stemmen van de rechters, de tijdelijke pas en het eindresultaat – wordt vastgelegd in een onveranderlijk, permanent register. Als er later iets misgaat, kunnen auditors het hele verhaal opnieuw afspelen om precies te zien waarom de beslissing is genomen.
3. Waarom Dit Belangrijk Is
Het paper beweert dat dit systeem de regels van vertrouwen verandert:
- Oude Manier: Vertrouwen op de Agent (de persoon met het badge).
- Nieuwe Manier: Vertrouwen op het Proces (het bewijs, de rechters en het verslag).
Zelfs als de AI-agent in de war is of gehackt wordt, kan het geen schade aanrichten omdat het het "Toestemmingsformulier" niet kan krijgen zonder de goedkeuring van het panel. En zelfs als het het formulier krijgt, kan het alleen het ene specifieke ding doen dat erop staat vermeld.
4. De Resultaten (Wat het Paper Vond)
De auteurs testten dit systeem in een gesimuleerde cloudomgeving met 10.000 acties.
- Veiligheid: Het stopte 100% van de "onveilige" acties (zoals proberen een server te verwijderen die daadwerkelijk in gebruik was). De oude systemen lieten ongeveer 14% van deze gevaarlijke fouten door.
- Beperking: Het verkleinde het "ontploffingsbereik". In plaats dat een AI toegang had tot 450 servers, kreeg het alleen toegang tot de ene server die het goedgekeurd was aan te raken.
- Snelheid: Het hele proces (het controleren van het bewijs, het krijgen van de stemmen van de rechters en het uitgeven van de pas) duurde gemiddeld ongeveer 58 milliseconden. Dat is snel genoeg om het bedrijf niet te vertragen.
- Controleerbaarheid: Ze konden 99,9% van de beslissingen perfect opnieuw afspelen door alleen naar de records te kijken, terwijl de oude systemen enorme gaten in het verhaal achterlieten.
Samenvattende Metafoor
Stel je een bankkluis voor.
- Oud Systeem: De bewaker heeft een hoofdsleutel. Als hij zegt "Ik moet de kluis openen", opent hij hem. Als hij een slechte dag heeft of bedrogen wordt, gaat de kluis open.
- DTF-Systeem: De bewaker moet een formulier invullen. Een team van drie verschillende managers beoordeelt het formulier om te controleren of de kluis moet worden geopend en of het veilig is. Als ze het eens zijn, print een machine een eenmalige, met de laser gesneden sleutel die alleen past bij die specifieke kluisdeur voor 5 minuten. De bewaker gebruikt die sleutel, en een camera neemt elke seconde van het proces op. Als de bewaker probeert die sleutel op een andere deur te gebruiken, draait het slot gewoon niet.
Het paper stelt dat voor AI-agenten die onze kritieke systemen runnen (zoals banken, elektriciteitsnetten of cloudservers), we moeten stoppen met het vertrouwen op de "bewaker" en moeten beginnen met het vertrouwen op het "proces".
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.