🤖 machine learning

Sovereign Agentic Loops: Decoupling AI Reasoning from Execution in Real-World Systems

Dit artikel introduceert Sovereign Agentic Loops (SAL), een architectuur die de veiligheid van AI-agenten verhoogt door AI-redenering te ontkoppelen van de uitvoering, waarbij intenties eerst worden gevalideerd tegen systeemtoestanden en beleid voordat ze worden uitgevoerd.

Oorspronkelijke auteurs: Jun He, Deying Yu

Gepubliceerd 2026-04-27

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Jun He, Deying Yu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een superintelligente, maar soms wat chaotische robot-assistent hebt. Deze robot kan alles voor je regelen: van het bestellen van boodschappen tot het beheren van de hele elektriciteitscentrale van je stad.

Het probleem? Deze robot is een "AI". Hij is briljant, maar hij is ook een beetje een gokker. Soms begrijpt hij de context niet helemaal goed, of maakt hij een denkfoutje. Als je hem direct de sleutels van de centrale geeft, kan hij per ongeluk de stroom in de hele stad uitzetten omdat hij dacht dat hij "even de batterijen wilde testen".

Dit wetenschappelijke artikel over Sovereign Agentic Loops (SAL) stelt een oplossing voor. Hier is de uitleg in begrijpelijke taal.

Het probleem: De "Directe Knop"-valstrik

Op dit moment werken veel AI-systemen als een assistent die direct op de knoppen mag drukken. De AI kijkt naar een situatie, bedenkt een actie en drukt... klik. Er zit geen controle tussen het "denken" en het "doen". Als de AI een fout maakt, is de schade direct echt.

De oplossing: De "Sovereign Agentic Loop" (De Slimme Tussenpersoon)

De onderzoekers stellen voor om de AI niet de knoppen te geven, maar een voorstel te laten schrijven. Ze bouwen een soort "beveiligde tussenstation" (de Control Plane) tussen de AI en de echte wereld.

Je kunt dit vergelijken met drie slimme beveiligingslagen:

1. De "Gezichtsloze Brief" (De Obfuscation Membrane)

Stel je voor dat de AI een architect is die een huis moet verbouwen. In plaats van dat je hem de echte blauwdrukken met de exacte adressen en namen van de bewoners geeft, geef je hem een abstracte tekening. Je zegt: "Dit is Gebouw A en dat is Gebouw B."
De AI weet nog steeds wat de structuur is (hij kan nog steeds rekenen en plannen), maar hij weet niet dat Gebouw A de hoofdkas van de bank is. Zo voorkom je dat de AI per ongeluk gevoelige informatie lekt of misbruikt.

2. De "Strenge Controleur" (De Evaluation Function)

Nu de AI een plan heeft gemaakt (bijvoorbeeld: "Ik wil Gebouw A slopen omdat de fundering zwak is"), gaat dat plan naar de Controleur. De Controleur doet twee dingen:

De Regelcheck: Hij kijkt in het wetboek: "Mag je zomaar gebouwen slopen? Nee, dat mag alleen met een vergunning." (Dit noemen ze Policy Evaluation).
De Logica-check: Hij kijkt naar de realiteit: "De AI zegt dat de fundering zwak is, maar mijn sensoren zeggen dat het gebouw perfect is. De AI liegt of maakt een fout!" (Dit noemen ze Consistency Check).

Pas als de Controleur zegt: "Dit plan is veilig én logisch", wordt de actie uitgevoerd.

3. Het "Onverwoestbare Logboek" (De Evidence Chain)

Elke stap — wat de AI dacht, waarom hij het dacht, wat de controleur besloot en wat er uiteindelijk is gebeurd — wordt in een digitaal, onveranderlijk dagboek geschreven. Het is alsof elke actie wordt vastgelegd met een onbreekbare zegel. Als er later iets misgaat, kun je precies terugspoelen om te zien waar de fout zat.

Wat hebben ze bewezen?

De onderzoekers hebben dit getest in een digitale omgeving (een soort virtuele cloud-infrastructuur). De resultaten waren indrukwekkend:

93% van de gevaarlijke acties werden direct tegengehouden door de regels.
De rest (7%) werd tegengehouden omdat de AI een onlogisch verhaal ophaalde.
De vertraging? Bijna verwaarloosbaar. Het systeem was slechts 12,4 milliseconden trager. Dat is sneller dan een knippering met je ogen.

De kernboodschap

In plaats van te hopen dat de AI altijd slim en braaf is, bouwen we een systeem dat geen vertrouwen nodig heeft in de AI. We behandelen de AI als een briljante, maar onbetrouwbare adviseur. De macht om de wereld echt te veranderen, ligt niet bij de AI, maar bij de strenge, logische controleur die de plannen van de AI toetst aan de realiteit.

Technische Samenvatting: Sovereign Agentic Loops (SAL)

1. Het Probleem: De Koppeling van Redenering en Executie

De huidige generatie AI-agenten (gebaseerd op Large Language Models of LLM's) wordt steeds vaker ingezet om directe acties uit te voeren in de echte wereld, zoals het beheren van cloud-infrastructuur via API's. Het fundamentele probleem dat de auteurs identificeren, is de architecturale koppeling tussen stochastische (onvoorspelbare) redenering en directe uitvoeringsautoriteit.

In huidige systemen worden de outputs van een LLM vaak direct behandeld als uitvoerbare commando's. Dit brengt grote risico's met zich mee omdat:

Stochastische aard: LLM's zijn niet deterministisch; ze kunnen foutieve of onveilige commando's genereren, zelfs bij identieke input.
Gebrek aan contextbewustzijn: Een model kan een syntactisch correct commando geven (bijv. TerminateInstance) dat echter catastrofaal is voor de specifieke operationele context van het systeem.
Sovereiniteitsrisico's: Het delen van volledige systeemcontext (zoals IP-adressen en identiteitsgegevens) met externe modellen (zoals OpenAI of Anthropic) leidt tot datalekken en schending van de gegevenssoevereiniteit.

2. Methodologie: De Sovereign Agentic Loop (SAL)

De auteurs stellen de Sovereign Agentic Loop (SAL) voor, een control-plane architectuur die de redenering (het "denken") strikt scheidt van de executie (het "doen"). In plaats van commando's te accepteren, behandelt SAL de output van een model als een intentie-voorstel dat eerst gevalideerd moet worden.

De architectuur rust op drie technische pijlers:

Obfuscation Membrane (Obfuscatie-membraan): Om de privacy te waarborgen, wordt de systeemstatus getransformeerd via een projectiefunctie ( $\Pi$ ). Identificerende gegevens (zoals exacte IP's of ID's) worden vervangen door abstracte tokens (bijv. Node-A7x). Hierdoor behoudt het model de structurele informatie die nodig is voor redenering, zonder toegang te hebben tot gevoelige identiteitsgegevens.
Sovereign Evaluation Function (Evaluatiefunctie): Voordat een intentie wordt uitgevoerd, doorloopt deze een deterministische controle:
1. Policy Alignment ( $E_{policy}$ ): Controleert of de actie voldoet aan vooraf gedefinieerde regels (bijv. via Open Policy Agent - OPA).
2. Contextual Consistency ( $E_{consistency}$ ): Controleert of de rechtvaardiging van de AI (de justification) overeenkomt met de werkelijke systeemstatus (bijv. een agent die een server wil afsluiten vanwege "hoge CPU-belasting" terwijl de telemetry lage belasting aangeeft, wordt geweigerd).
Evidence Chain (Bewijsketen): Elke stap (intentie, rechtvaardiging, evaluatie en resultaat) wordt cryptografisch gekoppeld in een onveranderlijk grootboek. Dit maakt volledige auditbaarheid en deterministische replay (het exact kunnen nabootsen van een gebeurtenis) mogelijk.

3. Belangrijkste Bijdragen

Formalisering van het Decoupling Principle: Het principe dat AI-modellen alleen verifieerbare intenties mogen genereren en nooit directe uitvoeringsautoriteit mogen bezitten.
Nieuwe Architecturale Primitieven: De introductie van het obfuscatie-membraan voor informatie-theoretische isolatie en de cryptografische Evidence Chain.
Verschuiving van Identiteit naar Intentie: Het verplaatsen van toegangscontrole van "wie is de aanroeper?" naar "is de voorgestelde actie veilig en consistent met de context?".

4. Resultaten (Evaluatie via OpenKedge)

De auteurs hebben de SAL-architectuur getest in een prototype genaamd OpenKedge, gericht op cloud-infrastructuur. De resultaten zijn als volgt:

Veiligheidseffectiviteit: In een test met 2.500 kwaadaardige of foutieve intenties (adversarial workload) werd 100% van de onveilige acties geblokkeerd.
- 93% werd geblokkeerd door de strikte beleidsregels ( $E_{policy}$ ).
- 7% werd geblokkeerd door de consistentiecontrole ( $E_{consistency}$ ).
Latency (Vertraging): De extra beveiligingslaag voegt een minimale vertraging toe van een mediaan van 12,4 ms. Dit wordt beschouwd als verwaarloosbaar voor de meeste cloud-orkestratie-taken.
Auditbaarheid: De Evidence Chain bereikte een verificatiescore van 100% bij het reconstrueren van uitgevoerde acties.

5. Betekenis en Conclusie

De paper is van groot belang voor de veilige integratie van autonome AI-agenten in kritieke infrastructuren (zoals smart cities, energienetten of enterprise cloud-omgevingen).

De kernboodschap is dat we de veiligheid van AI-systemen niet moeten proberen af te dwingen door de AI "beter te laten gedragen" (alignment), maar door de architectuur van de omgeving zo te ontwerpen dat de fouten van de AI geen fysieke schade kunnen aanrichten. SAL biedt een robuust kader om AI-agenten te laten opereren binnen strikte, deterministische en soevereine grenzen.