💻 computer science

The CASE Framework: A Multi-Disciplinary Control Architecture for Governing Enterprise Agentic AI

Het artikel introduceert het CASE-framework, een multidisciplinaire controlearchitectuur die de "emergence gap" (emergentiekloof) in enterprise agentic AI aanpakt door verschillende sturende wetenschappen — regeltheorie, adaptieve systeemtheorie, superviserende cybernetica en engineering operations — toe te passen op vier gelaagde problemen van agency, collectieve emergentie, menselijk toezicht en vlootbeheer, respectievelijk.

Oorspronkelijke auteurs: Srinivas Telukunta, Georgios Nektarios Lilis, Lucio Baron

Gepubliceerd 2026-08-12

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Srinivas Telukunta, Georgios Nektarios Lilis, Lucio Baron

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot probeert te leren om je huiswerk te doen. Als je de robot alleen een vaste lijst met stappen geeft—zoals "open boek, ga naar pagina 10, lees paragraaf 2"—dan is dat eenvoudige automatisering. Het is als een broodrooster: je stopt er brood in, drukt de hendel in, en het springt omhoog. Maar wat als je de robot een doel geeft, zoals "haal een A voor dit essay," en hem zelf de stappen laat uitzoeken? Dat is een AI-agent. De agent kan denken, keuzes maken, hulpmiddelen gebruiken en zelfs zijn plan aanpassen als er iets misgaat. Het probleem is dat deze agents slimmer en sneller worden dan de regels die we hebben om ze veilig te houden.

Decennialang hebben wetenschappers verschillende toolkits gehad voor verschillende soorten problemen. Regeltheorie (control theory) is als de wetenschap van het houden van een enkele auto op de weg met remmen en sturen. Complexe systeemtheorie is de studie van hoe een zwerm vogels of een school vissen samen beweegt zonder leider, waarbij de groep dingen doet die geen enkele vogel had gepland. Cybernetica is de studie van hoe een menselijke baas een team kan aansturen zonder overweldigd te raken door te veel informatie. En Site Reliability Engineering is de kunst van het draaien van enorme computersystemen zonder dat ze crashen. De grote vraag is: wanneer we deze superintelligente agents in de echte wereld loslaten, welke toolkit gebruiken we dan? Het antwoord is niet slechts één; het is ze allemaal, die samenwerken.

Dit artikel, getiteld "The CASE Framework," betoogt dat we een enorme fout hebben gemaakt. We hebben geprobeerd deze nieuwe, onafhankelijke AI-agents te beheren met dezelfde oude regels die we gebruikten voor eenvoudige, voorspelbare robots. De auteurs zeggen dat dit is also concentrated bij het proberen te repareren van een orkaan met een vlindernet. Ze stellen een nieuw vierlagig systeem voor genaamd CASE (Control, Adaptive systems, Supervisory cybernetics, en Engineering operations) om deze agents op de juiste manier te besturen.

Hier is wat ze vonden en waarom het ertoe doet:

De vier lagen van het probleem
De auteurs breken de chaos van AI-agents af in vier verschillende niveaus, die elk een andere vorm van "governance" (bestuur) nodig hebben:

De individuele agent (Regeltheorie): Dit gaat over één enkele agent. Net zoals een thermostaat een kamer op een ingestelde temperatuur houdt, zorgt deze laag ervoor dat de agent bij zijn doel blijft en niet afdwaalt naar vreemd gedrag.
De agent-zwerm (Complexe adaptieve systemen): Wanneer je veel agents hebt die met elkaar communiceren, beginnen ze dingen te doen die niemand hen heeft verteld. Het is als een menigte mensen: één persoon die niest is prima, maar als ze allemaal tegelijk beginnen te niezen vanwege een gedeelde geur, ontstaat er paniek. De auteurs noemen dit "emergentie" (emergence).
Het menselijke team (Supervisoriële cybernetica): Dit gaat over de mensen die de agents in de gaten houden. Het artikel gebruikt een beroemde regel genaamd de "Wet van de Vereiste Variëteit," wat in fe�s betekent: om een chaotisch systeem te beheersen, moet jouw brein (of jouw team) net zo complex en snel zijn als de chaos zelf. Als de agents te snel bewegen voor mensen om te begrijpen, zijn de mensen nutteloos.
De vloot (Engineering Operations): Dit is het grote plaatje van het draaien van duizenden agents tegelijk. Het gaat over het hebben van een veiligheidsbudget, zoals de brandstoftank van een auto, om te zien hoeveel "foutmarge" je nog hebt voordat je moet stoppen en controleren.

De grote ontdekking: De "Emergentie-kloof"
De auteurs hebben niet alleen een theorie gebouwd; ze hebben naar echte wereldgegevens gekeken om te zien of het standhoudt. Ze analyseerden 62 gedocumenteerde fouten van AI-agents in productie.

De bevinding: Ze ontdekten dat 82% van deze fouten niet simpelweg één ding dat misging was. Het waren kettingreacties. Een kleine fout door één agent (Laag 1) verspreidde zich naar de groep (Laag 2), verwarde de menselijke toezichthouders (Laag 3) en verbruikte het veiligheidsbudget (Laag 4).
De kloof: Ze ontdekten een enorme gat in onze huidige instrumenten. Hoewel we veel software hebben om individuele agents te bewaken, kon geen enkele van de 22 belangrijke tools die zij controleerden daadwerkelijk het "zwermgedrag" (Laag 2) monitoren. Bovendien, toen ze naar 35 echte enterprise-implementaties keken, had geen enkele hiervan enige governance voor dit zwermgedrag. Ze noemden dit de "Emergentie-kloof": het risico dat agents als groep vreemd gedrag vertonen is reëel en vindt plaats, maar onze tools en praktijken om dit te stoppen zijn volledig afwezig.

Waarom de oude manier faalt
Het artikel pleit tegen het idee dat we deze problemen simpelweg kunnen "patchen" met betere regels of meer menselijke beoordelaars. Ze laten zien dat als je de creatie van agents automatiseert (waardoor ze sneller en talrijker worden) zonder ook de manier waarop we de groep observeren te automatiseren, je het probleem eigenlijk verergert. Ze noemen dit de "Zero-Touch Deployment Paradox": hoe beter je wordt in het automatisch creëren van duizenden agents, hoe sneller je tegen een muur aanloopt waar menselijke toezichthouders de chaos simpelweg niet meer kunnen bijhouden.

De oplossing: Een nieuw volwassenheidsmodel
Om dit op te lossen, hebben de auteurs een "Maturity Model" (een scorecard voor hoe goed een bedrijf is) ontwikkeld.

De twist: In tegen tegenstelling tot andere scorecards waarbij je goed kunt zijn in één ding en slecht in een ander en toch een hoge gemiddelde score haalt, is deze strikt. Als je perfect bent in het controleren van individuele agents maar nul controle hebt over de zwerm, daalt je hele score naar de bodem. Je kunt een ontbrekend stuk niet compenseren.
Het advies: Ze suggereren dat bedrijven moeten stoppen met proberen alles tegelijk te fixen. In plaats daarvan moeten ze hun zwakste schakel vinden (wat volgens hun data bijna altijd de "zwerm"-laag is) en die eerst aanpakken. Alleen door een systeem te bouien dat het groepsgedrag kan afhandelen, kunnen we deze AI-agents veilig hun gang laten gaan.

Kortom, het artikel suggereert dat we momenteel een chaotische, zelforganiserende AI-zwerm proberen te beheren met een regelboek dat ontworpen is voor een enkele, gehoorzame robot. Totdat we tools bouwen die begrijpen hoe deze agents met elkaar interageren en elkaar beïnvloeden, vliegen we blind een storm in die we zelf hebben gecreëerd. De wetenschap om dit te fixen bestaat, maar we hebben de brug om het te gebruiken nog niet gebouwd.

Technische Samenvatting: Het CASE-framework voor het besturen van Enterprise Agentic AI

1. Probleemstelling

Ondernemingen implementeren autonome AI-agenten in een tempo dat hun vermogen tot governance overstijgt. Huidige governance-benaderingen lijden aan een fundamentele categoriefout: ze breiden de DevSecOps-toolkit, ontworpen voor deterministische automatisering, uit naar alle schalen van stochastische agency. Het artikel betoogt dat de governance van agentic AI niet één enkel probleem is, maar vier afzonderlijke problemen, elk voorkomend op een andere schaal van agency en vereisend van een specifieke, volwassen bestuurswetenschap:

Individuele agenten: Gedrag is een stochastisch beleid over een open actieruimte, waardoor statische certificering van artefacten ontoereikend is.
Agent-collectieven: Interagerende agenten vertonen emergente gedragingen (cascades, gedeelde biases) die niet-compositioneel zijn; assurance van een enkele agent garandeert geen collectieve veiligheid.
Mens-agent-teams: Onversterkt menselijk toezicht faalt structureel omdat de menselijke cognitieve variëteit de combinatorische groei van de gedragsmatige variëteit van agenten niet kan bijhouden.
Geautomatiseerde vloten: Grootschalige operaties vereisen dat engineering operations (SRE) wordt uitgebreid naar besluitvormingskwaliteit, niet alleen naar beschikbaarheid.

De heersende "one-size-fits-all" governance schrijft voor alle vier de schalen dezelfde controles voor, wat leidt tot systemische fragiliteit.

2. Methodologie

Het artikel stelt het CASE-framework voor (Control theory, complex Adaptive Systems, Supervisory cybernetics, Engineering operations), dat elke bestuursdiscipline koppelt aan de specifieke schaal van agency waarvoor deze is ontworpen. De methodologie omvat:

Formalisering: Het definiëren van wiskundige condities voor elke laag (bijv. observeerbaarheid, controleerbaarheid, stabiliteit voor Laag 1; cascade-vertakkingsfactoren voor Laag 2; variëteitsongelijkheid voor Laag 3; error budgets voor Laag 4).
Koppelingsanalyse: Het afleiden van cross-layer koppelingscondities om te verklaren hoe fouten zich voortplanten (bijv. de "zero-touch deployment paradox" waarbij deployment-automatisering de groei van variëteit sneller versnelt dan de toezichtcapaciteit).
Mechanisme-inventarisatie: Het traceren van meer dan twintig inzetbare enterprise-controles naar hun klassieke theoretische constructen (bijv. het mappen van "gain-scheduled guardrails" naar de gain scheduling van control theory).
Empirische Validatie: Het uitvoeren van drie studies met behulp van een corpus van publiekelijk beschikbare bewijslast:
1. Failure Taxonomy Mapping: Het analyseren van 62 gedocumenteerde productiefouten van agenten.
2. Tooling Capability Gap Analysis: Het evalueren van 22 agent-operations tools tegen de vier lagen.
3. Enterprise Maturity Distribution: Het scoren van 35 publieke enterprise-implementaties tegen een nieuw volwassenheidsmodel.

3. Belangrijkste Bijdragen

A. Het Vierlaagse CASE-framework

Het framework wijst specifieke disciplines toe aan specifieke schalen:

Laag 1 (Control Theory): Bestuurt de individuele agent. Het behandelt de agent als een discrete-tijd gecontroleerd systeem met een intent-setpoint, een observer (telemetrie/evaluatie) en een interventievlak. Kernconstructen zijn receding-horizon planning (Model Predictive Control), anti-windup compensatie (context trimming) en gain-scheduled guardrails.
Laag 2 (Complex Adaptive Systems): Bestuurt agent-collectieven. Het adresseert niet-compositionele risico's waarbij $R_{swarm} \neq \sum R_i$ . Kernconstructen zijn het monitoren van de interactiegraaf, het beheren van shared-state contaminatie (stigmergie) en het waarborgen dat de cascade-vertakkingsfactor $k < 1$ is om superkritische avalanches te voorkomen.
Laag 3 (Supervisory Cybernetics): Bestuurt mens-agent-teams. Het operationaliseert Ashby's Wet van Requisite Variety, waarbij vereist is dat de menselijke toezichtcapaciteit ( $V_{human}$ ) vermenigvuldigd met de technisch versterkte gain ( $G$ ) groter moet zijn dan de gedragsmatige variëteit van de agenten ( $V_{agents}$ ) bij piekbelasting: $V_{human} \times G \ge V_{agents}$ . Het introduceert mechanismen zoals algedonic alerts (severity bypass) en federated supervision.
Laag 4 (Engineering Operations): Bestuurt geautomatiseerde vloten. Het breidt Site Reliability Engineering (SRE) uit naar besluitvormingskwaliteit. Autonomie wordt behandeld als een gecontroleerde variabele die wordt gemoduleerd door een live error budget (Vergelijking 7), dat wordt uitgebreid wanneer het budget gezond is en wordt ingeperkt wanneer het uitgeput is.

B. Cross-Layer Koppeling en de Zero-Touch Paradox

Het artikel leidt af dat lagen niet onafhankelijk zijn. Een fout in de observeerbaarheid (L1) verhoogt de effectieve vertakkingsfactor (L2), wat op zijn beurt de variëteitslast op het menselijk toezicht (L3) vergroot.

De Zero-Touch Deployment Paradox: Naarmate de Layer 4 deployment-automatisering verbetert, groeit het aantal agenten $n(t)$ monotoon. Omdat interactietermen groeien als $O(n^2)$ en de gedragsmatige variëteit combinatorisch groeit, produceert uitmuntende deployment mechanisch juist de variëteit die statisch toezicht niet kan absorberen. Dit vereist dat financiering voor deployment-automatisering en toezicht-amplificatie als een gekoppeld paar worden gefinancieerd.

C. De Emergence Gap

Empirische studies onthullen een kritieke mismatch:

Risico-realisatie: 27% van de gedocumenteerde fouten betreft Layer 2 (emergence) mechanismen.
Capability Void: 0% van de 22 geanalyseerde tools biedt volledige Layer 2-dekking (monitoring van de interactiegraaf, cascade-analyse).
Praktijkafwezigheid: 0% van de 35 gescoorde enterprise-implementaties vertoont enige vorm van Layer 2-governance.
Deze mismatch wordt de Emergence Gap genoemd: risico wordt gerealiseerd op een laag waarvoor capaciteit nauwelijks wordt aangeboden en de praktijk volledig ontbreekt.

D. Een Wetenschappelijk Volwassenheidsmodel

Het artikel introduceert een niet-compensatoir volwassenheidsindex ( $M_{CASE}$ ) gebaseerd op een bottleneck-gewogen composiet:
$M_{CASE} = \alpha m_{min} + (1 - \alpha)\bar{m}$
waarbij $m_{min}$ de zwakste laag is en $\alpha = 0.6$ . In tegenstelling tot rekenkundige gemiddelden zorgt deze index ervoor dat een ontbrekende of zwakke laag (bijv. Laag 2) de algehele volwassenheid beperkt, wat de realiteit van koppeling weerspiegelt: een systeem is slechts zo sterk als zijn zwakste schakel.

4. Resultaten

Foutkoppeling: In het corpus van 62 incidenten betrof 82% trajecten over meerdere lagen. Hoewel 84% een primaire Laag 1-oorzaak hadden, waren 69% daarvan ook gerelateerd aan Laag 3 (toezicht) en 83% aan Laag 4 (operations) als secundaire mechanismen.
Tooling Segregatie: Het ecosysteem van tools is sterk gesegregeerd. Guardrails dekken Laag 1; observability dekt Laag 4; orchestratie dekt Laag 3. Geen enkele tool dekt alle vier de lagen, en geen enkele tool biedt volledige Laag 2-dekking.
Volwassenheidsdistributie: Alle 35 publieke enterprise-implementaties vallen in de laagste volwassenheidsband (L0). Dit wordt gedreven door een universele nulwaarde in Laag 2-governance. Onder de niet-compensatoire index blijven zelfs organisaties met sterke L1-, L3- en L4-capaciteiten op L0 door de afwezigheid van L2.

5. Betekenis en Claims

Het artikel beweert een wetenschappelijke in plaats van een procesmatige benadering van agentic AI-governance te bieden.

Operationalisering van Regulering: Het vertaalt juridische vereisten (bijv. de eis van de EU AI Act Artikel 14 voor effectief menselijk toezicht) naar testbare engineering-ongelijkheden (Vergelijking 5), waardoor auditors beschikken over benoemde artefacten (variëteitsbudgetten, amplificatieketens) in plaats van vage compliance-narratieven.
Kapitaalallocatie: De niet-compensatoire index biedt een duidelijke regel voor investeringen: financier eerst de beperkende (zwakste) laag, aangezien alleen die investering de composietscore verhoogt.
Correctie van de Categoriefout: Het framework stelt dat agentic AI-governance geen nieuwe uitvinding is, maar de operationalisering van 80 jaar bestaande wetenschap (control theory, cybernetics, complexe systemen) toegepast op de juiste schalen.
De Emergence Gap: Het artikel identificeert de "Emergence Gap" als de primaire risicovector voor de industrie, en stelt dat zonder Laag 2-governance de industrie richting systemische falen versnelt, ongeacht de vooruitgang in de andere lagen.

De auteurs positioneren dit werk als een brug tussen theoretische governance-wetenschappen en de praktische realiteiten van productie-agentplatforms, geworteld in hun ervaring met het opereren van systemen op Fortune 50-schaal. Ze beweren niet alle veiligheidsproblemen op te lossen, maar wel de juiste architecturale mapping te bieden om te voorkomen dat governance faalt door schaalmismatches.