🤖 AI

Algebraic Semantics of Governed Execution: Monoidal Categories, Effect Algebras, and Coterminous Boundaries

Dit artikel presenteert een gemecaniseerde algebraïsche semantiek voor beheerde uitvoering, geformaliseerd in 32 Rocq-modules met interactiebomen en co-inductie, die een symmetrisch monoidale categorie vestigt waarin governance is geaxiomatiseerd, composioneel en eindigt met de uitdrukkingskracht, zodat alle construeerbare programma's beheerd worden terwijl Turing-volledigheid behouden blijft en ongemiddelde I/O wordt uitgesloten.

Oorspronkelijke auteurs: Alan L. McCann

Gepubliceerd 2026-05-06

📖 5 min leestijd🧠 Diepgaand

CC0 1.0

Oorspronkelijke auteurs: Alan L. McCann

Oorspronkelijk artikel vrijgegeven aan het publieke domein onder CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een complexe robot bouwt die kan denken, praten, dingen onthouden en zelfs de wereld in gaat om boodschappen te doen of een vriend te bellen. Je wilt dat deze robot ongelooflijk slim en bekwaam is, maar je moet er ook voor zorgen dat hij nooit iets gevaarlijks, illegaals of in strijd met de regels doet terwijl hij werkt.

Dit artikel presenteert een nieuwe manier om het "brein" en de "regels" voor zo'n robot te ontwerpen. In plaats van erop te hopen dat de robot zich goed gedraagt, hebben de auteurs een wiskundige vesting om zijn acties gebouwd. Zij noemen dit "Governed Execution" (Gereguleerde Uitvoering).

Hier is de uiteenzetting van hun idee met behulp van eenvoudige analogieën:

1. Het Probleem: Het "Wilde Westen" van AI

Momenteel proberen we AI op twee manieren te controleren:

De "Filter"-benadering: We trainen de AI om beleefd te zijn of filteren zijn antwoorden nadat hij gesproken heeft. Dit is als proberen een lekkende kraan te stoppen door de vloer te dweilen. Het stopt het water niet dat eruit komt; het probeert het pas later op te ruimen.
De "Guardrail"-benadering: We zetten hekken om de robot. Maar vaak zijn deze hekken slechts suggesties of zachte regels waar de robot per ongeluk (of opzettelijk) overheen kan springen.

De auteurs betogen dat we een systeem nodig hebben waarbij de regels hardgecodeerd zijn in de weefsel van het vermogen van de robot om te handelen. Als de robot iets probeert te doen zonder toestemming, kan hij het letterlijk niet doen.

2. De Oplossing: De "Drievoetige Stoel" (De Algebra)

De auteurs hebben een wiskundig raamwerk ontwikkeld dat een Governance Algebra (Bestuursalgebra) wordt genoemd. Denk hierbij aan een drievoetige stoel die perfect in balans moet zijn voor het systeem te werken. Als er een poot ontbreekt, valt het hele ding om. De drie poten zijn:

Veiligheid: De robot mag nooit een actie ondernemen zonder een "toestemmingsbewijs" (een governance-check).
Transparantie: Als de robot wel toestemming heeft, mogen de regels niet veranderen wat hij doet, alleen dat hij eerst heeft gecontroleerd. (Het mag de robot niet vertragen of zijn antwoord veranderen, het moet alleen garanderen dat het veilig is).
Behoorlijkheid: De regels moeten consistent zijn. Als twee robots hetzelfde doen, moeten de regels hen exact op dezelfde manier behandelen.

3. De "Interactieboom": Het Denkproces van de Robot

Om te bewijzen dat dit werkt, stellen zij het denken van de robot voor als een enorme Boom.

De Takken: Elke keer dat de robot denkt, splitst het zich in takken.
De Bladeren: De uiteindelijke acties (zoals "Bel een vriend" of "Schrijf een bestand").
De Stam: Het pad dat de robot aflegt om daar te komen.

In hun systeem moet elke enkele tak van deze boom door een Beveiligingspoort (de Governance-operator) voordat hij kan groeien. Als een tak probeert te groeien zonder door de poort te gaan, weigert de boom simpelweg te bestaan.

4. De "Dubbele Garantie": Het ID-Badge en de Beveiliger

Het artikel introduceert een slim tweeledig veiligheidssysteem:

Het ID-Badge (Capaciteiten): Voordat de robot zelfs maar begint, krijgt hij een ID-badge met precies wat hij mag doen (bijvoorbeeld: "Mag bestanden lezen", "Mag bestanden niet verwijderen"). Dit is een statische lijst.
De Beveiliger (Governance): Terwijl de robot beweegt, controleert een Beveiliger elke enkele stap. Zelfs als de robot een ID-badge heeft, stopt de Beveiliger hem als de specifieke actie op dat moment verdacht lijkt.

Het artikel bewijst dat beide tegelijk moeten gebeuren. Je kunt niet alleen het ID-badge hebben (omdat de robot in de war kan raken), en je kunt niet alleen de beveiliger hebben (omdat de beveiliger iets kan missen). Ze werken samen om ervoor te zorgen dat elke enkele actie zowel geautoriseerd als gecontroleerd is.

5. De "Coterminous Boundary": De Perfecte Match

Dit is het meest spannende deel van het artikel. De auteurs bewijzen een "Perfecte Match"-stelling.

De Claim: In hun systeem is alles wat de robot kan bouwen automatisch veilig.
De Analogie: Stel je een speelgoedfabriek voor waar de enige speelgoedstukken die je kunt bouwen, die zijn die een veiligheidscertificaat hebben. Je kunt per ongeluk geen onveilig speelgoed bouwen. Als het niet veilig is, laat de fabrieksmachine je niet eens beginnen met het bouwen ervan.
Het Resultaat: De "veilige" zone en de "mogelijke" zone zijn precies even groot. Er is geen "grijze zone" waar een robot iets risicovers kan doen. Als de robot een gedachte of actie kan uitdrukken, is gegarandeerd dat deze wordt gereguleerd.

6. Het "Black Box"-Bewijs

De auteurs hebben dit niet alleen opgeschreven; ze hebben een enorme digitale bewijsmachine gebouwd (met behulp van een tool genaamd Rocq) met meer dan 12.000 regels code en 454 wiskundige bewijzen.

Ze bewezen dat als je hun regels volgt, de robot niet per ongeluk iets slechts kan doen.
Ze bewezen dat de robot nog steeds slim genoeg is om complexe taken uit te voeren (het is "Turing compleet", wat betekent dat het elk probleem kan oplossen dat een computer kan oplossen).
Ze bouwden zelfs een "Ledger" (zoals een vervalvrij dagboek) dat elke toestemmingscontrole en actie registreert, zodat als iemand later probeert te bedriegen, het dagboek bewijst dat ze het deden.

Samenvatting

Dit artikel zegt: "We hebben een wiskundige kooi gebouwd voor AI-acties. Binnenin deze kooi is de AI vrij om alles te doen wat hij wil, maar het is fysiek onmogelijk voor hem om iets onveiligs te doen. De regels zijn niet slechts suggesties; ze zijn de natuurwetten voor dit specifieke systeem."

Ze hebben dit wiskundig bewezen, getest met miljoenen willekeurige scenario's, en aangetoond dat de "veilige" versie van de AI net zo snel werkt als de "onveilige" versie. Het is een manier om AI krachtig te maken zonder het gevaarlijk te maken.

Technische Samenvatting: Algebraïsche Semantiek van Gereguleerde Executie

Probleemstelling

Huidige AI-workflowsystemen, die taalmodeloproepen combineren met dataverzameling, code-executie en toegang tot externe API's, missen een formeel raamwerk voor gereguleerde executie. Bestaande benaderingen voor regulering vallen in twee categorieën:

Gedragsgerichte benaderingen (bijv. RLHF, Constitutionele AI, beveiligingsrails) die modeluitvoer filteren of trainen, maar niet adresseren of de structurele effecten van het systeem (API-oproepen, bestandsbeschrijvingen) een reguleringsgrens passeren.
Structurele benaderingen die invarianten afdwingen op het executieniveau, maar vaak machinegecontroleerde bewijzen missen of compositie niet adresseren. Ze verifiëren doorgaans individuele programma's in plaats van te bewijzen dat regulering gesloten is onder de compositie-operatoren van het systeem.

De kernuitdaging is een semantiek te vestigen waarbij regulering niet slechts een externe filter is, maar een intrinsieke, compositie-eigenschap van het uitvoeringsmodel zelf, zodat de verzameling uitdrukbare programma's samenvalt met de verzameling gereguleerde programma's.

Methodologie

Het artikel ontwikkelt een algebraïsche semantiek voor gereguleerde executie, gemecaniseerd in 32 Rocq-modules (ongeveer 12.000 regels code, 454 stellingen, 0 toegestane lemma's). Het raamwerk rust op drie primaire technische pijlers:

Interactiebomen (ITrees): Programma's worden weergegeven als co-inductieve bomen met drie knooppunttypes: Ret (pure waarden), Tau (stille stappen) en Vis (zichtbare gebeurtenissen). Het systeem gebruikt het type DirectiveE om 14 distincte externe capaciteiten te modelleren (bijv. LLM-oproepen, HTTP-verzoeken, bestandsoperaties).
Reguleringsalgebra: Regulering wordt geaxiomatiseerd als een parametrisch record (GovernanceAlgebra) gedefinieerd door drie axioma's:
- Veiligheid: De reguleringoperator G zorgt ervoor dat geïnterpreteerde programma's voldoen aan een co-inductief veiligheidspredikaat (gov safe).
- Transparantie: Onder permissieve voorwaarden (alle checks slagen) is gereguleerde interpretatie observationeel equivalent aan ongeregelde interpretatie.
- Eigendom: Equivalent handlers produceren equivalente gereguleerde handlers.
Monoidale Categorien en Algebraïsche Effecten: Het raamwerk breidt de categorie van programma's (Mashin) uit met een symmetrisch monoidale structuur. Het beperkt het algebraïsch effectensysteem zodanig dat alleen handlers die een machinegecontroleerd veiligheidscertificaat dragen (GovernedHandler) kunnen worden geconstrueerd in het veilige fragment.

De formalisatie maakt gebruik van geparametriseerde co-inductie (via de paco-bibliotheek) om eigenschappen zoals gov safe en within caps (capaciteitsgrenzen) te bewijzen. Het systeem wordt geëxtraheerd naar OCaml en geïntegreerd als een Native Implemented Function (NIF) in de BEAM-runtime, waarbij eigenschapsgedreven testen (70.000+ willekeurige invoeren) gedrags-equivalentie verifiëren tussen de specificatie en de runtime.

Belangrijkste Bijdragen

1. Parametrische Reguleringsalgebra en Monoidale Structuur

Het artikel definieert een GovernanceAlgebra-record. Uit de drie axioma's worden convergentie, compositie-sluiting en doelbehoud afgeleid voor elk systeem dat aan deze axioma's voldoet.

Monoidale Structuur: De categorie Mashin wordt bewezen een symmetrisch monoidale structuur toe te laten met geverifieerde pentagon-, driehoek- en zeshoek-coherentie.
Behoud van Regulering: Cruciaal behoudt elke tensor-compositie (parallelle/sequentiële onafhankelijke compositie) regulering. De bewijzen zijn computationeel in plaats van co-inductief, omdat structurele morfismen puur zijn.

2. Gereguleerde Algebraïsche Effecten

In tegenstelling tot standaard algebraïsche effectsystemen waar elke handler geldig is, beperkt dit raamwerk de handler-algebra.

GovernedHandlers: Alleen handlers die zijn gebundeld met een bewijs dat hun interpretatie voldoet aan gov safe, kunnen het type GovernedHandler bewonen.
Geen Omgevings-effecten: Een stelling bewijst dat programma's in de lege capaciteitsset uitsluitend observatie-directives uitzenden. Ze kunnen geen LLM-oproepen, HTTP-verzoeken of andere effecten uitvoeren tenzij expliciet geautoriseerd door de capaciteitsset.

3. Capaciteits-geïndexeerde Compositie en Dubbele Garantie

Programma's worden gebundeld met machinegecontroleerde capaciteitsgrenzen (CapMorphisms) geverifieerd door een vertrouwensrooster.

Compositie: Sequentiële, tensor- en tak-compositie-operatoren behouden capaciteitsgrenzen.
Dubbele Garantie: Een centrale stelling stelt dat voor elk programma capaciteitsgrenzen (wat het programma kan doen) en reguleringsveiligheid (wat het programma mag doen) gelijktijdig gelden. Statische capaciteiten begrenzen de potentiële effecten, terwijl dynamische regulering ervoor zorgt dat elk effect een check passeert voordat het wordt uitgevoerd.

4. De Gelijktijdige Grens

Het kroonstukresultaat van het artikel definieert de relatie tussen uitdrukkingsvermogen en regulering binnen het formele model:

Uitdrukbare (E): Programma's construeerbaar uit vier primitieve morfismen (code, reason, memory, call).
Gereguleerde (G): Programma's waarbij de interpretatie via G voldoet aan gov safe.
Resultaat: $E = G$ . Elk uitdrukbare programma is onder interpretatie gereguleerd, en elk gereguleerd programma is het beeld van een uitdrukbare programma.
Implicaties: Turing-compleetheid wordt behouden binnen regulering. Ongecontroleerde I/O is structureel uitgesloten van het gereguleerde fragment. Regulering-ontkenning wordt gemodelleerd als veilige co-inductieve divergentie (niet-terminatie), zodat er nooit een onveilig resultaat wordt geproduceerd.

Resultaten en Verificatie

Formele Verificatie: Het volledige raamwerk is gemecaniseerd in Rocq met nul toegestane lemma's.
Runtime-extractie: De geëxtraheerde OCaml-code draait als een NIF in de BEAM-runtime.
Testen: Eigenschapsgedreven testen met meer dan 70.000 willekeurige invoeren toonden nul onenigheden tussen de Rocq-specificatie, de geëxtraheerde NIF en de Elixir-interpreter.
Prestaties: Het pad voor gereguleerde executie voegt geen meetbare overhead toe (mediaan 0,23 ms versus 0,24 ms voor ongeregelde executie).
Trace-semantiek: Het raamwerk leidt trace-niveau eigenschappen af, bewijzend dat gereguleerde executie "goed-gereguleerde" traces produceert waarbij elke I/O-gebeurtenis wordt voorafgegaan door een geslaagde regulering-check. Deze traces worden via hash-koppeling gemapt naar een vervalsing-bewijsend grootboek.

Betekenis en Claims

Het artikel claimt het eerste gemecaniseerde raamwerk te bieden dat regulering-gedwongen interpretatie, capaciteits-begrensde algebraïsche effecten en een gelijktijdig uitdrukkingsvermogen/regulering-stelling combineert over een interactieboom-gebaseerd uitvoeringsmodel.

Structurele versus Inhoudelijke Regulering: Het werk onderscheidt zich van gedragsgerichte benaderingen (die uitvoer filteren) door structurele regulering (effecten mediëren) af te dwingen. Stelling 3.3 vestigt dat structurele regulering garanties biedt die output-gerichte controles binnen dit formele model niet kunnen repliceren.
Parametriciteit: De GovernanceAlgebra is parametrisch; afgeleide stellingen gelden voor elk systeem dat aan de drie axioma's voldoet, niet alleen voor de specifieke Mashin-instantiatie.
Compositionaliteit: Het raamwerk bewijst dat regulering gesloten is onder alle systeemcompositie-operatoren, waardoor een gat in eerdere werken wordt opgevuld die individuele programma's verifieerden maar niet hun compositie.
Beperkingen: De auteurs merken op dat het tensorproduct sequentieel-onafhankelijk is (niet echt concurrent), dat de hash-keten berust op een abstract injectieve hash (waarvoor verder werk vereist is voor concrete cryptografische hashes), en dat de NIF-wrapper zelf niet formeel is geverifieerd. De gelijktijdige grens is specifiek vastgesteld voor het uitvoeringsmodel met vier primitieven.

Kortom, het artikel betoogt dat door regulering te axiomatiseren als een algebraïsche structuur over interactiebomen, een systeem kan worden bereikt waarbij regulering gelijktijdig is met uitdrukkingsvermogen: als een programma in het systeem kan worden geschreven, is het structureel gegarandeerd gereguleerd.