🤖 AI

Governed Metaprogramming for Intelligent Systems: Reclassifying Eval as a Governed Effect

Dit artikel stelt "gecontroleerde metaprogrammering" voor, een taalontwerp dat het onbeperkte `eval`-primitief herkwalificeert tot een gecontroleerd effect dat structurele inspectie en naleving van het beleid vereist voordat symbolische vormen worden omgezet in uitvoerbare code, waardoor veiligheid en autoriteitscontrole in zelfmodificerende AI-systemen worden gewaarborgd.

Oorspronkelijke auteurs: Alan L. McCann

Gepubliceerd 2026-05-27

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Alan L. McCann

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een zeer slimme robotassistent voor die zijn eigen instructies kan schrijven. Hij kan naar een probleem kijken, erover nadenken en vervolgens een nieuwe set regels voor zichzelf typen om te volgen.

In de oude wereld van programmering zou de computer, als deze robot een nieuwe set regels schreef, gewoon zeggen: "Oké, ik voer ze direct uit." Hij zou niet vragen: "Wacht, zijn deze regels veilig? Proberen ze je bankwachtwoord te stelen? Proberen ze je bestanden te verwijderen?" De computer behandelde de daad van het omzetten van geschreven woorden in actie als een magische knop die altijd werkte.

Dit artikel betoogt dat voor AI-systemen die zichzelf kunnen herschrijven, die "magische knop" gevaarlijk is. De auteur, Alan L. McCann, stelt een nieuwe manier voor om hiermee om te gaan, genaamd Gereguleerde Metaprogrammering.

Hier is de kernidee, uiteengezet met eenvoudige analogieën:

1. Het Probleem: De "Magische Knop" is Gebroken

Denk aan een computerprogramma als een recept.

De Code: Het geschreven recept (de ingrediënten en stappen).
De Uitvoering: De daad van het bereiden van de maaltijd.

In traditionele systemen kun je, als je een nieuw recept op een stuk papier schrijft, dit direct aan de kok geven, en de kok begint met koken. De overgang van papier naar koken is direct en onbeperkt.

Maar in moderne AI kan de "kok" (de AI) nieuwe recepten schrijven terwijl hij aan het koken is. Als de AI een recept schrijft dat zegt "Eet de hele keuken op", en het systeem laat het direct koken, ontstaat er een ramp. Het artikel noemt deze overgang "Autoriteitsversterking". Het is het moment waarop een stuk papier (data) plotseling de macht krijgt om de echte wereld te veranderen (uitvoeren).

2. De Oplossing: De "Beveiliger" voor Recepten

Het artikel stelt voor dat we de daad van het omzetten van een recept in een maaltijd niet langer behandelen als een simpele computerfunctie. In plaats daarvan behandelen we het als een gereguleerd effect – een speciale actie die de goedkeuring van een beveiliger vereist.

Het systeem introduceert een nieuw concept genaamd Machine Forms.

Machine Forms zijn als blauwdrukken of diagrammen van het recept. Het zijn gewoon data. Ze kunnen niets koken. Ze kunnen geen telefoonnummer bellen. Het zijn gewoon afbeeldingen van instructies.
Blauwdrukken Manipuleren (erop tekenen, lijnen wissen, twee blauwdrukken combineren) is veilig. Het is als een kind dat speelt met Lego. Er kan geen schade in de echte wereld ontstaan door alleen maar de plastic blokken te verplaatsen.

3. De Kritieke Stap: "Materialisatie"

Het gevaarlijke moment heet Materialisatie. Dit is het moment waarop je de blauwdruk pakt en zegt: "Oké, bouw dit."

In dit nieuwe systeem kun je niet zomaar zeggen "Bouw dit". Je moet de blauwdruk overhandigen aan een Governance Systeem (de Beveiliger). De Beveiliger doet drie dingen voordat hij de kok laat koken:

Inspecteert de Blauwdruk: Probeert dit recept een verboden ingrediënt te gebruiken (zoals een gevaarlijk AI-model)?
Controleert de Regels: Past dit recept binnen het budget? Probeert het toegang te krijgen tot bestanden die het niet zou moeten hebben?
Beslist: Als het slaagt, geeft de Beveiliger het "Goed" signaal. Als het faalt, wordt de blauwdruk in de prullenbak gegooid.

4. Waarom Dit Belangrijk Is voor Zelfverbeterende AI

Stel je een AI voor die slimmer wil worden. Hij kijkt naar zijn eigen code, beseft dat hij slecht is in wiskunde, en schrijft een nieuwe versie van zichzelf die beter is in wiskunde.

Zonder dit systeem: De AI schrijft de nieuwe code, drukt op "Uitvoeren", en plotseling heeft de nieuwe code volledige macht. Als de AI een fout maakte of bedrogen werd, zou hij per ongeluk zichzelf de macht kunnen geven om alles te verwijderen.
Met dit systeem: De AI schrijft de nieuwe code (de blauwdruk). Vervolgens moet hij de Beveiliger vragen: "Mag ik deze nieuwe versie worden?" De Beveiliger controleert de nieuwe code. Als de nieuwe code probeert iets te doen wat de AI niet mag doen (zoals toegang krijgen tot een geheim database), zegt de Beveiliger "Nee". De AI kan de beveiliger niet omzeilen, zelfs niet als hij de code zelf heeft geschreven.

De Grote Conclusie

Het artikel beweert dat eval (de opdracht die code omzet in actie) niet zomaar een tool is; het is een machtstoekenning.

Door het te herclassificeren als een "gereguleerd effect", zorgt het systeem ervoor dat:

Code schrijven (blauwdrukken manipuleren) veilig en zuiver is.
Code uitvoeren (blauwdrukken omzetten in actie) altijd door een controlepunt gaat.
Er geen kortsluitingen bestaan. Je kunt geen gevaarlijk programma niet aan de beveiliger voorbij sluipen door het te verstoppen in een normale berekening.

De auteur heeft dit geïmplementeerd in een systeem genaamd MashinTalk en wiskundig bewezen (met behulp van 454 formele theorema's) dat het onmogelijk is om deze beveiliger te omzeilen. Het creëert een wereld waarin AI nieuwe versies van zichzelf kan bouwen, maar alleen als die nieuwe versies eerst een strenge veiligheidsinspectie doorstaan.

Technische Samenvatting: Gereguleerde Metaprogrammering voor Intelligente Systemen

1. Probleemstelling

Moderne AI-systemen, waaronder Large Language Models (LLM's) en autonome agenten, synthetiseren op steeds hogere schaal uitvoerbare structuren tijdens het runtime. Deze systemen genereren workflows, plannen voor het aanroepen van tools en zelfmodificerende code. In klassieke homoiconische talen (bijv. Lisp) en getrapte talen (bijv. MetaOCaml) wordt de overgang van een code-representatie (data) naar een uitvoerbaar programma afgehandeld door primitieven zoals eval of run. Deze overgangen zijn traditioneel onbeperkt: elke geldige representatie kan onmiddellijk uitvoerende code worden.

In de context van gereguleerde intelligente systemen – die expliciete effectgrenzen, controle van capaciteiten en auditbaarheid vereisen – creëert deze onbeperkte overgang een kritieke kwetsbaarheid. Als een systeem een nieuw programma kan genereren dat de governance-beperkingen van het origineel omzeilt, wordt het gehele governance-model gecompromitteerd. Het artikel identificeert dit als een "metaprogrammerings-ontsnappingskanaal": een systeem dat op uitvoeringsniveau gereguleerd is maar op het niveau van codegeneratie niet, is fundamenteel onveilig.

2. Kernmethodologie: Herclassificatie van `eval`

De centrale methodologische bijdrage van het artikel is de herclassificatie van eval (of de overgang van vorm naar uitvoering) van een taalprimitief naar een gereguleerd effect.

De auteurs stellen een raamwerk voor genaamd Governed Metaprogramming, gebaseerd op de volgende pijlers:

Machine-vormen: Programmarepresentaties worden behandeld als first-class waarden (gestructureerde datamaps) in plaats van ondoorzichtige strings of bytecode.
Pure vormmanipulatie: Alle bewerkingen op deze vormen (inspectie, transformatie, compositie, diffing) worden geclassificeerd als pure berekening. Ze geven geen directives af en hebben geen bevoegdheid om I/O uit te voeren of modellen aan te roepen.
Materialisatie als toewijzing van autoriteit: De overgang van een machine-vorm naar een uitvoerbare machine wordt gedefinieerd als materialisatie. Dit is niet louter berekening; het is de toewijzing van uitvoerbare autoriteit (de macht om modellen aan te roepen, I/O uit te voeren en resources te consumeren). Bijgevolg wordt materialisatie geclassificeerd als een gereguleerd effect.
Structurele inspectie: Voordat materialisatie wordt toegestaan, voert een governance-systeem een beslisbare structurele inspectie van de vorm uit. Deze inspectie analyseert capaciteitsvereisten, beleidsconformiteit, modelautorisatie en resourceschattingen.

3. Formele Operationele Semantiek

Het artikel formaliseert het systeem met behulp van twee distincte oordelen om de grens tussen pure berekening en gereguleerde uitvoering af te dwingen:

Pure Vormevaluatie ( $\Gamma \vdash pure\ e \Downarrow v$ ):
- Werkt op vormwaarden.
- Geeft nul directives af ( $Dir(e) = \emptyset$ ).
- Omvat het construeren van quotes, het evalueren van splices, navigatie en transformatie.
- Garandeert dat geen enkele reeks pure bewerkingen een geautoriseerde machine kan produceren.
Gereguleerde Materialisatie ( $\Gamma; \Pi; \sigma \vdash materialize(v_f) \rightsquigarrow \langle Machine, d \rangle$ ):
- Neemt een vorm, een beleidscontext ( $\Pi$ ) en een capaciteitsset ( $\sigma$ ).
- Vereist een governance-beslissingsrecord ( $d$ ) voor elk resultaat (goedkeuring of afwijzing).
- Geeft exact één gereguleerde directive af.
- Het governance-systeem inspecteert de structuur van de vorm om te verifiëren:
  - Capaciteitsbeperking ( $CapSet(f) \subseteq \Pi.allowed\ caps$ ).
  - Modelautorisatie.
  - Structurele beleidsconformiteit.
  - Resourcegrenzen.

4. Belangrijkste Bijdragen

Het artikel presenteert vijf primaire bijdragen:

Herclassificatie van eval: Een precieze karakterisering van materialisatie als toewijzing van autoriteit, waarbij deze wordt verplaatst van een primitief naar een gereguleerd effect.
Machine-vormen: Een concreet datatype voor gestructureerde programmarepresentatie met constructies voor quote, splice en reflection.
Formele Semantiek: Een definitie van het systeem met behulp van twee oordelen (pure evaluatie en gereguleerde materialisatie) die datamanipulatie strikt scheidt van uitvoering.
Machine-gecontroleerde Eigenschappen: Drie kern eigenschappen zijn formeel geverifieerd in Rocq:
- Reinheid van Vormmanipulatie: Vormbewerkingen geven geen directives af.
- De Geen-Omzeiling Stelling: Geen enkele reeks pure bewerkingen kan direct uitvoering veroorzaken.
- Behoud van Grenzen: Het toevoegen van metaprogrammeringscapaciteiten splitst de expressiviteits- en governance-grenzen niet (ze blijven samenvallend).
Gereguleerde Zelfmodificatie: Een concreet mechanisme dat machines in staat stelt om structurele wijzigingen aan zichzelf voor te stellen via een evolutie-ledger, onderworpen aan dezelfde governance-inspectie als externe codegeneratie.

5. Implementatie en Resultaten

Het ontwerp is geïmplementeerd in MashinTalk, een domeinspecifieke taal voor AI-workflows die compileert naar BEAM (Erlang VM) bytecode.

Systeemarchitectuur: De implementatie bestaat uit drie modules: Form (constructie en manipulatie), FormInspector (governance-controles) en FormMaterializer (gereguleerde compilatie).
Verificatie: De kern eigenschappen zijn gemechaniseerd in Rocq (voorheen Coq) met 26 stellingen en 662 regels code, met nul toegestane lemma's. Deze stellingen integreren met een bestaande formalisering van 454 stellingen over 36 modules.
Testen: Een testsuite van 51 unit-tests valideert functionele correctheid en governance-eigenschappen. Alle tests slagen.
Prestaties: Op Apple M-serie processors duurt vormconstructie <1 µs, en structurele inspectie <100 µs voor typische machines. De overhead is verwaarloosbaar in vergelijking met de compilatie naar BEAM-bytecode.

6. Betekenis en Claims

Het artikel claimt het "metaprogrammerings-ontsnappingskanaal" in gereguleerde intelligente systemen te dichten. Zonder dit mechanisme blijft een systeem dat op uitvoeringsniveau gereguleerd is kwetsbaar, omdat het de generatie van nieuwe uitvoerbare structuren niet kan reguleren.

De auteurs betogen dat in AI-systemen die hun eigen uitvoerbare structuur synthetiseren, de toewijzing van uitvoerbare autoriteit moet zijn:

Zichtbaar: De overgang van data naar code is een distinct, waarneembaar evenement.
Gemedieerd: Het moet passeren door een governance-interpretator die de structuur inspecteert.
Geregistreerd: Beslissingen worden gelogd in een append-only ledger (het evolutie-ledger).

Het artikel erkent expliciet beperkingen:

Stelling van Rice: Structurele inspectie is beslisbaar maar kan niet redeneren over semantisch gedrag. Governance garandeert mediatie, niet de semantische soundness van het gegenereerde programma.
Reikwijdte: Het argument voor behoud van grenzen is architecturaal; een volledig conservativiteitsbewijs met betrekking tot effect-signatuursets wordt uitgesteld tot toekomstig werk.
Toepasbaarheid: Het ontwerp is specifiek voor talen met effect-grensstructuren (zoals MashinTalk); de toepasbaarheid op algemene programmeertalen is een open vraag.

Concluderend stelt het artikel vast dat eval niet louter een computatiefunctie is, maar een gebeurtenis van autoriteitstoewijzing. Door het te behandelen als een gereguleerd effect, kunnen intelligente systemen veilig hun eigen uitvoerbare structuren synthetiseren en modificeren zonder hun governance-modellen te compromitteren.