💻 computer science

CANONIC: Governance Is Compilation

Het artikel introduceert CANONIC, een governance-framework dat principes uit de compilerleer toepast om een controleerbaar bewijsregister voor door AI gegenereerde inhoud te creëren, waarbij wordt betoogd dat hoewel structurele toelating "slop" niet algoritmisch kan wegfilteren, het wel waarborgt dat elke bewering verankerd is aan verifieerbare definities en commits voor end-to-end reproduceerbaarheid.

Oorspronkelijke auteurs: Dexter Hadley

Gepubliceerd 2026-07-08

📖 7 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Dexter Hadley

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: De "Slop"-vloedgolf

Stel je een fabriek voor die boeken sneller kan drukken dan dat iemand ze kan lezen. In 2025 begon deze fabriek (AI) zoveel tekst uit te spugen dat er een nieuw probleem ontstond: "Slop" (slappe troep).

"Slop" is niet alleen slecht geschreven; het is tekst die perfect oogt, intelligent klinkt en mooi doorstroomt, maar geen enkele connectie heeft met de werkelijkheid. Het is als een chef die in enkele seconden een heerlijk uitziende maaltijd kan bereiden, maar de ingrediënten zijn gemaakt van plastic. Als je het eet, word je ziek, maar je kunt aan het bord niet zien dat het nep is.

Het paper betoogt dat we dit niet kunnen oplossen door meer mensen in te huren om de boeken te lezen (menselijke controle) of door betere leugendetectoren te bouwen (AI-detectie). Waarom niet? Omdat de neppe boeken precies lijken op de echte boeken. De fabriek is te snel, en de "neppe" boeken zijn te overtuigend.

De Oplossing: De "Compiler" Poort

De auteur, Dexter Hadley, stelt een radicale verschuiving voor. In plaats van te proberen te beoordelen of een boek waar is (wat moeilijk is), moeten we beoordelen of het boek structureel geldig is (wat makkelijk is).

Hij noemt dit Governance as Compilation (Bestuur als Compilatie).

Denk aan een computerprogramma. Voordat een programma draait, controleert een "compiler" het. De compiler vraagt niet: "Zal dit programma de problemen van de wereld oplossen?" of "Is deze code briljant?". De compiler stelt drie eenvoudige, mechanische vragen:

Heb je een woord gebruikt dat in het woordenboek staat?
Verwijs je naar een bestand dat daadwerkelijk op de computer bestaat?
Staat dat bestand in de map die je hebt opgegeven?

Als het antwoord op een van deze vragen "Nee" is, zegt de compiler "Error" en stopt het programma met draaien. Het maakt niet uit of de code briljant is; als de structuur gebrekkig is, wordt het afgewezen.

CANONIC past dezezelfde logica toe op AI-teksten. Het fungeert als een "compiler" voor tekst. Voordat er AI-gegenereerde inhoud in een openbare bibliotheek (de "corpus") mag worden opgenomen, moet het door drie poorten gaan.

De Drie Poorten (De "Triad")

Voor een stuk tekst om de CANONIC-poort te passeren, moet het gebouwd zijn als een specifiek type map die drie specifieke bestanden bevat. Als een van deze bestanden ontbreekt, wordt de tekst direct afgewezen.

Het Regelboek (CANON.md): Dit bestand zegt: "Dit zijn de regels voor dit specifieke onderwerp." Het is de wet.
Het Woordenboek (VOCAB.md): Dit bestand definieert elk woord dat in het Regelboek wordt gebruikt. Je kunt geen chic woord gebruiken tenzij je het hier hebt gedefinieerd. Dit voorkomt dat de AI jargon verzint.
De Beschrijving (README.md): Dit bestand legt uit waar het project daadwerkelijk over gaat.

De Analogie: Stel je voor dat je een huis bouwt.

Het Woordenboek is de lijst met goedgekeurde materialen (bijv. "Baksteen" betekent rode kleistenen baksteen, niet rode plastic baksteen).
Het Regelboek zegt: "Elke muur moet van Baksteen zijn."
De Beschrijving zegt: "Dit is een huis."

Als je probeert een muur van "Rode Plastic" te bouwen zonder "Rode Plastic" in je woordenboek te definiëren, stopt de inspecteur (de compiler) je. Je kunt niet gewoon zeggen: "Vertrouw me maar, het is een muur."

De "Evidence Ledger" (Bewijsregister)

Het paper introduceert een tweede laag: De Ledger.
Elke bewering in de tekst moet gekoppeld zijn aan een specifieke "commit" (een opgeslagen versie van een bestand) in een publiek, onveranderlijk record (zoals een Git-repository).

De Bewering: "De patiënt is verbeterd."
De Verankering: "Zie commit #12345 in de Ledger."

Als de schrijver niet kan wijzen naar de specifieke commit die de bewering bewijst, wordt de tekst afgewezen. Het is als een rechtszaak waarbij je niet simpelweg kunt zeggen: "Ik zag het gebeuren." Je moet de videobeelden kunnen produceren. Als je de beelden niet hebt, komt de bewering niet in het record terecht.

Wat CANONIC wel doet (En wat het niet doet)

Dit is het belangrijkste deel van het paper. De auteur is zeer eerlijk over de beperkingen.

Wat het WEL doet:
Het garandeert Verantwoordelijkheid (Accountability).
Als een stuk tekst de poort passeert, weet je met zekerheid dat:

Elk woord is gedefinieerd.
Elke bewering verwijst naar een specifiek, onveranderlijk stuk bewijs.
De regels zijn gevolgd.

Het verandert "onverifieerbare proza" in een "controleerbaar record". Zelfs als de tekst onjuist is, is deze nu traceerbaar. Je kunt het bewijs bekijken, zien waar het misging, en het corrigeren.

Wat het NIET doet:
Het garandeert niet de WAARHEID.
Het paper heeft een test (een benchmark) uitgevoerd om te zien of dit systeem "Slop" kon filteren. De resultaten waren verrassend: het kon dat niet.

De Test: Ze voerden het systeem nepnieuws, echt nieuws en slimme AI-gegenereerde leugens.
Het Resultaat: De "Compiler"-poort liet het nepnieuws door als het nepnieuws goed gestructureerd was (gedefinieerde woorden, nep-bewijs dat er echt uitzag, en een duidelijke tijdlijn).
De Les: Een machine kan controleren of een zin grammaticaal geldig en verwijzend is, maar kan niet controleren of de zin waar is.

De Analogie:
Stel je een bewaker bij een bank voor.

CANONIC is de bewaker die je ID controleert. Als je ID vervalst is maar er perfect uitziet, een foto heeft en voldoet aan het databaseformaat, laat de bewaker je binnen. De bewaker zorgt ervoor dat je een geldig ID hebt, niet dat je een goed mens bent.
Waarheid wordt bepaald door de bankdirecteur (de menselijke expert). De directeur kijkt naar het ID, ziet de persoon, en besluit: "Wacht even, deze persoon liegt over zijn banksaldo."

Het paper betoogt dat we hebben geprobeerd om het algoritme (de bewaker) te laten beslissen wie er liegt. Het paper zegt: Stop daarmee. De taak van de bewaker is slechts om het ID te controleren. De taak van de directeur is om te beslissen of het verhaal waar is.

De "Human-in-the-Loop"

Het systeem is ontworpen zodat Mensen de Regels schrijven en AI de Inhoud schrijft.

Mensen stellen de "Grondwet" vast (de regels in het CANON.md bestand).
AI genereert de tekst.
De "Compiler" controleert of de AI de regels heeft gevolgd.
Als de AI probeert de regels te veranderen, wordt deze geblokkeerd. Alleen mensen kunnen de Grondwet wijzigen.

Dit creëert een systeem waarin AI snel en creatief kan zijn, maar niet de wet kan breken of haar sporen kan wissen.

Samenvatting

Het paper concludeert dat we geen algoritme kunnen bouwen dat automatisch "Slop" (nep of ongegrond AI-tekst) herkent, omdat "Slop" zo gemaakt kan worden dat het structureel perfect lijkt.

In plaats daarvan moeten we een systeem bouwen dat Verantwoordelijkheid afdwingt.

De Oude Manier: "Vertrouw me, deze AI schreef een waarheidsgetrouw artikel." (Moeilijk te verifiëren).
De Nieuwe Manier (CANONIC): "Hier is het artikel. Hier is het woordenboek van de gebruikte woorden. Hier is het exacte bestand waar het bewijs leeft. Hier is het regelboek dat het volgde. Je kunt het allemaal zelf controleren."

Het systeem stopt de leugens niet; het zorgt er alleen voor dat als er een leugen wordt verteld, deze een duidelijk, onveranderlijk spoor van bewijs achterlaat, zodat menselijke experts deze kunnen vinden en kunnen aanwijzen. Het verandelt de "black box" van AI in een "glass box" waar alles zichtbaar en controleerbaar is.

Technisch Samenvatting: CANONIC — Governance Is Compilatie

Probleemstelling

Het paper behandelt de crisis van "slop" in het tijdperk van Large Language Models (LLM's), een term die door Oxford Languages is gedefinieerd als het Woord van het Jaar 2025 om AI-gegenereerde proza te beschrijven dat weliswaar vloeiend is, maar niet gegrond. Het kernprobleem is een asymmetrie: LLM's genereren inhoud met snelheden die de menselijke verificatie overtreffen, en hun outputs zijn geoptimaliseerd voor plausibiliteit in plaats van waarheid. Wanneer trainingsdata schaars of betwist is, produceren modellen inhoud die stilistisch bekwaam is, maar referentieel losgekoppeld.

Bestaande verdedigingsmechanismen falen omdat ze post-hoc opereren (na de generatie) en de verkeerde vragen stellen; detectietools signaleren auteurschap in plaats van herkomst; en menselijke beoordeling kan niet opschalen naar het volume van de generatie. Cruciaal is dat het paper betoogt dat "slop" in de operationele zin (inhoud die een expert als ongegrond beschouwt) geen eigenschap is die een algoritme kan berekenen. Het is een oordeel van domeinexpertise. Daarom kan een governance-systeem niet betrouwbaar "slechte" inhoud filteren voordat deze wordt toegelaten; het kan alleen garanderen dat toegelaten inhoud structureel verantwoording aflegt.

Methodologie: Governance als Compilatie

CANONIC herformuleert governance niet als een kwaliteitsfilter, maar als een compiler. Net zoals een compiler beslist of een programma welgevormd is op basis van syntaxis, scope en types voordat het wordt uitgevoerd, beslist CANONIC of een digitaal artefact toelaatbaar is tot een corpus op basis van structurele welgevormdheid voordat het wordt gepubliceerd.

Het framework is gebouwd op drie axioma's die één-op-één mappen op compiler-theorie:

Triade (Syntaxis): Een beheerde eenheid (een "scope", gedefinieerd als een directory) moet drie specifieke bestanden bevatten:
- CANON.md: De normatieve regels (wat moet waar zijn).
- VOCAB.md: De semantische definities (wat termen betekenen).
- README.md: De beschrijvende context (wat de scope is).
- Mechanisme: Als een bestand ontbreekt, is de scope structureel malafide en wordt deze afgewezen.
Overerving (Scope Resolutie): Scopes bestaan in een hiërarchie. Elke CANON.md moet een bovenliggende scope declareren, eindigend bij een root. Geërfde regels zijn definitief en kunnen niet worden overschreven door onderliggende scopes.
- Mechanisme: Dit voorkomt fragmentatie van autoriteit en zorgt voor een stabiele keten van commando voor regels.
Introspectie (Type Systeem): De VOCAB.md moet elk concept definiëren dat wordt gebruikt in CANON.md en in zichzelf.
- Mechanisme: Dit zorgt voor vocabulaire-closure. Elke term in een beheerde bewering moet oplossen naar een definitie binnen de overervingsketen van de scope.

De Toelatingsprocedure:
Claims passeren drie structurele poorten:

Vocabulaire Poort: Gebruikt de claim alleen termen die gedefinieerd zijn in VOCAB.md?
Bewijspoort: Citeert de claim een specifieke entry in een append-only, git-verankerde ledger?
Scope Poort: Valt de geciteerde bewijsvoering binnen het gedevereerde bewijsvenster?

Het systeem werkt via een AI-First, Human-Governed loop: Mensen declareren de CANON (regels) en bevriezen de LEDGER (bewijs), terwijl AI-agenten artefacten produceren die worden gevalideerd tegen de CANON. Gevalideerde artefacten worden opgenomen in de LEDGER. Cruciaal is dat AI kan observeren en produceren, maar niet de CANON of de LEDGER kan wijzigen; alleen mensen kunnen canoniseren.

Belangrijkste Bijdragen

Herformulering van Governance als Compilatie: Het paper stelt voor dat toelating een beslisbare, lineaire-tijd beslissing moet zijn over welgevormdheid (structurele validiteit) bij de grens van het corpus, onderscheiden van oordelen over waarheid of kwaliteit.
De Drie Axioma's: Het vestigt de Triade, Overerving en Introspectie als een voldoende basis voor governance, waarbij bewezen wordt dat zij onafhankelijk en essentieel zijn.
Beslisbare Toelating: Het specificeert validate(scope) (Algoritme 1), en bewijst dat structurele toelating beslisbaar is in lineaire tijd, $O(n)$ , wat een mechanische pass/fail maakt in plaats van een subjectieve beoordeling.
Git-Verankerde Constructie: Het framework werd gebouwd en gevalideerd over een periode van één maand (29 dec. 2025 – 30 jan. 2026), resulterend in 10 repositories en 20 beheerde scopes, allen verankerd aan publieke git-commits.
Adversariële Evaluatie: Er is een vooraf geregistreerde, cross-provider benchmark uitgevoerd om te meten wat de poorten wel en niet kunnen doen.

Resultaten

Het paper presenteert een kritieke bevinding met betrekking tot de grenzen van geautomatiseerde governance:

Structurele Toelating is Onafhankelijk van Waarheid: In een cross-provider benchmark (met gebruik van DeepSeek, OpenAI en Anthropic modellen) vertoonde de structurele toelatingspoort (de drie axioma's) een Matthews correlatiecoëfficiënt ( $\phi$ $ϕ$ ) van ongeveer 0.0 met de inhoudelijke waarheid.
- De poort wijst onverankerde inhoud succesvol af (ongedefinieerde termen, ontbrekend bewijs).
- Echter, het kan geen onderscheid maken tussen een ware claim en een gefabriceerde claim als de fabricage structureel solide is (bijv. een gefabriceerde citatie die in de ledger bestaat, of een circulaire definitie).
Semantisch Oordeel is Beperkt: Een frontier semantische judge presteerde goed op generieke inhoud ( $\phi=0.87$ ), maar stortte in bij nieuwe, specifieke domeinen ( $\phi=0.02$ ) en slaagde er niet in om geavanceerde adversariële slop (vloeiende fabricage, gefabriceerde data) te detecteren.
Het Oordeel van Expertise: Het paper concludeert dat geen enkele tekstuele poort betrouwbaar onderscheid kan maken tussen betrouwbare en onbetrouwbare inhoud, omdat de meest gevaarlijke fouten (gefabriceerde data, vloeiende fabricage) oppervlakkig legitiem zijn. Het oordeel over "slop" blijft een kwestie van domeinexpertise.

Wat CANONIC Bereikt:
Hoewel het niet in staat is om "onware" inhoud te filteren, filtert het succesvol "onverantwoorde" inhoud eruit. Elke toegelaten claim is verankerd aan een definitie, een git-commit en een gedevereerd bewijsvenster. Dit creëert een controleerbare ledger waar domeinexperts kunnen convergeren, betwisten en claims kunnen intrekken, zelfs als de claims aanvankelijk onwaar zijn.

Betekenis en Claims

De primaire betekenis van het paper ligt in de verschuiving van het doel van AI-governance van filteren (wat het argument is dat algoritmen niet betrouwbaar kunnen doen) naar verantwoording.

De Kernclaim: CANONIC maakt slop niet ontoelaatbaar; het maakt inhoud verantwoord. Het garandeert dat het record auditeerbaar is.
De Grens: Het framework begrenst expliciet het "onverantwoorde", niet het "onware". Een onware claim die perfect verankerd is, compileert; een ware claim die onverankerd is, wordt afgewezen.
Zelf-toepassing: Het framework is zelfverwijzend; het paper zelf, de governance-regels en de validators zijn allemaal beheerde artefacten die onderworpen zijn aan dezelfde axioma's.
Infrastructuur: Het demonstreert dat een governance-laag kan worden gebouwd op bestaande commodity-infrastructuur (GitHub) door het platform te behandelen als een substraat voor versiebeheerbare onveranderlijkheid en distributie, waarbij enkel een validatielaag nodig is.

Het paper concludeert dat de rol van de machine het onderhouden van de bron van waarheid (de ledger) is, terwijl de rol van de menselijke expert het vellen van het oordeel over de inhoud binnen die ledger is. Deze scheiding maakt schaalbare, door machine ondersteunde productie mogelijk zonder het vermogen om de herkomst van elke claim te auditeren en te verifiëren op te offeren.