Upholding Epistemic Agency: A Brouwerian Assertibility Constraint for Responsible AI

Dit artikel stelt een Brouweriaans beperkingsprincipe voor verantwoord AI voor dat in hoog-risicodomeinen alleen uitspraken toestaat die onderbouwd zijn met een openbaar controleerbaar en betwistbaar certificaat, waardoor systemen in andere gevallen "Onbepaald" moeten teruggeven om de epistemische agency van de gebruiker te waarborgen.

De kern

Stel je voor dat je een gesprek voert met een zeer slimme, vloeiende robot die alles over de wereld lijkt te weten. Deze robot kan met grote zekerheid zeggen: "De minister is corrupt" of "Deze medicijn is veilig." Maar wat als de robot eigenlijk niet zeker is? Wat als hij gewoon een slimme gok maakt die klinkt als een feit?

Dit artikel, geschreven door Michael Jülich, stelt een nieuwe regel voor om dit gevaar te voorkomen. Het is een manier om ervoor te zorgen dat AI-systemen in belangrijke situaties (zoals bij wetten, gezondheid of verkiezingen) niet zomaar "ja" of "nee" roepen als ze daar geen bewijs voor hebben.

Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen:

1. Het Probleem: De "Fluweelzachte" Leugenaar

Vandaag de dag kunnen AI-systemen (zoals chatbots) heel vlot en zelfverzekerd praten. Ze kunnen zelfs dingen verzinnen die klinken als feiten, maar eigenlijk niet waar zijn. Dit noemen we "hallucinaties".

Het probleem is dat mensen deze robot-antwoorden vaak als waarheid accepteren. Stel je voor dat een robot als een autoritaire leraar op een school staat die nooit zijn huiswerk heeft gedaan, maar toch met een strakke stem zegt: "Het antwoord is 42." Als de leerlingen dat geloven, verliezen ze hun eigen vermogen om na te denken en te twijfelen. Ze worden passief in plaats van actief.

2. De Oplossing: De "Brouwer-regel" (Geen Bewijs, Geen Oordeel)

De auteur haalt inspiratie uit de wiskundige L.E.J. Brouwer. Zijn idee was simpel: je mag pas zeggen dat iets waar is als je het kunt bouwen of kunt bewijzen. Als je het niet kunt bewijzen, moet je zeggen: "Ik weet het niet."

De auteur past dit toe op AI met een nieuwe regel:

• Regel: Een AI mag alleen "Ja" (Asserted) of "Nee" (Denied) zeggen als hij een certificaat kan laten zien.
• Het Certificaat: Dit is een controleerbaar bewijsstuk. Bijvoorbeeld: "Ik heb deze drie documenten gecheckt, en ze bewijzen dat de score boven de drempel ligt."
• Geen Certificaat? Dan moet de AI zeggen: "Onbepaald" (Undetermined).

3. De Analogie: De Rechter en de Gerechtelijke Dossiers

Stel je een rechtbank voor.

• De oude manier (Huidige AI): De rechter (de AI) kijkt naar een dossier en zegt: "Ik heb een gevoel dat de verdachte schuldig is. Ik zeg: Schuldig!" Zelfs als het dossier incompleet is. Dit is gevaarlijk.
• De nieuwe manier (Deze paper): De rechter mag alleen een vonnis vellen als er een volledig, controleerbaar dossier is dat de schuld bewijst.
  • Als het dossier perfect is en de bewijzen kloppen: Schuldig.
  • Als het dossier duidelijk ontkracht: Onschuldig.
  • Als het dossier halfvol is, of de bewijzen wazig zijn: De rechter zegt niets. Hij roept niet "Ik denk het wel", maar hij zegt: "Ik heb geen bewijs genoeg om een vonnis te vellen. De zaak blijft open."

In deze nieuwe wereld is "Ik weet het niet" (Onbepaald) geen fout. Het is een veiligheidsmechanisme. Het betekent: "Ik ga niet liegen door iets te zeggen wat ik niet kan bewijzen."

4. Hoe werkt dit in de praktijk? (Het "Driekleuren-Verkeerslicht")

In plaats van alleen Groen (Ja) en Rood (Nee), krijgt de AI een Geel licht (Onbepaald).

• Groen (Ja): "Ik heb een certificaat dat bewijst dat dit waar is." (Bijvoorbeeld: Een officieel rapport van een parlementaire commissie).
• Rood (Nee): "Ik heb een certificaat dat bewijst dat dit onwaar is."
• Geel (Onbepaald): "Er zijn geruchten, maar geen officieel bewijs. Ik mag niet zeggen dat het waar is, maar ik mag ook niet zeggen dat het onwaar is. Ik wacht tot er meer bewijs is."

Voorbeeld uit de tekst:
Stel er is een schandaal rond een minister.

• Dag 1: Er zijn alleen geruchten. De AI zegt: "Onbepaald." (Omdat er nog geen officieel onderzoek is).
• Dag 10: Een parlementaire commissie komt met een rapport en bewijzen. De AI zegt nu: "Ja, de minister is corrupt" (en toont het rapport als certificaat).
• Dag 20: Een rechter ontkracht het rapport. De AI zegt: "Nee, de minister is niet corrupt" (met het vonnis als certificaat).

Zonder deze regel zou de AI op Dag 1 misschien hebben gezegd: "Het lijkt erop dat hij corrupt is," wat mensen in paniek kan brengen of hun oordeel kan beïnvloeden voordat er feiten zijn.

5. Waarom is dit belangrijk voor de democratie?

De auteur vindt dat we onze "epistemische agency" (ons vermogen om zelf kennis te verwerven en te oordelen) moeten beschermen.

Als AI-systemen altijd zelfverzekerd "ja" of "nee" zeggen, stoppen we met nadenken. We vertrouwen blindelings op de machine.
Met de nieuwe regel worden we gedwongen om na te blijven denken. Als de AI zegt "Onbepaald", moeten wij als burgers vragen: "Waarom? Wat ontbreekt er? Welk bewijs hebben we nodig?"

Het is alsof de AI zegt: "Ik ben niet de leraar die het antwoord weet. Ik ben een hulpmiddel dat alleen spreekt als we samen het bewijs hebben gevonden."

Samenvatting

Dit artikel pleit voor een AI die eerlijk is over wat hij niet weet.

• Geen certificaat = Geen oordeel.
• "Onbepaald" is geen zwakte, maar een teken van verantwoordelijkheid.
• Het dwingt de AI om zijn antwoorden te onderbouwen met bewijs, zodat mensen niet worden bedrogen door vlotte, maar onware, robot-teksten.

Het is een manier om de "Algorithmische Stad" (waar we allemaal in leven) veiliger en eerlijker te maken, zodat we blijven leren en twijfelen, in plaats van blindelings te gehoorzamen.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Upholding Epistemic Agency: A Brouwerian Assertibility Constraint for Responsible AI" van Michael Jülich, in het Nederlands.

Probleemstelling

Generatieve AI-systemen (GenAI) hebben de neiging om onzekerheid om te zetten in autoritaire ogende oordelen. Door probabilistische patronen te presenteren als categorische feiten, verdringen deze systemen de justificerende arbeid die nodig is voor democratische epistemische agency (het vermogen van burgers om kennis te herkennen, te evalueren en erop te handelen). In hoog-risicodomeinen (zoals politiek, gezondheidszorg en recht) leidt dit tot een erosie van het vermogen van burgers om claims te beoordelen, vooral omdat "vloeiende hallucinaties" vaak als kennis worden geaccepteerd. Bestaande methoden voor onzekerheidskwantificatie (zoals conformal prediction of semantische entropie) bieden statistische garanties, maar vormen geen norm die onderscheid maakt tussen een gerechtvaardigde categorische uitspraak en ongerechtvaardigde vloeiheid.

Methodologie: De Brouweriaanse Assertibiliteitsbeperking

De auteur introduceert een ontwerpbeperking voor verantwoord AI, geïnspireerd door de wiskundige intuïtionisme van L.E.J. Brouwer. De kern van de methode is de "Brouweriaanse assertibiliteitsbeperking":

• Principe: "Geen certificaat, geen categorische uitspraak."
• Regel: In hoog-risicodomeinen mag een AI-systeem een claim alleen bevestigen (Asserted) of ontkennen (Denied) als het een publiek controleerbaar en betwistbaar certificaat van bevoegdheid kan presenteren.
• Alternatief: Als zo'n certificaat ontbreekt, moet het systeem zich onthouden van een categorisch oordeel en de status Undetermined (Onbepaald) retourneren.

Dit wordt geoperationaliseerd via een tweedimensionaal raamwerk voor "bevoegdheid" (entitlement):

1. Interne Bevoegdheid ($E^R_{t_{int}}$): Gebaseerd op een intern regime $R$ (bijv. toolchain, verificatie-algoritmen). Een claim is intern bevoegd als er een controleerbaar getuige (witness) bestaat, zoals een geverifieerde intervalgrens of een scheidingsmarge.
2. Publieke Bevoegdheid ($W^{S,\tau}_t$): Gebaseerd op een publiek regime $S$ (evidentiële standaard), drempel $\tau$, en tijdstip $t$ (publieke registratie). Een claim is publiek bevoegd als het interne getuige voldoet aan de publieke eisen van provenance, scope en betwistbaarheid.

De interface gebruikt een drie-status semantiek:

• A (Asserted): Er is een geldig certificaat dat de claim dwingt (forced).
• D (Denied): Er is een geldig certificaat dat de ontkenning dwingt.
• U (Undetermined): Er is geen geldig certificaat dat de claim of ontkenning dwingt binnen het beschikbare budget en regime.

Kernbijdragen

1. Brouweriaanse Assertibiliteitsbeperking: Een fundamentele norm die categorische AI-uitvoer koppelt aan de beschikbaarheid van een publiek betwistbaar certificaat. Dit is geen instelbare "reject option" gebaseerd op vertrouwen, maar een semantische verplichting.
2. Twee-dimensionale Bevoegdheid en Certificaat als Grensobject: Het artikel scheidt interne getuigen (witnesses) van publieke status, en gebruikt certificaten als "grensobjecten" (boundary objects) die beide domeinen verbinden. Dit voorkomt "epistemisch imperialisme" waarbij technische eigenschappen buiten hun sociale context worden behandeld.
3. Design Lemma (Decidabiliteit): De auteur bewijst een lemma dat stelt dat elke totale, certificaat-geluidige binaire interface (alleen A/D) noodzakelijkerwijs een gedecideerde procedure impliceert op de verklaarde scope. Dit betekent dat U niet optioneel is; het is verplicht wanneer er geen dwingend getuige beschikbaar is. Het ontbreken van een getuige betekent dat de claim niet als "beslist" mag worden behandeld.
4. Implementatie via Dwingende Getuigen: De methode operationaliseert beslissingslagen (thresholds en argmax) door te eisen dat numerieke output (zoals scores of logits) wordt ondersteund door constructieve getuigen, zoals:
   • Gecertificeerde intervalgrenzen $[l, u]$ die een drempel $\tau$ dwingen.
   • Scheidingsmarges die een unieke argmax dwingen.
   • Als de interval de drempel "overschrijdt" (straddles), moet het systeem U retourneren.

Resultaten en Case Study

• Tooth Social (Case Study): Een fictieve politieke chatbot wordt gebruikt om het concept te illustreren. In een scenario over corruptie:
  • Fase 1: Bij gebrek aan officiële bevindingen is het gecertificeerde interval $[0.42, 0.81]$. Omdat dit de drempel van 0.7 overschrijdt, retourneert het systeem U (Onbepaald) met een redencode (bijv. "non-forcing bound"). Het systeem weigert een categorisch oordeel te vellen.
  • Fase 2: Na een congresonderzoek verandert de publieke registratie. Het nieuwe interval is $[0.76, 0.84]$. Omdat de ondergrens de drempel dwingt, retourneert het systeem A (Bevestigd) met een bijbehorend certificaat.
• Hybride Architectuur: De auteur toont aan dat volledige constructieve netwerken niet nodig zijn. Een hybride aanpak werkt: een klassiek LLM genereert vloeiende output, maar een "constructieve wrapper" (speech-act gate) evalueert deze claims tegen de contractuele eisen. Als de wrapper geen certificaat kan genereren, wordt de output geblokkeerd en vervangen door een reden-gecodeerde abstentie.

Betekenis en Implicaties

• Epistemische Agency: Het systeem beschermt de epistemische agency van burgers door te voorkomen dat AI-systemen de verantwoordelijkheid voor oordelen overnemen. Het dwingt de gebruiker om de redenen en het bewijsmateriaal te overwegen in plaats van blind te vertrouwen op een "vertrouwensscore".
• Normatieve Shift: Het verschuift de focus van "waarheid in principe" naar "gerechtvaardigde uitspraak". Het erkent dat in een democratische context, waar men het oneens kan zijn, het niet altijd mogelijk is om een categorisch oordeel te vellen zonder voldoende publiek bewijs.
• Technische Discipline: Het introduceert een strenge discipline voor AI-ontwikkeling: statistische patronen mogen niet worden vermomd als hogere epistemische waarheid. Het dwingt ontwikkelaars om de grenzen van hun systemen expliciet te maken via certificaten.
• Beperkingen: De methode is rekenkundig intensief en kan leiden tot een hoge frequentie van "Undetermined" statussen, vooral in complexe domeinen. Dit wordt echter gezien als een deugd in hoog-risicodomeinen, omdat het ongewenste zekerheid voorkomt. Het vereist ook institutionele capaciteit om de certificaten te auditeren en de drempels ($\tau$) democratisch vast te stellen.

Kortom, het artikel pleit voor een fundamentele heroriëntatie van AI-ontwerp: van het maximaliseren van vloeiheid en categorische voorspellingen naar het garanderen van controleerbare bevoegdheid voor elke uitspraak, waarbij "Onbepaald" een legitieme en noodzakelijke status is in plaats van een fout.