Administrative Law's Fourth Settlement: AI and the Scrutable State

Stel je de overheid voor als een enorme, complexe machine die is ontworpen om grote problemen op te lossen, zoals het oplossen van verkeersproblemen, de lucht schoon houden of mensen helpen wanneer ze ziek worden. Al een lange tijd hebben de mensen die deze machine aansturen (de experts in overheidsinstanties) een lastige baan. Ze moeten superintelligent zijn en geavanceerde hulpmiddelen gebruiken om ingewikkelde problemen op te lossen, maar als ze té slim worden en hulpmiddelen gebruiken die te moeilijk te begrijpen zijn, kunnen gewone mensen en de rechters die hen controleren niet meer zien wat er gebeurt. Het is als een goochelaar die een konijn uit een hoed tovert: als de truc te complex is, begint het publiek zich af te vragen: "Is het echt? Is het eerlijk? Wie doet dit eigenlijk?"

Dit artikel onderzoekt een beroemd probleem in de overheid genaamd de "capaciteits-verantwoordelijkheidsval" (capability-accountability trap). "Capaciteit" betekent het vermogen van de overheid om moeilijk, technisch werk te verrichten. "Verantwoordelijkheid" (accountability) betekent het vermogen van het publiek om dat werk te begrijpen en te controleren. Al meer dan een eeuw geldt dat telkens wanneer de overheid beter werd in het doen van moeilijk werk (zoals het gebruik van computers of statistiek), het voor gewone mensen moeilijker werd om te begrijpen hoe het werkte. Om dit op te lossen, begon de overheid veel papierwerk en regels (procedures) toe te voegen om te bewijzen dat ze eerlijk waren. Maar nu is er zoveel papierwerk dat de overheid traag, verwarrend en moeilijk te corrigeren is. Het artikel betoogt dat de overheid momenteel probeert zichzelf te verkleinen om het makkelijker begrijpelijk te maken, maar dat dit de overheid te zwak kan maken om nieuwe, angstaanjagende problemen zoals klimaatverandering of pandemieën op te lossen. De grote vraag is: kunnen we een nieuw hulpmiddel genaamd Kunstmatige Intelligentie (AI) gebruiken om de overheid tegelijkertijd superintelligent én supertransparant te maken?

---

Het Verhaal van de Groeipijnen van de Overheid

Dit artikel vertelt het verhaal van hoe de Amerikaanse overheid de afgelopen 140 jaar heeft geprobeerd haar eigen hersenkracht te beheren. Het betoogt dat telkens wanneer er een nieuwe technologie arriveert, de overheid een "groeispurt" krijgt in haar vermogen om dingen te doen, maar ook een "mist" creëert die het voor gewone mensen moeilijk maakt om te zien wat er aan de hand is.

De Eerste Drie Schikkingen (De Oude Manieren)
De auteur volgt drie belangrijke momenten in de geschiedenis waarop de overheid moest adapteren:

1. Het Spoorwegtijdperk: Toen treinen voor het eerst door het land raasden, waren ze te snel en complex voor lokale rechters om te begrijpen. De overheid creëerde deskundige commissies (zoals de ICC) om hen te beheren. Om deze experts in toom te houden, bepaalde de wet: "U moet een verslag bijhouden en uw redenen uitleggen." Dit werkte, maar het zette een trend in gang van het steeds meer toevoegen van regels.
2. De Grote Depressie: Toen de economie instortte, moest de overheid miljoenen mensen tegelijkertijd helpen. Ze gebruikten nieuwe statistische instrumenten en ponskaartmachines om de sociale zekerheid en andere programma's te beheren. Maar omdat deze beslissingen zoveel mensen beïnvloedden, konden gewone mensen de wiskunde niet begrijpen. De oplossing was de Administrative Procedure Act (APA), die zei: "Zolang u de juiste stappen volgt en een papieren spoor achterlaat, zit het goed."
3. Het Computertijdperk: Toen computers arriveerden om zaken zoals luchtvervuiling en nucleaire veiligheid te beheren, werden de problemen nog wetenschappelijker. De overheid begon complexe modellen te gebruiken. De rechtbanken, die beseften dat ze de wetenschap niet begrepen, besloten simpelweg te controleren of de overheid de regels volgde. Dit leidde tot de beroemde Chevron-beslissing, die in feilen kort zei: "Als de wet onduidelijk is, vertrouwen we de experts om het uit te zoeken, zolang ze maar een goede reden hebben."

De Huidige Crisis: De "Sedimentaire Staat"
Nu bevinden we ons in een vreemde positie. De overheid verdrinkt in papierwerk. Elke keer als er een nieuwe regel werd toegevoegd om zaken eerlijk te maken, stapelde deze zich op bovenop de oude regels, zoals lagen sedimentair gesteente. Deze "sedimentaire staat" heeft de overheid traag en verwarrend gemaakt.

• Het Probleem: De overheid zit zo verstikt in regels dat ze niet snel genoeg kan bewegen om nieuwe problemen op te lossen.
• De Terugslag: Onlangs zijn de Hoge Raad en de President begonnen met het afbreken van deze deskundige instanties. Ze zeggen: "We kunnen niet begrijpen wat deze experts doen, dus gaan we hen verkleinen tot een omvang die we wel kunnen zien." Ze nemen beschermingen voor onafhankelijke experts weg en leggen meer macht terug bij de President of de rechtbanken.
• Het Risico: Het artikel waarschuwt dat dit een slecht idee is. Door de overheid kleiner en eenvoudiger te maken enkel om "scruutabel" (makkelijk te doorgronden) te zijn, kunnen we het vermogen verliezen om de enorme, complexe problemen waar we vandaag de dag voor staan, zoals klimaatverandering of nieuwe ziekten, op te lossen.

De Nieuwe Oplossing: De "Vierde Schikking" met AI

De auteur suggereert dat we niet hoeven te kiezen tussen een slimme overheid en een transparante overheid. Dankzij Kunstmatige Intelligentie kunnen we wellicht beide hebben.

AI als de "Vertaler" en de "Zaklamp"
Het artikel stelt voor dat AI kan fungeren als een speciaal soort infrastructuur die het complexe werk van de overheid begrijpelijk maakt zonder het simpel te maken.

• Voor het Publiek: Stel je een chatbot voor die een reglement van 200 pagina's over luchtvervuiling kan lezen en het aan jou kan uitleggen in begrijpelijk Nederlands, waarbij precies wordt uitgelegd wat de gevolgen zijn voor jouw gezin.
• Voor de Rechters: Stel je een hulpmiddel voor dat duizenden reacties op een regel kan lezen en de belangrijkste punten kan samenvatten, of kan controleren of de berekeningen van de overheid wel kloppen.
• Het Doel: In plaats van alleen te controleren of de overheid een checklist heeft gevolgd (procedure), zou AI kunnen helpen controleren of de overheid daadwerkelijk het juiste doet (inhoud/substantie).

De Drie Nieuwe Regels voor een AI-Overheid
Om dit te laten werken, stelt het artikel drie nieuwe regels voor voor hoe de overheid AI moet gebruiken:

1. Het "Model en Systeem Dossier" (Het ID-bewijs): Elke keer dat een instantie een AI-systeem gebruikt, moeten ze een gedetailleerd "ID-bewijs" bijhouden. Dit document legt uit wat de AI moet doen, hoe het is getest, welke fouten het kan maken en wie er verantwoordelijk voor is. Het is als een voedingswaardetabel voor een overheidsalgoritme.
2. De "Materiele Modelwijziging" Trigger (Het Update-alarm): AI-systemen veranderen en leren na verloop van tijd. Het artikel stelt dat als een AI-systeem verandert op een manier die de beslissingen aanzienlijk wijzigt (zoals het wijzigen van de manier waarop arbeidsongeschiktheidsuitkeringen worden goedgekeurd), de overheid dit moet aankondigen en uitleggen. Het is alsof je wilt weten dat de motor van een auto plotseling anders loopt voordat je ermee gaat rijden.
3. Deferentie aan Audit (De "Vertrouw maar controleer"-regel): In plaats van dat rechters de complexe wiskunde achter een AI-beslissing proberen te begrijpen, zouden zij moeten controleren of de instantie onafhankelijke experts heeft ingehuurd om de AI te "auditeren". Als de instantie kan aantonen: "We hebben dit grondig getest, en hier is het bewijs dat het eerlijk werkt," dan moeten de rechtbanken dat vertrouwen. Dit verschuift de focus van "Heb je de papierwinkel gevolgd?" naar "Heb je bewezen dat je hulpmiddel veilig en eerlijk is?".

Waarom dit Belangrijk is
Het artikel betoogt dat deze aanpak de "val" kan doorbreken die de overheid al een eeuw in de greep houdt.

• Het suggereert dat AI de kosten van begrip kan verlagen. Nu is het begrijpen van een complexe overheidsbeslissing moeilijk en duur. AI zou dit goedkoop en gemakkelijk kunnen maken.
• Het suggereert dat we uiteindelijk mogelijk kunnen overstappen van het enkel controleren van papierwerk naar het controleren of de AI daadwerkelijk in lijn is met de publieke doelen.
• Het waarschuwt dat dit geen wondermiddel is. Als de AI bevooroordeeld is, of als de overheid AI gebruikt om slechte beslissingen te verbergen (een probleem dat "waarde-witwassen" of value laundering wordt genoemd), hebben we strikte regels nodig om dat te stoppen.

Wat het Papier NIET Zegt
Het artikel is voorzichtig in het niet beloven dat AI alles van de ene op de andere dag zal oplossen.

• Het zegt niet dat AI menselijke rechters of politici zal vervangen. Mensen moeten nog steeds de uiteindelijke beslissingen nemen over grote, morele vragen.
• Het beweert niet dat AI momenteel perfect is in het uitleggen van zichzelf. De technologie staat nog in de ontwikkelingsfase en er zijn risico's zoals "hallucinaties" (waarbij AI feiten verzint).
• Het pleit niet voor het onmiddellijk stoppen van alle oude regels. In plaats daarvan stelt het voor om AI te gebruiken om de regels beter en minder pijnlijk te laten werken.

Het Grote Plaatje

Het verhaal hier is er een van hoop gemengd met voorzichtigheid. De overheid zit momenteel in een cyclus waarin zij probeert haar complexiteit te corrigeren door zichzelf kleiner te maken, wat ons kwetsbaar kan maken voor toekomstige crises. De auteur stelt een ander pad voor: gebruik Kunstmatige Intelligentie niet alleen om het werk te doen, maar om een licht op het werk te schijnen. Door een nieuwe set regels te creëren die transparantie, testen en het auditeren van AI-tools vereisen, kunnen we een overheid bouwen die slim genoeg is om de toekomst aan te kunnen, maar ook helder genoeg om voor iedereen begrijpelijk te zijn. Het is een "Vierde Schikking" die probeert beide te hebben: een overheid die zowel bekwaam als verantwoordelijk is.