Governance in an Institutional Environment Reconfigured by Artificial Intelligence. A Public Choice Institutionalism Perspective

Wanneer we nadenken over het besturen van kunstmatige intelligentie, richt het gesprek zich vaak op de machine zelf. We vragen ons af hoe we deze veilig kunnen bouwen, hoe we ervoor kunnen zorgen dat de code niet functioneert zoals bedoeld, en hoe we kunnen garanderen dat de beslissingen ervan in lijn zijn met menselijke waarden. Dit is als het controleren van de motor van een auto om er zeker van te zijn dat deze soepel loopt. Maar er is een veel grotere, meer diepgaande vraag die vaak over het hoofd wordt gezien. Het gaat niet alleen om de machine; het gaat om de wereld die de machine verandert. Terwijl kunstmatige intelligentie zich verspreidt, zit het niet simpelweg naast onze bestaande wetten en organisaties; het hervormt ze actief. Het dwingt ons om opnieuw na te denken over hoe we regels maken, hoe we verantwoordelijkheid toewijzen en hoe we de samenleving zelf organiseren. De uitdaging is niet langer alleen het repareren van een hulpmiddel; het is het navigeren door een landschap dat onder onze voeten verschuift, waar de essentie van werk, autoriteit en besluitvorming in realtime wordt herschreven.

Dit is het centrale raadsel dat Paul Dragos Aligica, een onderzoeker aan George Mason University, aanpakt. Hij betoogt dat we, om deze nieuwe realiteit te begrijpen, moeten stoppen met het beschouwen van kunstmatige intelligentie als een enkel probleem dat door een enkele autoriteit moet worden opgelost. In plaats daarvan stelt hij voor dat we het moeten zien als een complex ecosysteem waarin veel verschillende groepen, regels en beslissingen met elkaar interageren. Het artikel stelt dat de beste manier om deze verschuivende wereld te beheren, een concept is dat "polycentriciteit" wordt genoemd. In gewone taal betekent dit een systeem waarin veel verschillende machtscentra naast elkaar bestaan, elk met zijn eigen regels en beslissingen te nemen, in plaats van één enkele baas of regering die alles van bovenaf probeert te controleren. Aligica bouwt dit argument op door twee krachtige ideeën te combineren: de studie van hoe mensen keuzes maken wanneer zij verschillende belangen hebben, en de studie van hoe complexe systemen zichzelf organiseren zonder een centrale bevelhebber.

Het artikel begint met een scherp onderscheid tussen twee verschillende soorten problemen. Het eerste is het "smalle" probleem: hoe de kunstmatige intelligentie-artefact zelf te besturen. Dit omvat het technische werk van programmeren, monitoren en ervoor zorgen dat het systeem zich gedraagt zoals bedoeld. Het tweede is het "brede" probleem: hoe de gehele institutionele omgeving te besturen die door de technologie wordt getransformeerd. Aligica stelt dat het brede probleem degene is die er werkelijk toe doet. Wanneer kunstmatige intelligentie een samenleving binnenkomt, ontketent het een kettingreactie. Het verandert de arbeidsverdeling, wat betekent dat sommige taken die mensen voorheen deden nu door machines worden uitgevoerd, terwijl mensen nieuwe, andere rollen op zich nemen. Deze verschuiving is geen eenvoudige vervanging; het creëert een cascade aan effecten die als een rimpeling omhoog door het hele systeem van regels golft.

Om te begrijpen hoe dit rimpeleffect werkt, gebruikt het artikel een logica die vergelijkbaar is met hoe economen de arbeidsverdeling bestuderen. Stel je een fabriek voor waarin een nieuwe machine wordt geïntroduceerd. In het begin neemt de machine de repetitieve, hoog-volume taken over. Maar dit dwingt de menselijke arbeiders om hun werk te veranderen. Ze stoppen misschien met het routineuze werk en gaan zich richten op de uitzonderingen, de moeilijke gevallen of het toezicht op de machine. Deze verandering in menselijke rollen creëert vervolgens een behoefte aan nieuwe regels, nieuwe toezichthouders en nieuwe manieren om geschillen af te handelen. Het artikel beschrijft dit als een "cascade". Een enkele beslissing om kunstmatige intelligentie voor één taak te gebruiken, kan er uiteindelijk toe leiden dat de regels op het hoogste niveau, die bepalen hoe de samenleving beslissingen neemt, herschreven moeten worden. Het beweegt van de dagelijkse operaties van een specifieke taak, omhoog naar de regels die bepalen wie de macht heeft over die taken, en uiteindelijk naar het constitutionele niveau dat bepaalt wie het recht heeft om de regels zelf te veranderen.

Terwijl deze cascade door het systeem beweegt, activeert het bekende menselijke gedragingen die politicologen al decennia bestuderen. Wanneer nieuwe rollen en machten worden gecreëerd, zullen mensen en organisaties proberen deze voor eigen gewin te grijpen. Dit leidt tot "rent-seeking" (rentenieren), waarbij groepen energie besteden aan het proberen te bemachtigen van de voordelen van een nieuwe regel in plaats van waarde te creëren. Het leidt tot "regulatory capture" (regulatoire kaping), waarbij de mensen die verantwoordelijk zijn voor de technologie, uiteindelijk afhankelijk worden van de bedrijven die ze juist zouden moeten reguleren omdat die bedrijven de enige expertise bezitten. Het creëert ook "agency loss" (agentschapsverlies), waarbij de mensen die de leiding zouden moeten hebben, de complexe, ondoorzichtige beslissingen van de machines of de nieuwe bureaucratieën die gebouwd zijn om deze te beheren, niet effectief kunnen monitoren. Het artikel stelt dat dit geen ongelukken zijn; het zijn onvermijdelijke gevolgen van hoe menselijke prikkels werken wanneer de structuur van de samenleving verandert.

Gezien deze complexiteit evalueert het artikel twee hoofdvizies voor hoe deze nieuwe wereld te besturen. De eerste is de "monocentrische" visie. Dit is het idee van een enkele, centrale autoriteit — een wereldwijde regulator of een verenigd verdrag — die één set regels voor iedereen vaststelt. Het is een aantrekkelijk idee omdat het orde, duidelijke verantwoordelijkheid en een enkel punt van aansprakelijkheid belooft. Echter, Aligica betoogt dat deze benadering zowel onrealistisch als gevaarlijk is. Het gaat ervan uit dat één centrum genoeg weet om een technologie te beheren die sneller verandert dan enig enkel land of overheid kan reageren. Het concentreert ook alle macht voor kaping, wat betekent dat de machtigste bedrijven of naties het hele systeem gemakkelijk kunnen kapen om hun eigen belangen te dienen. Bovendien kan een enkele set regels de diepe verschillen in waarden en behoeften in verschillende culturen en samenlevingen niet kunnen accommoderen.

Het alternatief, en degene die het artikel aanmoedigt, is de "polycentrische" visie. Dit is geen chaotische vrijheid zonder regels, maar een gestructureerd systeem waarin veel verschillende besluitvormingscentra gelijktijdig opereren. In dit systeem kunnen verschillende steden, regio's, bedrijven en organisaties verschillende benaderingen proberen voor het besturen van kunstmatige intelligentie. Sommigen geven prioriteit aan snelheid, anderen aan veiligheid, en anderen aan privacy. Deze verschillende centra concurreren met elkaar en leren van elkaar. Als één benadering faalt, kan deze worden losgelaten zonder het hele systeem ten val te brengen. Als één benadering goed werkt, kunnen anderen deze overnemen. Cruciaal is dat dit systeem rust op "interoperabiliteit". Dit betekent dat zelfs als verschillende centra verschillende regels hebben, ze nog steeds met elkaar kunnen communiceren en samenwerken via gedeelde standaarden en overeenkomsten. Het is als een netwerk van onafhankelijke steden die met elkaar handelen en elkaars wetten respecteren zonder dat er een enkele koning nodig is om hen allemaal te regeren.

Het artikel levert een sterk argument dat deze polycentrische benadering niet slechts een theoretisch ideaal is, maar de realiteit die al aan het ontstaan is. De wereld beweegt niet naar één wereldregering voor kunstmatige intelligentie; het beweegt zich al naar een lappendeken van verschillende regels en standaarden. Proberen een enkele, top-down oplossing op deze realiteit af te dwingen, zou een fout zijn. In plaats daarvan moet het doel zijn om dit evoluerende proces te sturen. Het artikel benadrukt dat we niet simpelweg een perfect systeem vanaf nul kunnen ontwerpen en installeren. Het systeem is te complex en de veranderingen gaan te snel. In plaats daarvan moeten we optreden als tuinmannen of navigatoren. We kunnen de condities creëren die goede oplossingen laten groeien en slechte oplossingen laten uitdunnen. We kunnen de bruggen bouwen die verschillende groepen in staat stellen om samen te werken, en we kunnen de ruimte beschermen waar nieuwe ideeën getest kunnen worden.

Uiteindelijk concludeert het artikel dat de beste manier om kunstmatige intelligentie te besturen, is door te accepteren dat we ons in het midden van een langdurig, ontvouwend proces bevinden. We kunnen de uiteindelijke uitkomst niet voorspellen, noch zouden we moeten proberen elk detail te controleren. In plaats daarvan moeten we ons richten op het bouwen van een flexibel kader dat experimenteren, leren en aanpassing mogelijk maakt. Door een polycentrische benadering te omarmen, kunnen we de diversiteit van het menselijk denken en de competitieve druk van verschillende jurisdicties benutten om oplossingen te vinden die werken. We kunnen de risico's van rent-seeking en kap beheersen door ervoor te zorgen dat geen enkele groep alle macht in handen heeft. En we kunnen de legitimiteit van onze regels behouden door ervoor te zorgen dat ze worden gevormd door de mensen die ze raken, in plaats van opgelegd te worden vanuit een afstandelijk centrum. De weg vooruit is niet het bouwen van een perfecte machine om de toekomst te controleren, maar het cultiveren van een veerkrachtig systeem dat kan leren en zich kan aanpassen naarmate de toekomst zich ontvouwt.