Mapping General-Purpose AI Governance in Twenty AI Middle-Power Jurisdictions
Dit artikel brengt de governance-frameworks voor GPAI van twintig middenmacht-jurisdicties in kaart en onthult dat zij, hoewel zij breed convergeren wat betreft regulatoire vormen binnen cruciale verantwoordelijkheidsgebieden, significant uiteenlopen in handhavingskracht, waarbij de meesten vertrouwen op niet-bindende maatregelen, bestaande mandaten op de applicatielaag en observationele capaciteiten in plaats van het opleggen van bindende plichten aan modelontwikkelaars.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een wereld voor waarin de krachtigste kunstmatige intelligentiesystemen in slechts twee plaatsen worden gebouwd, maar hun effecten doorwerken in elk land op aarde. Deze systemen, bekend als algemene AI, zijn geen eenvoudige hulpmiddelen die ontworpen zijn voor één specifieke taak zoals het sorteren van post of het herkennen van gezichten. In plaats daarvan zijn het enorme, flexibele motoren die bijna alles kunnen leren, van het schrijven van code tot het simuleren van biologische processen. Omdat ze zo aanpasbaar zijn, brengen ze unieke risico's met zich mee: ze zouden gebruikt kunnen worden om gevaarlijke wapens te creëren, cyberaanvallen te lanceren of zich op manieren te gedragen die mensen niet kunnen stoppen. Hoewel de bedrijven die deze systemen bouwen geconcentreerd zijn in een paar landen, moet de rest van de wereld nog uitzoeken hoe ze ermee moeten samenleven. Dit is de uitdaging waar wat onderzoekers "AI-middenmachten" noemen voor staan: landen die deze grensmodellen zelf niet bouwen, maar wel moeten bepalen hoe de regulering van het gebruik, de verkoop en de monitoring ervan binnen hun grenzen verloopt.
Een team van onderzoekers zette zich scharpe schijn om in kaart te brengen hoe twintig van deze landen dit probleem aanpakken. Ze keken niet naar brede politieke verklaringen of vage beloften. In plaats daarvan duiken ze diep in de werkelijke wetten, regelgevingen en officiële richtlijnen om te zien welke regels er precies zijn opgeschreven. Ze concentreerden zich op vier specifieke gebieden waar veiligheid gewaarborgd moet worden: het controleren op grootschalige risico's voordat een systeem wordt vrijgegeven, het testen en verifiëren van wat een systeem daadwerkelijk kan doen, het verbieden van gevaarlijke toepassingen of capaciteiten, en het rapporteren van ernstige incidenten wanneer deze zich voordoen. Door de kleine lettertjes van honderden documenten te lezen, schetsen zij een gedetield beeld van het wereldwijde landschap van AI-governance.
Wat ze vonden, was een verhaal van vorm zonder kracht. Over de twintig onderzochte landen heen is er een duidelijke overeenstemming over de vorm van de regels. Bijna elk land probeert dezelfde vier veiligheidsgebieden aan te pakken. Ze praten allemaal over risicobeoordelingen, testen, verboden en rapportage. Echter, ze slagen er niet in om die regels bindend te maken. De onderzoekers ontdekten dat hoewel veel landen deze vereisten hebben opgeschreven, zeer weinig landen ze hebben omgezet in bindende wetten die daadwerkelijk kunnen worden gehandhaafd. Sterker nog, slechts ongeveer 22 procent van de gevonden regels is geschreven in harde wetgeving. De rest bestaat uit zachte richtlijnen, strategieën of vrijwillige codes die bedrijven kunnen negeren. Nog opmerkelijker is dat wanneer landen wel bindende wetten aannemen, ze vaak niet definiëren wat een "algemene AI" precies is. Ze creëren regels voor een categorie technologie zonder duidelijk te zeggen wat die categorie inhoudt. Dit laat een gat achter waarbij een bedrijf zou kunnen aanvoeren dat zijn nieuwe krachtige model niet onder de definitie valt en daarom niet aan de regels hoeft te voldoen.
De manier waarop deze landen hun regels handhaven, onthult een andere laag van complexiteit. Meestal zijn de regels niet gericht op de bedrijven die de AI-modellen bouwen. In plaats daarvan richten de wetten zich op de mensen die de modellen gebruiken, de platforms die ze hosten, of de overheidsinstanties die ze kopen. Dit komt doordat de landen in de studie niet de thuisbasis zijn van de bedrijven die de meest geavanceerde AI bouwen. Zij kunnen die buitenlandse bouwers niet gemakkelijk dwingen hun code te wijzigen of zich te onderwerpen aan inspecties. Daarom proberen ze de technologie te controleren door de wijze waarop deze in hun eigen markten wordt ingezet te reguleren. Een land kan bijvoorbeeld een bank verplichten om een AI-tool te testen voordat deze wordt gebruikt, of een ziekenhuis verplichten om te rapporteren als een AI een fout maakt. Hoewel deze aanpak praktisch is, betekent het dat het veiligheidsnet vaak rond de toepassing van de technologie wordt geweven in plaats van rond de technologie zelf.
De onderzoekers keken ook naar wie de controles uitvoert. In veel gevallen zijn de organen die verantwoordelijk zijn voor het testen van AI dezelfde instanties die voor andere doeleinden zijn opgericht, zoals het reguleren van de financiële sector of het beschermen van gegevens. Deze bestaande instanties worden gevraagd om AI-toezicht op zich te nemen zonder dat zij altijd over de specifieke technische macht beschikken om dat te doen. Bovendien missen de nieuwe veiligheidsinstituten die sommige landen hebben opgericht om AI te evalueren vaak de autoriteit om een gevaarlijk systeem te stoppen als ze er een vinden. Ze kunnen het risico meten en een rapport publiceren, maar ze kunnen de ontwikkelaar niet dwingen het probleem op te lossen. Het is alsover een brandweer een gebouw kan meten hoe heet het is en een rapport kan schrijven over het gevaar, maar geen macht heeft om de eigenaar te bevelen sprinklers te installeren of het gebouw te sluiten.
Misschien wel de meest significante bevinding betreft het rapporteren van incidenten. Wanneer er ernstige schade optreedt, wie moet er dan de autoriteiten informeren? De studie vond dat de helft van de ondervraagde landen helemaal geen regel heeft die iemand verplicht om een ernstig AI-incident te melden. In de landen die wel dergelijke regels hebben, zijn de instructies vaak incompleet. Een regel kan zeggen "rapporteer een incident", maar vergeet te vermelden aan wie er gerapporteerd moet worden, hoe snel dit moet gebeuren, of wat er gebeurt als er niet gerappeerd wordt. Zonder deze vier elementen — de ontvanger, de trigger, de deadline en de consequentie — is een rapportageregel slechts een suggestie. De onderzoekers merkten op dat dit een blinde vlek achterlaat: als een AI-systeem faalt op een manier die geen directe datalekken of financiële verliezen veroorzaakt, wordt het misschien nooit gerapporteerd, zelfs niet als de langetermijnschade ernstig is.
Het artikel daagde ook het idee uit dat meer wetten gelijkstaan aan betere veiligheid. Sommige landen hebben tientallen documenten en richtlijnen geproduceerd, wat een dikke laag papierwerk creëert. Toch, toen de onderzoekers naar de juridische kracht achter die documenten keken, ontdekten ze dat veel ervan niet-bindend waren. Daartegenover stonden enkele landen met minder documenten die strikte, afdwingbare wetten hadden aangenomen. De studie toonde aan dat het aantal regels dat een land heeft, een slechte indicator is voor hoe veilig de AI-omgeving van dat land daadwerkelijk is. Wat telt, is of de regels zo zijn geschreven dat ze afdwingbaar zijn en of ze de juiste mensen bereiken.
Uiteindelijk toont de kaart die deze research heeft getekend een wereld die probeert een technologie in te halen die sneller beweegt dan haar wetten. De twintig landen zijn het eens over de vocabulaire van veiligheid — ze weten allemaal dat ze risico's moeten beoordelen, systemen moeten testen, slecht gebruik moeten verbieden en incidenten moeten rapporteren. Maar ze zijn het nog niet eens over de kracht van die woorden. De regels zijn vaak vaag, de definities ontbreken en de handhavingsmechanismen zijn zwak. De onderzoekers suggereren dat voordat de wereld kan instemmen met een enkele set internationale regels, deze individuele landen eerst de gaten in hun eigen systemen moeten dichten. Ze moeten precies beslissen wat ze reguleren, hun veiligheidsinstanties de macht geven om op te treden, en ervoor zorgen dat wanneer er iets misgaat, er daadwerkelijk iemand verantwoordelijk kan worden gehouden. Tot die tijd blijft het wereldwijde veiligheidsnet voor kunstmatige intelligentie vol gaten, geweven uit goede intenties maar zonder de kracht om het gewicht te dragen van de technologie die het bedoeld is te beschermen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.