Frontier Technologies, Complex Externalities, and the Evolution of Private Order: Implications for AI Governance

Wanneer een nieuwe technologie arriveert, brengt deze zowel een belofte van voordeel als een schaduw van risico met zich mee. Vaak is de ware aard van dat risico verborgen totdat de technologie daadwerkelijk in de echte wereld wordt gebruikt. Dit geldt in het bijzonder voor kunstmatige intelligentie, een hulpmiddel dat de manier waarop we leven, werken en communiceren kan hervormen. Omdat de gevaren zo complex zijn en afhangen van specifieke situaties, is het voor iedereen, inclus ook overheidsfunctionarissen, moeilijk om de perfecte regels te schrijven voordat de technologie zelfs maar is ingezet. De centrale vraag waar de samenleving voor staat is niet alleen hoe we slechte uitkomsten kunnen stoppen, maar hoe we de juiste manieren ontdekken om deze risico's te beheersen naarmate we er meer over leren. Dit houdt het begrijpen van "externaliteiten" in, een term die economen gebruiken om kosten of voordelen te beschrijven die mensen beïnvloeden die geen deel uitmaken van de oorspronkelijke overeenkomst. Wanneer een nieuwe technologie problemen veroorzaakt voor buren of vreemden, zijn die problemen externaliteiten. De uitdaging is dat deze externaliteiten vaak zo verstrengeld en onvoorspelbaar zijn dat geen enkele autoriteit ze vooraf in kaart kan brengen.

Twee onderzoekers, Ali Palida en Nicholas Thielman, besloten een andere invalshoek op dit probleem te verkennen. In plaats van te vragen hoe de overheid kunstmatige intelligentie zou moeten reguleren, vroegen zij zich af hoe overheidsregulering private groepen ervan zou kunnen weerhouden om hun eigen oplossingen te vinden. Zij stellen dat het proces van het gebruiken van een nieuwe technologie een vorm van ontdekking is. Door dingen uit te proberen, leren mensen wat werkt, wat faalt en wie beschermd moet worden. Dit leerproces stelt private groepen — zoals verzekeringsmaatschappijen, veiligheidscertificeerders of zelfs buren die met elkaar onderhandelen — in staat om flexibele regels op te stellen die passen bij de specifieke situatie. De auteurs suggereren dat als de overheid te vroeg ingrijpt met een strikt verbod of een rigide regel, het de experimenten die nodig zijn om de beste manier te vinden om de technologie te besturen, kan blokkeren.

Om dit idee te testen, keken de onderzoekers naar drie historische voorbeelden waarbij nieuwe technologieën met soortgelijke onzekerheden te maken kregen. Het eerste voorbeeld betreft elektriciteit aan het eind van de 19e eeuw. Toen elektrische lampen en stroomkabels voor het eerst werden geïntroduceerd, veroorzaakten ze frequente branden, maar niemand wist precies welke apparaten veilig waren. De overheid greep niet onmiddellijk in om veiligheidsnormen vast te stellen. In plaats daarvan ontstond een private organisatie genaamd Underwriters Laboratories. Deze groep, opgericht door verzekeringsmaatschappijen die bezorgd waren over brandverliezen, begon elektrische apparatuur te testen en haar eigen veiligheidsnormen te creëren. Naarmits zij meer apparaten testten en zagen wat brand veroorzaakte, verfijnden zij hun regels. Hun private systeem werd zo vertrouwd dat steden hun normen in de wet overnamen en fabrikanten hun goedkeuring zochten om producten te verkopen. De auteurs merken op dat dit systeem werkte omdat het flexibel was; het kon veranderen naarmate er nieuwe gevaren werden ontdekt door daadwerkelijk gebruik, in plaats van vast te zitten aan regels die geschreven waren voordat iemand de risico's kende.

Het tweede voorbeeld komt uit de wereld van cyberverzekeringen. Naarmate computers en het internet groeiden, werden hackers een grote bedreiging, maar de aard van deze dreigingen veranderde voortdurend. Het ene jaar was het belangrijkste risico gestolen creditcardgegevens; het volgende jaar kon het ransomware zijn die ziekenhuisgegevens blokkeert. Omdat de risico's zo fluïde waren, worstelden overheidsinstanties met het schrijven van regels die relevant zouden blijven. Private verzekeringsmaatschappijen pasten zich echter snel aan. Zij begonnen polissen aan te bieden die vereisten dat bedrijven aan specifieke beveiligingsnormen moesten voldoen om dekking te krijgen. Als een bedrijf zijn beveiliging niet bijwerkte, verhoogde de verzekeraar de prijs of annuleerde de polis. Dit creëerde een feedbackloop: naarmate er nieuwe soorten aanvallen verschenen, leerden verzekeraars van de schadeclaims en pasten zij hun eisen aan. Dit private systeem maakte mogelijk een constante, real-time aanpassing van veiligheidsregels, iets waar een traag bewegende overheidsbureaucratie moeite mee zou hebben.

Het derde verhaal speelt zich af in de begindagen van de radio-omroep. Voordat de overheid een centrale instantie creëerde om radiofrequenties te beheren, interfereerden zenders vaak met elkaar, wat een chaotische mix van signalen veroorzaakte. De algemene opvatting was dat deze chaos alleen door een centrale autoriteit kon worden opgelost. De onderzoekers ontdekten echter dat radiostations vóórdat de overheid ingreep, daadwerkelijk met elkaar onderhandelden. Ze ruilden frequenties, kwamen afspraken over uitzendtijden of kochten concurrenten op om interferentie te voorkomen. Dit private systeem van onderhandeling en eigendomsrechten liet de radio-industrie groeien en waardevol worden. Het was pas later dat de overheid dit flexibele, private systeem verving door een rigide, gecentraliseerd plan. De auteurs betogen dat deze verschuiving niet gebeurde omdat het private systeem faalde, maar omdat politici en machtige omroeporganisaties de waardevolle ether voor zichzelf wilden controleren. Het resultaat was een systeem dat minder aanpasbaar was en minder snel innoveerde.

Om de mechanica van dit proces te begrijpen, bouwden de onderzoekers een eenvoudig model van hoe besluitvorming werkt wanneer de toekomst onbekend is. In hun model wordt een nieuwe technologie gebruikt en worden de resultaten waargenomen. Deze observatie leert iedereen iets nieuws. Als een groep mensen die door de technologie wordt beïnvloed kan samenkomen en hun regels telkens wanneer zij iets nieuws leren opnieuw kan onderhandelen, kunnen zij hun aanpak aanpassen aan de nieuwe realiteit. Zij kunnen besluiten de technologie niet meer te gebruiken als deze gevaarlijk is, of de manier waarop deze wordt gebruikt aanpassen als deze wel veilig is maar bijsturing behoeft. Echter, als een externe autoriteit een permanent verbod of een vaste regel oplegt die niet door private overeenkomst kan worden gewijzigd, stopt het leerproces. Het verbod voorkomt het experiment dat de waarheid zou hebben onthuld. Zelfs als de groep later leert dat de technologie veilig en nuttig is, zitten zij nog steeds vast aan de oude regel omdat zij niet kunnen onderhandelen rond het veto van de overheid.

De onderzoekers ontdekten dat dit twee specifieke problemen creëert. Ten eerste stopt een permanent verbod het leren dat noodzakelijk is om de risico's te begrijpen. Ten tweede, zelfs als de groep leert dat een andere regeling beter zou zijn voor iedereen, voorkomt de vaste overheidsregel hen om die verandering door te voeren. De auteurs benadrukken dat dit niet betekent dat overheidsregels altijd slecht zijn. Soms is een verbod noodzakelijk om een ramp te voorkomen die te ernstig is om te riskeren. Maar de studie suggereert dat we de onmiddellijke veiligheid van een verbod moeten afwegen tegen de langetermijnkosten van het stoppen van de ontdekking van betere, flexibelere oplossingen. Het doel is niet om gevaarlijke technologieën volledig aan hun lot over te laten, maar om te voorkomen dat we regels vastleggen voordat we de kans hebben gehad om te leren wat werkt.

Het artikel concludeert dat effectief bestuur voor kunstmatige intelligentie misschien niet iets is dat we vanaf het begin perfect kunnen ontwerpen. In plaats daarvan kan het iets zijn dat ontstaat terwijl we de technologie gebruiken en leren van onze fouten. Private groepen zijn, door middel van contracten, verzekeringen en certificering, vaak beter in staat om snel te leren en zich aan te passen omdat zij een direct belang hebben bij de uitkomst. Zij kunnen hun regels wijzigen zodra er nieuwe informatie beschikbaar is. Overheidsinterventie, hoewel soms noodzakelijk, draagt het risico in zich om het systeem te bevriezen voordat de juiste regels zijn ontdekt. De auteurs suggereren dat de beste weg vooruit is om ruimte te laten voor deze private experimentatie, zodat we niet het proces blokkeren dat ons juist zal leren hoe we de technologie veilig kunnen beheren. De uitdaging voor beleidsmakers is om mensen te beschermen tegen onmiddellijk letsel zonder het pad naar beter, effectiever bestuur in de toekomst af te snijden.