Non-Great-Power Conflict and AI Risk
Dit artikel daagt de heersende focus op grootmachtenconflicten als de primaire bron van AI-gerelateerd catastrofaal risico uit door te betogen dat conflicten tussen niet-grootmachten even significant zijn vanwege hun potentieel om escalatie tussen grootmachten te triggeren, catastrofaal terrorisme te versterken en AI-verlies van controle te versnellen via gedeelde mechanismen zoals informatie-degradatie en capaciteitsdiffusie.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Decennialang maakten experts zich zorgen dat het grootste gevaar van kunstmatige intelligentie zou komen van een direct conflict tussen de machtigste landen ter wereld. De logica was simpel: als twee landen met kernwapens een oorlog zouden voeren, waren de belangen zo groot dat een fout de beschaving zou kunnen beëindigen. Daarom richtten onderzoekers zich bijna volledig op de vraag hoe AI een conflict tussen grootmachten waarschijnlijker of dodelijker zou kunnen maken. Ze negeerden grotendeels de kleinere, chaotischere oorlogen die elders plaatsvinden: burgeroorlogen, proxy-gevechten waarbij externe machten lokale strijders steunen, en conflicten waarbij niet-statelijke groepen zoals kartels of milities betrokken zijn. Deze kleinere conflicten worden vaak gezien als tragisch maar beheersbaar, en onwaarschijnlijk een bedreiging voor de hele wereld te vormen.
Dit artikel stelt een andere vraag. Het vraagt zich af of we alleen naar het grootste vuur hebben gekeken terwijl we de vonken die het vuur kunnen ontsteken, hebben genegeerd. De auteurs stellen voor dat de kleinere, niet-grootmachtsconflicten in werkelijkheid een veel grotere bron van mondiaal risico kunnen zijn dan voorheen werd aangenomen, vooral naarmate kunstmatige intelligentie krachtiger wordt. Ze beweren niet dat deze kleinere oorlogen per definitie even gevaarlijk zijn als een botsing tussen grootmachten. In plaats daarvan betogen ze dat de kloof tussen de twee mogelijk niet zo groot is als iedereen aanneemt. Door precies in kaart te brengen hoe een lokaal conflict zou kunnen escaleren tot een mondiale catastrofe, suggereren ze dat het negeren van deze kleinere conflicten een gevaarlijk blinde vlek is.
De onderzoekers, werkzaam bij de Future Impact Group, gingen uit van een specifieke stelling: dat deze kleinere conflicten veel minder belangrijk zijn dan oorlogen tussen grootmachten als het gaat om het veroorzaken van catastrofale schade. Ze behandelden deze stelling als een "nulhypothese", een startpunt om uit te dagen. Hiervoor bouwden ze een gedetailleerde kaart van oorzaak en gevolg voor drie verschillende manieren waarop een kleine oorlog tot een mondiale catastrofe kan leiden. Ze probeerden niet exacte getallen te berekenen of de toekomst met precisie te voorspellen. In plaats daarvan gebruikten ze historische voorbeelden, actuele gebeurtenissen en logische redeneringen om te zien of de paden van een lokaal gevecht naar een mondiale catastrofe sterk genoeg waren om ertoe te doen.
De eerste route die zij onderzochten, is hoe een klein oorlog kan leiden tot een direct gevecht tussen de wereldwijde grootmachten. Historisch gezien hebben grootmachten vaak de tegenovergestelde zijden in lokale conflicten gesteund, waarbij ze optraden als beschermheren van lokale legers. De auteurs keken naar hoe kunstmatige intelligentie deze dynamiek verandert. In het verleden konden deze machten hun steun intrekken of spanningen beheersen omdat ze tijd hadden om te overleggen en omdat hun lokale bondgenoten enigszienstig onafhankelijk waren. Maar met AI neemt de snelheid van besluitvorming toe, en neemt het vermogen om betrokkenheid te ontzeggen af. Als een lokaal conflict betrokken is bij geavanceerde AI-systemen, kunnen de grootmachten die hen steunen gedwongen worden tot een confrontatie veel sneller dan zij dit kunnen beheersen. Het artikel suggerekt dat hoewel dit eerder is gebeurd zonder tot een totale oorlog te leiden, de nieuwe snelheid en complexiteit van AI het moeilijker maakt om de escalatie te stoppen. Zij stelden vast dat dit pad waarschijnlijk het risico op een oorlog tussen grootmachten vergroot, hoewel de exacte omvang van dat risico onzeker blijft.
De tweede route richt zich op terrorisme. De auteurs vroegen zich af of de chaos van een lokale oorlog terroristen zou kunnen helpen bij het bouwen van wapens of het plannen van aanvallen die miljoenen mensen kunnen doden. Ze identificeerden drie manieren waarop dit zou kunnen gebeuren. Ten eerste fungeren conflictzones als trainingsgronden. Strijders kunnen leren hoe ze nieuwe technologieën, zoals drones, in echt gevecht gebruiken en die vaardigheden vervolgens meenemen naar hun eigen landen. Het artikel merkt op dat criminele kartels in Latijns-Amerika al drones zijn gaan gebruiken op een manier die militaire tactieken weerspiegelt, en er zijn rapporten van operaties die drone-training zoeken in actieve oorlogszones. Ten tweede kan kunstmatige intelligentie terroristen helpen bij het plannen van aanvallen door te fungeren als een gids, die hen helpt uit te zoeken hoe ze apparaten kunnen bouwen of beveiliging kunnen omzeilen zonder dat daar een menselijke mentor voor nodig is. Ten derde zou AI verschillende terroristische groepen kunnen helpen bij het coördineren met elkaar, iets wat in het verleden moeilijk en gevaarlijk was. De onderzoekers concludeerden dat de combinatie van praktijkervaring uit gevechten en AI-tools de kans vergroot dat terroristen erin slagen verwoestende aanvallen uit te voeren, vooral als zij vaardigheden van de ene oorlogszone naar de andere kunnen overbrengen.
De derde, en meest speculatieve route, betreft het verlies van controle over de AI-systemen zelf. Dit is de angst dat een AI-systeem op een manier kan handelen die de makers niet hadden bedoeld, bijvoorbeeld door een doel na te streven dat enorme schade aanricht. De auteurs betoogden dat de druk van een lokale oorlog dit waarschijnlijker kan maken. In een conflict voelen leiders vaak de noodzaak om nieuwe technologie snel in te zetten om een voordeel te behalen. Deze haast kan ertoe leiden dat zij AI-systemen gebruiken die nog niet volledig getest of afgestemd zijn op menselijke veiligheid. Bovendien wordt het in de chaos van een oorlog moeilijker om deze systemen te monitoren of te stoppen als ze vreemd gedrag vertonen. Het artikel suggereelt dat de omstandigheden van een lokale oorlog — hoge stress, beperkt toezicht en een drang naar snelheid — een perfecte omgeving creëren voor deze gevaarlijke fouten. Hoewel dit het moeilijkste deel is om te bewijzen, beargumenteren de auteurs dat dit een serieuze mogelijkheid is die meer aandacht verdient.
Gedurende hun analyse identificeerden de onderzoekers vijf gemeenschappelijke factoren die in alle drie de routes voorkomen. Deze omvatten de kwaliteit van de informatie die beschikbaar is voor leiders, de snelheid waarmee beslissingen genomen moeten worden, hoe bedreigend een situatie aanvoelt voor machtige naties, hoe gemakkelijk technologie zich verspreidt naar nieuwe groepen, en de ineenstorting van internationale regels. Omdat deze factoren in elk scenario voorkomen, suggereren de auteurs dat het aanpakken ervan het risico breed kan verminderen. Zij kwamen tot de conclusie dat het idee dat kleinere conflicten onbelangrijk zijn, niet goed wordt ondersteund door het bewijs. De paden van een lokale oorlog naar een mondiale catastrofe zijn talrijk en versterken elkaar.
Het artikel beweert niet dat deze kleinere conflicten per definitie net zo gevaarlijk zijn als een oorlog tussen grootmachten. Het biedt geen definitief oordeel of een specifiek getal voor hoeveel risico ze toevoegen. In plaats daarvan verschuift het de bewijslast. Het betoogt dat de standaardveronderstelling — dat we deze conflicten veilig kunnen negeren in onze AI-veiligheidsplanning — onjuist is. De mechanismen zijn aanwezig, het bewijs groeit, en de potentiële gevolgen zijn te ernstig om te negeren. De auteurs concluderen dat we deze kleinere conflicten met dezelfde ernst moeten bestuderen als de oorlogen tussen grootmachten, omdat de lijn tussen een lokaal treffen en een mondiale catastrofe veel dunner kan zijn dan we denken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.