Why do we need social singularity? A mechanism-based critique of gradual scenarios in AI existential-risk discourse

De Grote AI-achtbaan: Waarom de toekomst geen rechte lijn is

Stel je voor dat je een film kijkt over de toekomst van Kunstmatige Intelligentie (AI). Lange tijd waren de meest populaire verhaallijnen twee zeer verschillende soorten rampen. De eerste is de "plotselinge crash": een superintelligente robot wordt op een ochtend wakker, besluit dat mensen overbodig zijn en neemt in een flits de wereld over. De tweede is de "langzame vervaging": we bouwen steeds betere hulpmiddelen en dragen langzaam, zonder dat iemand het doorheeft, al onze macht aan hen over tot we slechts passagiers zijn in ons eigen leven. Beide verhalen gaan ervan uit dat zodra we deze machines beginnen te bouwen, ze gewoon blijven doorgaan, en dat de samenleving simpelweg toekijkt, niet in staat om de trein te stoppen.

Maar er is een derde mogelijkheid die vaak wordt genegeerd: het idee dat het verhaal over de toekomst de toekomst zelf kan veranderen. Dit artikel, geschreven door Petr O. Jedlička, duikt in de rommelige, chaotische en onvoorspelbare wereld van de menselijke samenleving om een simpele vraag te stellen: Wat gebeurt er als mensen bang, boos of enthousiast worden over AI nog voordat het echt superintelligent is geworden? De auteur stelt dat we de technologie niet simpelweg als een wiskundig probleem kunnen bekijken. We moeten naar de mensen kijken. Net zoals een achtbaan niet alleen het spoor volgt; het hangt ervan af of de inzittenden schreeuwen, zich stevig vasthouden of proberen eruit te springen. Als de mensen op de rit paniek voelen of terugvechten, kan de rit stoppen, van richting veranderen of crashen lang voordat het de top bereikt. Dit artikel suggereert dat het grootste gevaar (of de grootste hoop) misschien niet komt van de AI zelf, maar van hoe wij reageren op het idee ervan.

Het grote idee van het artikel: De "Sociale Singulariteit"

Het artikel begint met een kritiek op een populaire groep verhalen over AI-risico's genaamd "geleidelijke onthechting" (gradual disempowerment). Deze verhalen, geschreven door denkers als Kasirzadeh en Kulveit, schetsen een toekomst waarin AI langzaam onze banen, onze regeringen en onze beslissingen overneemt. Ze schetsen een "kikker in het kokende water"-scenario: het water wordt steeds heter, maar de kikker (wij) springt nooit op tijd uit het water totdat het te laat is. De auteur stelt dat deze verhalen een groot deel van de puzzel missen. Ze behandelen de samenleving als een passief bioscoopscherm waarop de AI-projector zijn licht schijnt, waarbij ze negeren dat het publiek tomaten kan gooien, de projector kan uitzetten of zelfs het podium kan bestormen.

De auteur noemt dit ontbrekende stuk "technologisch determinisme". Het is de overtuiging dat technologie een eigen wil heeft en ongeacht wat er gebeurt, vooruit zal marcheren. Het artikel suggereert dat dit onjuist is. De geschiedenis leert ons dat wanneer nieuwe uitvindingen arriveren, mensen niet simpelweg toekijken. Ze discussiëren, ze organiseren zich, ze breken machines af (denk aan de Luddieten?) en ze maken nieuwe regels. Het artikel stelt voor dat we in plaats van een soepele glijbaan naar een door robots gerunde wereld, eerder een rommelige, hobbelige rit zullen zien vol conflicten, discussies en plotselinge stops.

De machinekamer: Hoe de samenleving werkelijk werkt

Om uit te leggen waarom het verhaal van de "langzame vervaging" onwaarschijnlijk is, introduceert de auteur een gereedschapskist van "sociale mechanismen". Beschouw deze als de verborgen tandwielen die de samenleving in beweging zetten, vaak op manieren die ons verrassen.

1. De kracht van storytelling (Interpretatie en Performativiteit)
Stel je voor dat er een gerucht ontstaat dat een bank failliet gaat. Zelfs als de bank genoeg geld heeft, als iedereen gelooft dat de bank failliet is en naar de bank rent om hun contanten op te nemen, zal de bank ook daadwerkelijk failliet gaan. Het geloof creëerde de realiteit. Het artikel zegt dat dit ook met AI gebeurt. Als experts en het publiek verhalen gaan vertellen dat "AI een monster is", zullen mensen handelen alsof het een monster is, wat leidt tot wetten en protesten die het kunnen stoppen. Als ze verhalen vertellen dat "AI een redder is", zullen ze wellicht overhaast beginnen met het bouwen ervan, waarbij ze de gevaren negeren. De manier waarop we over AI praten, verandert wat AI daadwerkelijk doet.

2. De grote strijd (Mobilisatie en Conflict)
Het artikel wijst erop dat wanneer mensen zich bedreigd voelen, ze niet zoma een beetje opgeven; ze vechten terug. Net zoals arbeiders in het verleden machines kapotmaakten om hun banen te redden, zouden we vandaag de dag "AI-weerstandsbewegingen" kunnen zien. Aan de ene kant heb je misschien "AI-loyalisten"—bedrijven en werknemers die dol zijn op de nieuwe technologie en er meer van willen. Aan de andere kant kun je "anti-AI radicalen" hebben die zich achtergesteld of bang voelen. Deze twee groepen kunnen met elkaar botsen, wat een politieke storm veroorzaakt die de soepele uitrol van AI kan stoppen. Het artikel suggereert dat de toekomst geen rechte lijn is; het is een slagveld waar verschillende groepen vechten om te beslissen welke kant de technologie op gaat.

3. De verschillende wegen (Padafhankelijkheid en Divergentie)
Stel je een groep vrienden voor die naar een bestemming probeert te wandelen. Als ze allemaal dezelfde kaart gebruiken, wandelen ze samen. Maar als ze in verschillende landen met verschillende regels zijn, kunnen ze uiteindelijk op totaal verschillende paden terechtkomen. Het artikel merkt op dat de VS, China en Europa zeer verschillende wetten, culturen en economieën hebben. De VS zou voorop kunnen lopen met wilde, ongereguleerde AI, terwijl Europa een trage, veilige maar saaie versie zou kunnen bouwen, en China een versie zou kunnen bouwen die strikte regeringsregels volgt. Vanwege deze verschillen zal AI zich niet gelijkmatig over de wereld verspreiden. Het zal een "multi-speed" race zijn, wat een rommelige wereld creëert waarin sommige plaatsen vol staan met geavanceerde AI en andere pas net beginnen.

4. Hart en Ziel (Sociaal-psychologische mechanismen)
Dit is waar het persoonlijk wordt. Het artikel kijkt naar hoe we een band kunnen opbouwen met onze AI-vrienden, of ze juist kunnen gaan haten. Sommige mensen kunnen diepe emotionele banden vormen met AI-metgezellen en hen behandelen als familie (een beetje zoals een kind dat een band opbouwt met een robotbeestje). Dit zou hen kunnen doen willen vechten voor de bescherming van AI. Anderen kunnen echter het gevoel hebben dat hun vrijheid wordt gestolen. Als een AI probeert hen te vertellen wat ze moeten doen, kunnen ze boos worden en in opstand komen (een gevoel dat "reactantie" wordt genoemd). Dit emotionele touwtrekken zou de samenleving in twee kampen kunnen splitsen: zij die de robots willen knuffelen en zij die ze willen verbrijzelen.

De grote twist: De "Sociale Singulariteit"

Hier komt het meest opwindende idee van het artikel. Meestal praten mensen over de "Technologische Singulariteit"—het moment waarop AI zo slim wordt dat het alles verandert. Maar de auteur suggereert dat we misschien eerst een andere soort singulariteit bereiken: de Sociale Singulariteit.

Denk er zo over na: De "Technologische Singulariteit" is het moment waarop de raket daadwerkelijk de ruimte bereikt. De "Sociale Singulariteit" is het moment waarop iedereen op de grond begint te schreeuwen: "Wacht! We zijn er niet klaar voor!" en probeert de brandstofleidingen door te snijden. Het artikel stelt dat de anticipatie op de AI-explosie zo krachtig is dat het enorme sociale veranderingen teweegbrengt voordat de AI zelfs maar superintelligent is geworden.

We zouden een "Sociale Singulariteit" kunnen zien waarbij de samenleving zo sterk reageert op het idee van AI dat het het pad van de technologie verandert. Misschien verbieden we het, misschien vertragen we het, of misschien vechten we er een oorlog over. Het artikel suggereert dat de meest dramatische gebeurtenis in onze toekomst misschien niet de overname door de AI is, maar de menselijke strijd over de vraag of we de overname wel moeten toestaan.

Wat dit betekent voor de toekomst

Het artikel zegt niet dat AI niet gevaarlijk zal zijn. Het zegt niet dat we het zeker zullen stoppen. In plaats daarvan zegt het dat de toekomst veel ingewikkelder is dan de "langzame vervaging"-verhalen suggereren. Het is geen rechte lijn waarbij we simpelweg de controle verliezen. Het is een vertakkende boom met vele mogelijke paden.

• Het staat niet vast: De toekomst ligt niet vast in steen. Het artikel suggereert dat, vanwege menselijke conflicten, verschillende wetten in verschillende landen en onze emotionele reacties, het pad van AI vol draaiingen, bochten en plotselinge stops zal zitten.
• Het is rommelig: We kunnen een wereld zien waarin sommige plaatsen geavanceerde AI hebben en andere niet, of waarin AI in sommige steden verboden is maar in andere vrij is.
• Het ligt aan ons: De belangrijkste factor is niet alleen de code die de programmeurs schrijven; het zijn de discussies, de protesten, de wetten en de gevoelens van de mensen die met de technologie samenleven.

Kortom, het artikel vertelt ons om te stoppen met het voorstellen van de toekomst als een film waarin de robots winnen of verliezen op hun eigen kracht. In plaats daarvan moeten we het zien als een gigantisch, chaotisch spel van touwtrekken, waarbij het touw de toekomst van AI is, en wij er allemaal aan trekken, proberend te beslissen welke kant het op gaat. De "Sociale Singulariteit" is het moment waarop het spel zo intens wordt dat de hele wereld verandert, niet omdat de robots slim zijn geworden, maar omdat we eindelijk besloten terug te vechten.