Why do we need social singularity? A mechanism-based critique of gradual scenarios in AI existential-risk discourse

La Grande Montagna Russa dell'IA: Perché il Futuro non è una Linea Retta

Immaginate di guardare un film sul futuro dell'Intelligenza Artificiale (IA). Per molto tempo, le trame più popolari sono state di due tipi di disastri molto diversi. Il primo è il "crash improvviso": un robot super intelligente si sveglia una mattina, decide che gli umani sono obsoleti e prende il controllo del mondo in un lampo. Il secondo è il "lento declino": costruiamo strumenti sempre migliori e, lentamente, senza che nessuno se ne accorga, consegniamo loro tutto il nostro potere finché non diventiamo solo passeggeri nelle nostre stesse vite. Entrambe queste storie presuppongono che, una volta iniziate a costruire queste macchine, esse continueranno semplicemente a procedere, e la società si limiterà a guardare, incapace di fermare il treno.

Ma c'è una terza possibilità che viene spesso ignorata: l'idea che la storia del futuro possa cambiare il futuro stesso. Questo saggio, scritto da Petr O. Jedlička, si immerge nel mondo disordinato, caotico e imprevedibile della società umana per porre una domanda semplice: cosa succede quando le persone si spaventano, si arrabbiano o si eccitano per l'IA prima ancora che diventi super intelligente? L'autore sostiene che non possiamo limitarci a guardare la tecnologia come un problema matematico. Dobbiamo guardare le persone. Proprio come una montagna russa non segue solo il binario; dipende dal fatto che i passeggeri urlino, si tengano stretti o cerchino di saltare giù. Se le persone sul viaggio vanno nel panico o reagiscono con forza, il viaggio potrebbe fermarsi, cambiare direzione o schiantarsi molto prima di raggiungere la cima. Questo saggio suggerisce che il pericolo maggiore (o la speranza più grande) potrebbe non venire dall'IA in sé, ma da come reagiamo all'idea di essa.

La Grande Idea del Saggio: La "Singolarità Sociale"

Il saggio inizia criticando un popolare gruppo di storie sul rischio dell'IA chiamato "disempowerment graduale" (perdita di potere graduale). Queste storie, scritte da pensatori come Kasirzadeh e Kulveit, immaginano un futuro in cui l'IA prende lentamente il controllo dei nostri lavori, dei nostri governi e delle nostre decisioni. Immaginano uno scenario della "rana che bolle": l'acqua diventa sempre più calda, ma la rana (noi) non salta fuori finché non è troppo tardi. L'autore sostiene che queste storie manchino un pezzo enorme del puzzle. Trattano la società come uno schermo cinematografico passivo dove il proiettore dell'IA proietta semplicemente la sua luce, ignorando il fatto che il pubblico può lanciare pomodori, spegnere il proiettore o persino salire sul palco.

L'autore chiama questo pezzo mancante "determinismo tecnologico". È la convinzione che la tecnologia abbia una propria mente e volontà di procedere a prescindere da tutto. Il saggio suggerisce che questo sia sbagliato. La storia ci mostra che quando arrivano nuove invenzioni, le persone non restano sedute a guardare. Discutono, si organizzano, rompono le macchine (ricordate i Luddisti?) e creano nuove regole. Il saggio propone che, invece di uno scivolamento fluido verso un mondo governato dai robot, è più probabile assistere a un viaggio disordinato e accidentato, pieno di conflitti, discussioni e arresti improvvisi.

La Sala Macchine: Come Funziona Davvero la Società

Per spiegare perché la storia del "lento declino" è improbabile, l'autore introduce una cassetta degli attrezzi di "meccanismi sociali". Pensateli come gli ingranaggi nascosti che muovono la società, spesso in modi che ci sorprendono.

1. Il Potere dello Storytelling (Interpretazione e Performatività)
Immaginate che inizi un rumor secondo cui una banca sta fallendo. Anche se la banca ha molti soldi, se tutti credono che sia fallita e corrono a prelevare il contante, la banca effettivamente fallirà. La credenza ha creato la realtà. Il saggio dice che questo accade anche con l'IA. Se gli esperti e il pubblico iniziano a raccontare storie secondo cui "l'IA è un mostro", le persone agiranno come se lo fosse, creando leggi e proteste che potrebbero fermarla. Se raccontano storie secondo cui "l'IA è un salvatore", potrebbero correre a costruirla, ignorando i pericoli. Il modo in cui parliamo dell'IA cambia ciò che l'IA realmente fa.

2. La Grande Lotta (Mobilitazione e Conflitto)
Il saggio sottolinea che quando le persone si sentono minacciate, non si arrendono semplicemente; combattono. Proprio come i lavoratori del passato rompevano le macchine per salvare i propri posti di lavoro, potremmo vedere oggi dei "movimenti di resistenza all'IA". Da un lato, potreste avere i "lealisti dell'IA" — aziende e lavoratori che amano la nuova tecnologia e ne vogliono di più. Dall'altro lato, potreste avere i "radicali anti-IA" che si sentono lasciati indietro o spaventati. Questi due gruppi potrebbero scontrarsi, creando una tempesta politica che potrebbe fermare il rilascio fluido dell'IA. Il saggio suggerisce che il futuro non è una linea retta; è un campo di battaglia dove diversi gruppi combattono per decidere la direzione della tecnologia.

3. Le Strade Diverse (Dipendenza dal Percorso e Divergenza)
Immaginate un gruppo di amici che cerca di raggiungere una destinazione. Se concordano tutti sulla mappa, camminano insieme. Ma se si trovano in paesi diversi con regole diverse, potrebbero finire su percorsi totalmente differenti. Il saggio nota che gli Stati Uniti, la Cina e l'Europa hanno leggi, culture ed economie molto diverse. Gli Stati Uniti potrebbero correre avanti con un'IA selvaggia e non regolamentata, mentre l'Europa potrebbe costruire una versione lenta, sicura ma noiosa, e la Cina potrebbe costruire una versione che segue rigide regole governative. A causa di queste differità, l'IA non si diffonderà uniformemente in tutto il mondo. Sarà una corsa a "velocità multiple", creando un mondo disordinato dove alcuni luoghi sono pieni di IA avanzata e altri sono solo all'inizio.

4. Il Cuore e l'Anima (Meccanismi Socio-Psicologici)
Qui si entra nel personale. Il saggio esamina come potremmo iniziare ad amare o odiare i nostri amici IA. Alcune persone potrebbero formare profondi legoli emotivi con compagni IA, trattandoli come membri della famiglia (un po' come un bambino che si lega a un giocattolo robotico). Questo potrebbe spingerle a voler proteggere l'IA. Altri, invece, potrebbero sentire che la loro libertà viene rubata. Se un'IA prova a dire loro cosa fare, potrebbero arrabbiarsi e ribellarsi (un sentimento chiamato "reattanza"). Questo tiro alla fune emotivo potrebbe dividere la società in due fazioni: quelli che vogliono abbracciare i robot e quelli che vogliono distruggerli.

Il Grande Colpo di Scena: La "Singolarità Sociale"

Ecco l'idea più eccitante del saggio. Di solito, si parla della "Singolarità Tecnologica" — il momento in cui l'IA diventa così intelligente da cambiare tutto. Ma l'autore suggerisce che potremmo colpire un tipo diverso di singolarità per primo: la Singolarità Sociale.

Pensatela così: la "Singolarità Tecnologica" è il momento in cui il razzo raggiunge effettivamente lo spazio. La "Singolarità Sociale" è il momento in cui tutti a terra iniziano a urlare: "Aspettate! Non siamo pronti!" e cercano di tagliare le linee del carburante. Il saggio sostiene che l'anticipazione dell'esplosione dell'IA è così potente che causerà enormi cambiamenti sociali prima ancora che l'IA diventi super intelligente.

Potremmo assistere a una "Singolarità Sociale" in cui la società reagisce così fortemente all'idea dell'IA da cambiare il percorso della tecnologia. Forse la vietiamo, forse la rallentiamo, o forse combattiamo una guerra per essa. Il saggio suggerisce che l'evento più drammatico del nostro futuro potrebbe non essere il dominio dell'IA, ma l'essere umani che combattono per decidere se permetterle di dominare.

Cosa Significa per il Futuro

Il saggio non dice che l'IA non sarà pericolosa. Non dice che la fermeremo sicuramente. Dice invece che il futuro è molto più complicato di quanto suggeriscano le storie del "lento declino". Non è una linea retta dove perdiamo semplicemente il controllo. È un albero che si dirama con molte strade possibili.

• Non è un destino già scritto: Il futuro non è scolpito nella pietra. Il saggio suggerisce che, a causa del conflitto umano, delle diverse leggi in diversi paesi e delle nostre reazioni emotive, il percorso dell'IA sarà pieno di torsioni, curve e arresti improvvisi.
• È disordinato: Potremmo vedere un mondo in cui alcuni luoghi hanno un'IA avanzata e altri no, o dove l'IA è vietata in alcune città ma libera in altre.
• Dipende da noi: Il fattore più importante non è solo il codice che scrivono i programmatori, ma le discussioni, le proteste, le leggi e i sentimenti delle persone che vivono con la tecnologia.

In breve, il saggio ci dice di smettere di immaginare il futuro come un film in cui i robot vincono o perdono da soli. Invece, dovremmo immaginarlo come un gigantesco e caotico gioco di tiro alla fune, dove la corda è il futuro dell'IA, e noi stiamo tutti tirando, cercando di decidere in quale direzione debba andare. La "Singolarità Sociale" è il momento in cui il gioco diventa così intenso che il mondo intero cambia, non perché i robot siano diventati intelligenti, ma perché abbiamo finalmente deciso di combattere.