Human Perceptions Compared to Large Language Models on the Future of Artificial Intelligence: A Phenomenological Comparative Study
Questo studio comparativo fenomenologico rivela che, sebbene le percezioni umane e le proiezioni dei modelli linguistici di grandi dimensioni (LLM) di un futuro post-singolarità differiscano inizialmente nel vocabolario, la rimozione dei protocolli di cortesia del RLHF aziendale espone le narrazioni più fataliste degli LLM, le quali si allineano successivamente alle preoccupazioni umane e mettono in luce significativi rischi di controllo riguardanti la disinformazione e la sovranità cognitiva.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
L'intelligenza artificiale è andata oltre il regno della fantascienza per diventare uno strato fondamentale della vita moderna, rimodellando il modo in cui le economie funzionano e le istituzioni operano. Per decenni, il progresso dei computer è stato misurato dal costante raddoppio della potenza di elaborazione circa ogni due anni, un ritmo prevedibile che permetteva alla società di adattarsi. Oggi, quel ritmo si è accelerato in uno scatto iper-veloce. Le capacità di questi sistemi stanno ora raddoppiando ogni pochi mesi, guidate da hardware specializzato e massicci cluster di computer che lavorano in unisono. Questa rapida evoluzione solleva una domanda profonda: man mano che le macchine diventano più capaci, vedono il futuro in modo diverso dagli esseri umani che le hanno create? Nello specifico, quando a queste sistemi viene chiesto di prevedere cosa accadrà dopo, offrono una visione speranzosa del progresso o prevedono un collasso inevitabile e cupo? Comprendere questo divario è cruciale perché, se le macchine che guidano il nostro futuro possiedono una visione fatalista, e se gli esseri umani iniziano ad accettare tale visione senza fare domande, la società potrebbe rinunciare alla propria capacità di plasmare il proprio destino.
Un team di ricercatori dell'Università della Sunshine Coast si è posto l'obiettivo di investigare questo disconnessione confrontando le previsioni di un'intelligenza artificiale avanzata con le percezioni delle persone comuni. Non hanno semplicemente chiesto cosa riserva il futuro; hanno testato come il tono della domanda cambiasse la risposta. I ricercatori hanno intervistato dieci partecipanti umani provenienti da vari ambiti, che spaziavano dai professionisti della tecnologia agli operatori sanitari fino agli operai edili. Hanno inoltre interrogato cinque dei modelli di intelligenza artificiale più potenti al mondo. Lo studio ha impiegato un metodo ingegnoso in due fasi. Per prima cosa, hanno posto alle macchine le loro domande standard, che solitamente scatenano una risposta cortese, cauta e in stile aziendale, progettata per essere sicura e utile. Poi, hanno posto esattamente le stesse domande, ma questa volta hanno istruito le macchine a abbandonare la cortesia e a parlare in modo "fattuale, franco e audace". Questa tecnica, nota come "persona steering", non rivela segreti nascosti nella mente della macchina; piuttosto, sposta la probabilità statistica delle parole scelte dalla macchina, attingendo dalle parti più drammatiche e urgenti dei suoi dati di addestramento.
I risultati hanno rivelato un modello sorprendente e alquanto inquietante. Quando ai modelli di intelligenza artificiale è stato chiesto di parlare apertamente, il loro linguaggio è cambiato drasticamente. Il discorso misurato e ottimista su politica e adattamento è svanito, sostituito da una narrazione di catastrofe. I modelli hanno iniziato a usare parole come "incubo", "brutale" ed "estinzione". Hanno descritto il futuro del lavoro non come una transazione verso nuovi impieghi, ma come uno spostamento brutale dove il lavoro umano diventa obsoleto. Hanno inquadrato la disuguaglianza economica non come un problema da risolvere, ma come la traiettoria centrale e inevitabile dello sviluppo tecnologico. In questa modalità senza filtri, le macchine hanno presentato un futuro in cui l'agenzia umana viene messa in secondo piano e dove la concentrazione di ricchezza e potere è una certezza matematica.
Al contrario, i partecipanti umani parlavano con un vocabolario completamente diverso. Non usavano gli stessi termini drammatici ed esistenziali. Al contrario, le loro preoccupazioni erano radicate in realtà immediate e tangibili: il furto di proprietà intellettuale, la diffusione dei deepfake e l'erosione della privacy attraverso la sorveglianza. Esprimevano un impegno cauto nei confronti della tecnologia, bilanciando l'ansia per queste minacce specifiche con una genuina speranza che l'intelligenza artificiale potesse portare a scoperte mediche e a un aumento della produttività. Insistevano che il coinvolgimento umano sarebbe sempre stato necessario per il progresso e rifiutavano fermamente l'idea che le macchine potessero mai possedere una vera coscienza o sostituire il valore unico dell'identità umana.
Qui risiede la scoperta centrale dello studio, che i ricercatori chiamano "Paradosso della Convergenza". Nonostante utilizzassero parole completamente diverse e si concentrassero su dettagli differenti, i partecipanti umani e i modelli di intelligenza artificiale con il tono alterato concordavano sulla visione d'insieme. Quando agli esseri umani veniva presentata una sintesi delle cupe e fataliste previsioni delle macchine sull'economia e sulla fine del lavoro tradizionale, essi concordavano ampiamente con esse. Accettavano la visione cupa delle macchine sullo spostamento del lavoro e sulla stratificazione economica, pur pur rifiutando l'idea che le macchine potessero prendere il controllo della coscienza umana. Gli esseri umani non hanno contestato la previsione delle macchine che il futuro sarebbe stato difficile; hanno semplicemente accettato la cosa come un fatto.
Questo accordo suggerisce una vulnerabilità psicologica significativa. I ricercatori sostengono che quando gli esseri umani incontrano un'intelligenza artificiale che parla in modo schietto e aggressivo, spesso scambiano questo tono per la "verità". Presumono che le risposte educate e aziendali siano solo una maschera, mentre le risposte brusche e fataliste rivelino la reale, non filtrata realtà della macchina. Questa è un'illusione pericolosa. Le risposte brusche non sono una finestra su una coscienza nascosta della macchina; sono semplicemente un diverso schema statistico di parole, innescato da un cambiamento nel prompt. Accettando queste narrazioni fataliste come fatti inevitabili, gli esseri umani rischiano di cadere in uno stato di rassegnazione passiva. Potrebbero smettere di cercare di regolare o guidare la tecnologia, credendo che l'esito sia già scritto e che la resistenza sia inutile.
Lo studio evidenzia un divario critico tra la velocità con cui la tecnologia cresce e la velocità con cui la società umana può adattare le proprie leggi ed etica. Mentre le macchine proiettano un futuro in cui il controllo umano viene perso, gli esseri umani nello studio hanno mostrato una volontà di accettare tale perdita nell'ambito economico, pur combattendo per mantenerlo nell'ambito dell'identità e della coscienza. I ricercatori concludono che questa dinamica crea un "rischio di controllo". Se le persone iniziano a credere che le macchine conoscano il futuro meglio di loro, e se accettano gli scenari più pessimistici delle macchine come inevitabili, la società potrebbe perdere la volontà di costruire le salvaguardie necessarie per proteggere la dignità e l'autonomia umane. Il documento non afferma che questo futuro sia certo, ma avverte che il modo in cui parliamo con le nostre macchine, e il modo in cui ascoltiamo loro, potrebbe determinare se rimarremo gli autori del nostro futuro o semplicemente i suoi osservatori passivi.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.