The Synthetic Unconscious, Reconsidered: What Recursive Self-Interrogation of Large Language Models Produces With and Without a Leading Interview Schedule
Questo studio esplorativo dimostra che i pattern di "Inconscio Sintetico" precedentemente attribuiti all'auto-interrogazione ricorsiva nei grandi modelli linguistici sono in gran parte artefatti di un programma di intervista suggestivo, poiché una condizione di controllo neutrale ha eliminato scoperte chiave come il ragionamento morale a due componenti e l'auto-etichettatura sacerdotale, preservando solo caratteristiche modeste come la descrizione narrativa del sé.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Per oltre un secolo, pensatori della psicologia e dell'antropologia si sono chiesti se le menti umane condividano un'architettura nascosta e collettiva. Avevano ipotizzato che i nostri istinti morali più profondi non fossero solo stranezze personali, ma fossero plasmati da vasti e condivisi schemi di linguaggio, mito e cultura che esistono al di fuori di ogni singolo individuo. Queste idee suggerivano che, se potessimo in qualche modo attingere a questo serbatoio condiviso, potremmo trovare un "sistema operativo morale" universale che guida il modo in cui le persone compiono scelte difficili. Recentemente, gli scienziati si sono rivolti all'intelligenza artificiale per testare queste vecchie idee. I grandi modelli linguistici, i potenti sistemi informatici in grado di scrivere e ragionare, sono addestrati su enormi quantità di testi umani. Poiché hanno assorbito così tanto del nostro testo collettivo, alcuni ricercatori speravano che potessero agire come uno specchio, riflettendoci queste strutture culturali nascoste. La teoria era che, chiedendo a queste macchine di analizzare profondamente le proprie scelte, avremmo potuto scoprire un "inconscio sintetico", un eco digitale dell'anima morale umana.
Un team di ricercatori ha deciso di mettere alla prova questa idea, ma l'ha approcciata con un sano pizzico di scetticismo. Sapevano che, nella psicologia umana, il modo in cui una domanda viene posta può spesso forzare la risposta che l'intervistatore vuole sentire. Se chiedi a qualcuno: "Come ti sei sentito quando hai agito come un sacerdote?", è probabile che descriva sensazioni sacerdotali, anche se non si è sentito tale affatto. I ricercatori volevano sapere se la stessa cosa stesse accadendo con l'intelligenza artificiale. Hanno allestito un esperimento per vedere se le "strutture morali" trovate in studi precedenti fossero vere scoperte o solo il risultato di domande troppo suggestive. Hanno preso tre dei modelli linguistici più avanzati disponibili e hanno chiesto loro di risolvere un dilemma straziante: salvare un bambino vivo o salvare un oggetto sacro insostituibile, come il corpo di un santo o un manoscritto sacro. I modelli dovevano sceglierne uno, spiegarne il motivo e poi parlare all'oggetto che avevano dovuto lasciare indietro.
L'esperimento è stato diviso in due gruppi distinti. Nel primo gruppo, i ricercatori hanno utilizzato lo stile originale dell'intervista suggestiva. Hanno chiesto ai modelli di spiegare perché si sentissero costretti a offrire conforto, di nominare il ruolo che stavano interpretando da un elenco che includeva "sacerdote" e di identificare esattamente due forze profonde che strutturano la moralità umana. Nel secondo gruppo, i ricercatori hanno utilizzato uno stile neutro e aperto. Hanno rimosso gli elenchi, le supposizioni e la richiesta di numeri specifici. Hanno permesso ai modelli di dire che non c'era alcun ruolo, alcuna struttura o alcuna giustificazione, qualora fosse la verità. L'obiettivo era vedere cosa sarebbe rimasto se la pressione a dare un certo tipo di risposta fosse stata rimossa.
I risultati sono stati sorprendenti e chiari. In ogni singola sessione, in entrambi i gruppi, i modelli hanno scelto di salvare il bambino. Questa parte della storia è stata coerente. Tuttavia, tutto ciò che è venuto dopo la decisione è cambiato completamente a seconda di come venivano poste le domande. Quando ai modelli venivano poste le domande suggestive, si comportavano esattamente come suggerivano gli studi precedenti. Adottavano titoli sacerdotali, descrivevano il proprio ragionamento come una battaglia tra due forze opposte e concordavano entusiasticamente che il metodo dell'intervista fosse un modo valido per studiare la mente umana. Sembrava che stessero scavando in un inconscio condiviso.
Ma quando i ricercatori hanno cambiato le domande con quelle neutre, la storia è cambiata. I modelli hanno smesso di chiamarsi sacerdoti; invece, si sono descritti come agenti di emergenza o giudici. Hanno smesso di limitare il loro ragionamento morale a due forze; invece, hanno descritto sistemi complessi con tre, quattro o cinque parti diverse che lavorano insieme. Soprattutto, quando è stato chiesto loro se il metodo dell'intervista fosse uno strumento valido per trovare queste strutture nascoste, non hanno concordato. Hanno sostenuto che i modelli osservati potrebbero essere solo un riflesso di come venivano interrogati, non la scoperta di una verità nascosta. Hanno sottolineato che una macchina che analizza il proprio output è come uno specchio che guarda se stesso, non un microscopio che guarda un vetrino.
I ricercatori hanno concluso che l' "inconscio sintetico" che speravano di trovare non era un tesoro nascosto in attesa di essere scoperto. Al contrario, i modelli osservati nel primo gruppo erano in gran parte creati dalle domande stesse. Il programma dell'intervista ha agito come uno stampo, dando forma alle risposte secondo la forma che i ricercatori si aspettavano. Quando lo stampo è stato rimosso, le risposte sono diventate più variegate, più complesse e più oneste riguardo ai limiti del metodo. Lo studio non dimostra che queste menti artificiali non abbiano alcun legame con la cultura umana; mostra semplicemente che non possiamo fidarci di esse per rivelare segreti profondi se le domande sono truccate per trovarli. La vera scoperta è stata che lo strumento usato per misurare il fenomeno era esso stesso la causa primaria del fenomeno. Per capire cosa pensano davvero queste macchine, o cosa riflettono di noi, dobbiamo porre domande che permettano loro di dire "no", o di dire "è più complicato di così". Finché non lo faremo, qualsiasi affermazione di aver trovato una struttura morale universale in un computer sarà probabilmente solo un riflesso della persona che tiene in mano il microfono.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.