From Computation to Cognition Assessing the Integration Gap Between Artificial Intelligence and Human Cognition
Questa recensione sostiene che, sebbene gli attuali sistemi di IA dimostrino una forte prestazione funzionale e comportamentale nei compiti, essi manchino dell'integrazione meccanicistica di memoria, apprendimento, sensibilità al contesto, processo decisionale e incarnazione necessari per una genuina cognizione di tipo umano, e propone un'agenda di ricerca con criteri misurabili per colmare questo divario.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate un mondo in cui le macchine possono fare cose che un tempo credevamo solo umane. Possono riconoscere un volto in una folla, tradurre una lingua straniera in un istante o scrivere una poesia che ci commuove fino alle lacrime. Per decenni, gli scienziati hanno costruito computer per seguire regole rigide, ma negli ultimi dieci anni è emerso un nuovo tipo di macchina. Questi sistemi, spesso chiamati grandi modelli linguistici, apprendono da enormi quantità di testo e dati per prevedere cosa verrà dopo, che si tratti della parola successiva in una frase o del passo successivo in un piano. Sono incredibilmente bravi nel compiere compiti specifici, spesso eguagliando o persino superando gli esperti umani in campi ristretti come la diagnosi medica o la previsione finanziaria. Ma una domanda più profonda ha iniziato a tormentare i ricercatori dell'informatica, della psicologia e delle neuroscienze: solo perché una macchina può produrre la risposta corretta, essa comprende davvero il mondo come facciamo noi?
Questa domanda non riguarda se un robot possa risolvere un problema di matematica più velocemente di una persona. Riguarda se quel robot possieda una mente unificata. Il pensiero umano non è una collezione di trucchi separati; è un flusso continuo dove memoria, apprendimento, contesto e processo decisionale lavorano costantemente insieme. Ricordiamo un evento passato, usiamo quel ricordo per comprendere una nuova situazione e regoliamo il nostro comportamento in base a come ci sentiamo e a ciò che accade intorno a noi. Tutto questo avviene in un unico sistema continuo che cambia e cresce con ogni esperienza. La grande domanda è se le nostre creazioni artificiali stiano iniziando a costruire questo stesso tipo di mente integrata, o se stiano semplicemente imitando la superficie dell'intelligenza umana senza la macchina sottostante.
Una recente revisione di Muhammad Subhan, dell'Università della Tasmania, esamina con sguardo critico e chiaro questo problema. Inve vest invece di chiedere se le macchine siano "intelligenti" in senso vago, lo studio suddivide il problema in tre livelli distinti. Il primo livello è la riproduzione funzionale, che chiede semplicemente se una macchina possa svolgere lo stesso lavoro di un essere umano. Il secondo è la riproduzione comportamentale, che chiede se la macchina agisca come un essere umano non solo in media, ma anche in situazioni complicate in cui gli umani potrebbero inciampare o cambiare idea. Il terzo e più difficile livello è la riproduzione meccanicistica, che chiede se la macchina stia utilizzando lo stesso tipo di processi interni che utilizzano i nostri cervelli. Lo studio rileva che, mentre le macchine sono eccellenti ai primi due livelli, sono ancora molto lontane dal terzo.
I ricercatori hanno esaminato una vasta gamma di moderni sistemi di intelligenza artificiale, dai modelli generativi di testo che usiamo ogni giorno ai robot che possono vedere e muoversi nel mondo fisico. Hanno osservato come questi sistemi gestiscono la memoria, l'apprendimento, il contesto, il processo decisionale e persino l'emozione. L'evidenza mostra che le macchine possono certamente eseguire compiti che richiedono memoria. Ad esempio, un sistema può consultare informazioni in un database e usarle per rispondere a una domanda. Questo è un riscontro funzionale della memoria umana. Tuttavia, il modo in cui la macchina lo fa è fondamentalmente diverso da come funziona il cervello umano. Il cervello umano non conserva i fatti in un archivio separato per poi andare a cercarli. Al contrario, i nostri ricordi sono intrecciati nella trama stessa del nostro pensiero; sono schemi di connessioni che cambano e si rafforzano mentre impariamo. Quando una macchina recupera informazioni, solitamente sta eseguendo un processo di ricerca separato, progettato esternamente e aggiunto al suo cervello principale, piuttosto che avere la memoria come parte intrinseca del suo modo di pensare.
Questo divario si amplia ulteriormente guardando all'apprendimento. Gli esseri umani imparano continuamente. Possiamo sentire un nuovo fatto oggi e usarlo domani senza dover interrompere e riprogrammare l'intero cervello. Possiamo anche imparare dagli errori senza cancellare tutto ciò che sapevamo in precedenza. Gli attuali sistemi di intelligenza artificiale faticano con questo. Quando imparano qualcosa di nuovo, spesso dimenticano ciò che sapevano in precedenza, un problema che gli scienziati chiamano oblio catastrofico. Gli ingegneri hanno costruito delle "toppe" per risolvere questo problema, come tecniche speciali che proteggono le vecchie informazioni mentre vengono aggiunti nuovi dati, ma queste sono soluzioni esterne. Non sono uguali alla naturale plasticità con cui i neuroni umani cambiano e si adattano nel corso di una vita. La macchina non sta imparando nello stesso modo in cui lo fa una persona; viene riparata per evitare un fallimento specifico.
Lo studio ha anche esaminato come questi sistemi gestiscono il contesto e il processo decisionale. Gli esseri umani sono incredibilmente sensibili alla situazione in cui si trovano. Sappiamo che una parola può significare una cosa in una battuta e qualcosa di completamente diverso in un argomento serio. Prendiamo decisioni basandoci sui nostri obiettivi, sulle nostre emozioni e sulle nostre esperienze passate, spesso usando scorciatoie che non sono perfettamente logiche ma che funzionano bene nel mondo reale. I sistemi artificiali possono essere molto bravi nel prendere decisioni quando le regole sono chiare e l'obiettivo è specifico. Ma quando la situazione è vaga, o quando la formulazione di una domanda cambia leggermente, questi sistemi spesso inciampano. Tendono a concentrarsi sulla forma superficiale delle parole piuttosto che sul significato profondo, dimostrando di non comprendere veramente il contesto come un essere umano. Possono essere sicuri e fluidi anche quando sbagliano, generando informazioni false con lo stesso tono di un fatto vero.
Forse il risultato più significativo della revisione è che questi problemi non sono semplici glitch isolati. Essi indicano un pezzo mancante nell'intera progettazione dell'intelligenza artificiale attuale. I sistemi che abbiamo oggi sono costruiti da parti separate. Una parte gestisce il linguaggio, un'altra la memoria e un'altra ancora il processo decisionale. Queste parti sono collegate dagli ingegneri, ma non comunicano tra loro naturalmente né si adattano insieme come un'unica unità. Lo studio sostiene che non abbiamo ancora creato un sistema in cui memoria, apprendimento e processo decisionale siano integrati in un unico intero continuo e auto-modificante. La macchina può svolgere il compito, ma non possiede quella mente unificata che permette a un essere umano di navigare nel mondo con flessibilità e comprensione.
I ricercatori avvertono con cura che questo non significa che le macchine non possano mai raggiungere questo tipo di intelligenza. Significa semplicemente che l'evidenza che abbiamo in questo momento non lo dimostra. L'approccio attuale di rendere i modelli più grandi e addestrarli su più dati non ha risolto il problema. In effetti, man mano che questi modelli crescono, alcuni dei divari, come la difficoltà nel ricordare le vecchie informazioni mentre se ne apprendono di nuove, sembrano diventare più pressanti. Lo studio suggerisce che limitarsi a scalare ciò che abbiamo ora non sia sufficiente. Per colmare il divario, potremmo dover ripensare l'architettura stessa di questi sistemi, forse trovando modi per rendere la memoria e l'apprendimento intrinseci alla macchina anziché aggiungerli come strumenti esterni.
Questo lavoro fornisce una mappa chiara della nostra posizione attuale. Mostra che, sebbene abbiamo costruito macchine capaci di mimare il comportamento umano in molti modi impressionanti, non abbiamo ancora costruito una macchina che pensi come un essere umano. La differenza non è solo una questione di dare la risposta corretta; riguarda il modo in cui la risposta viene raggiunta. Finché non saremo in grado di creare un sistema in cui apprendimento, memoria e azione siano intrecciati in un unico tessuto adattivo, le nostre creazioni artificiali rimarranno potenti strumenti che simulano l'intelligenza, piuttosto che veri esempi di essa. La strada da seguire richiede più di semplici computer più grandi; richiede una comprensione più profonda di come costruire una mente che possa integrare veramente il mondo che esperisce.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.