Process-Constituted Intelligence: A Shared Criterion for Humans and Machines
Questo articolo sostiene che la vera intelligenza sia definita dal processo cognitivo iterativo piuttosto che dall'output, proponendo un quadro di "forte equivalenza" basato su sette caratteristiche di processo per distinguere la cognizione umana dall'attuale IA generativa, che si limita a riprodurre tracce di output, offrendo al contempo principi di progettazione e audit per garantire che gli strumenti di IA aumentino piuttosto che erodano le capacità generative umane.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
L'intelligenza viene spesso scambiata per il risultato finale: l'equazione risolta, il dipinto finito, la risposta corretta data in una conversazione. Per decenni, gli scienziati hanno dibattuto se una macchina che produce lo stesso risultato di un essere umano stia realmente pensando. Questa questione si è spostata dalla filosofia alla realtà quotidiana dell'intelligenza artificiale generativa, strumenti in grado di scrivere saggi, generare codice e creare immagini indistinguibili dal lavoro umano. Il problema centrale non è solo se l'output sia buono, ma come vi si sia arrivati. Nello studio della mente, esiste da tempo una distinzione tra un sistema che si limita a emulare il comportamento umano e uno che riproduce effettivamente l'attività interna necessaria per produrre quel comportamento. Uno è come una mappa che mostra la destinazione; l'altro è il viaggio stesso, con tutti i suoi errori di percorso, le pause e i momenti di dubbio. Comprendere la differenza non è più un esercizio accademico, perché quando gli esseri umani si affidano alle macchine per pensare al posto loro, rischiano di saltare proprio quei passaggi che costruiscono la propria capacità di pensare.
Un team di ricercatori della Macquarie University e di altre istituzioni ha proposto un nuovo modo per misurare l'intelligenza che si concentra interamente su questo viaggio. Essi sostengono che la vera intelligenza sia costituita dal processo — l'attività iterativa di tentare, fallire, rivedere e apprendere — piuttosto che dall'output stesso. Per testare ciò, hanno sviluppato un quadro che esamina sette caratteristiche specifiche del modo in cui un problema viene risolto. Queste caratteristiche includono la volontà di generare molti tentativi e scartare quelli che falliscono, la capacità di convivere con l'incertezza senza affrettarsi verso una risposta sicura e la capacità di imparare dalla resistenza offerta dal materiale o dall'ambiente. Osservano anche come chi risolve il problema si impegni nel dialogo, come si tenga conto degli altri e come la lotta stessa modelli la persona che compie il lavoro. I ricercatori suggeriscono che, affinché una macchina sia davvero equivalente a una mente umana, non debba solo produrre la risposta corretta, ma debba dimostrare queste stesse sette caratteristiche nel proprio modo.
Quando i ricercatori hanno applicato questo quadro all'attuale IA generativa, hanno riscontrato un divario significativo. Questi sistemi sono addestrati sulle "tracce" del pensiero umano: articoli finiti, codice pubblicato e immagini editate. Imparano a riprodurre il prodotto finale campionando da una vasta collezione di queste opere completate. Sebbene l'output sembri ragionamento o creatività, l'attività interna che lo genera negli esseri umani è ampiamente assente. La macchina non lotta con il problema, né sperimenta l'accumulo lento del giudizio che deriva da anni di pratica. Semplicemente predice la parola o il pixel successivo più probabile basandosi sui modelli che ha visto in precedenza. I ricercatori descrivono questo fenomeno come "equivalenza debole": la macchina corrisponde all'input e all'output, ma il processo che li connette è mancante o opaco. Anche quando questi sistemi sembrano "pensare" mostrando il proprio lavoro, come elencare i passaggi prima di una risposta, ciò è spesso solo una mostra cosmetica. I passaggi non guidano necessariamente il calcolo; sono solo un altro strato di output progettato per apparire come ragionamento.
Lo studio argomenta esplicitamente contro l'idea che semplicemente rendere questi modelli più grandi o fornire loro più dati possa risolvere il problema. Aggiungere più testo al set di addestramento fornisce solo più tracce finite, non un processo più disordinato e iterativo che costruisce l'intelligenza. I ricercatori rifiutano anche la nozione che le macchine debbano copiare l'esatta architettura biologica del cervello umano per essere intelligenti. Propongono una via di mezzo chiamata "equivalenza forte". Ciò non richiede che una macchina utilizzi gli stessi algoritmi di un cervello umano, il che non è né possibile né desiderabile. Inveve, richiede che il comportamento della macchina sia organizzato dalle stesse sette caratteristiche di processo, anche se la macchina fisica è diversa. Ad esempio, una macchina potrebbe dimostrare l' "impegno con l'incertezza" non provando dubbio, ma avendo un meccanismo che segnala problemi ambigui e rifiuta di dare una risposta sicura finché non vengono raccolte più informazioni.
Le implicazioni per gli utenti umani sono altrettanto critiche quanto la diagnosi tecnica. I ricercatori sottolineano che quando una persona utilizza uno strumento che svolge il lavoro generativo per lei, la capacità che quel lavoro avrebbe costruito non viene mai formata. Le evidenze provenienti da studi sugli studenti che utilizzano l'IA suggeriscono che, sebbene possano performare meglio con lo strumento presente, spesso performano peggio quando lo rimuovono, avendo saltato lo sforzo cognitivo necessario per imparare. Il pericolo non è solo la perdita di abilità, ma un fallimento della formazione. Le attività difficili, incerte e dialogiche che modellano il giudizio e la saggezza di una persona sono proprio le cose che gli strumenti di IA sono più tentati di bypassare. Se uno strumento risolve un'ambiguità per un utente, l'utente non impara mai a convivere con quell'incertezza. Se uno strumento fornisce la risposta, l'utente non pratica mai il rapporto tra prova ed errore necessario per sviluppare gusto e giudizio.
Per affrontare questo, gli autori propongono un nuovo approccio sia alla progettazione dell'IA che al suo utilizzo. Sul lato della macchina, suggeriscono di costruire architetture che costringano il sistema a impegnarsi nel processo, come agenti che devono rivedere il proprio approccio quando messi in discussione da un altro agente, piuttosto che limitarsi a votare su una risposta. Sul lato umano, sostengono l'assistenza "preservante del processo". Ciò significa strumenti che forniscano la domanda successiva o un controesempio per estendere il pensiero dell'utente, invece di fornire la risposta. L'obiettivo è mantenere i passaggi generativi con la persona, assicurando che lo strumento supporti l'attività del pensare piuttosto che sostituirla. I ricercatori delineano anche un metodo per gli "audit di processo", in cui sia gli umani che le macchine vengono testati sugli stessi compiti utilizzando queste sette caratteristiche come rubrica di valutazione. Ciò permetterebbe agli scienziati di misurare se una macchina stia realmente partecipando al processo o se stia solo mimando la sua forma, e se gli utenti umani stiano mantenendo le loro capacità cognitive quando assistiti da questi strumenti.
In definitiva, il documento suggerisce che la differenza tra un sistema che produce l'intelligenza e uno che la costituisce è la differenza tra la registrazione di un evento e l'evento stesso. Man mano che questi strumenti diventano più potenti, l'attenzione deve spostarsi dall'ottimizzazione dell'output all'ingegneria del processo. I ricercatori non pretendono di aver risolto il mistero dell'intelligenza, né dicono che l'IA attuale sia inutile. Inveve, offrono un criterio chiaro per ciò che manca e una strada da seguire per costruire sistemi che rispettino il processo del pensiero, sia nel silicio che nella mente umana. Concentrandoci sull'attività piuttosto che sul risultato, possiamo garantire che, mentre le macchine diventano più capaci, non erodano involontariamente proprio le capacità umane che dovrebbero supportare.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.