Beyond Task Intelligence: Artificial Intelligence, Embodied Robotics, and the Epistemic Limits of Machine Cultural Understanding

Immaginate un mondo in cui le macchine possono correre più velocemente dell'essere umano più veloce, pur faticando ancora a raccogliere un semplice cavo senza farlo cadere. Questa non è una storia di fallimento dei robot, ma un enigma più profondo su come misuriamo l'intelligenza. Oggi, i sistemi di intelligenza artificiale possono scrivere saggi fluidi, tradurre lingue e recuperare fatti da vaste biblioteche di testi con una velocità sorprendente. Vengono testati su compiti specifici, come risolvere problemi matematici o identificare oggetti in foto, e spesso vincono. Ma vincere un test specifico non significa che una macchina comprenda davvero il mondo in cui opera. La domanda che scienziati e studiosi si pongono non è più se una macchina possa eseguire un compito, ma se possa comprenderne il contesto, la storia e le relazioni umane che ne conferiscono il significato. Questa è la differenza tra seguire perfettamente un insieme di istruzioni e sapere quando quelle istruzioni non hanno più senso.

Una nuova revisione sistematica di Prudhvi Kumar Kanyadari della Loughborough University esplora questo divario tra il fare e il comprendere. Il documento sostiene che, mentre le macchine stanno diventando incredibilmente brave in lavori specifici e misurabili, esse spesso mancano di un tipo di conoscenza più profonda che gli esseri umani danno per scontata. Questa conoscenza più profonda non riguarda solo il possedere informazioni; riguarda il sapere come tali informazioni si inseriscano in un tempo, un luogo e una cultura specifici. L'autore suggerisce che dobbiamo smettere di giudicare l'intelligenza artificiale solo in base a quanto bene ottiene punteggi in test standard e iniziare a chiederci se sia in grado di gestire la natura disordinata, incerta e spesso contraddittoria della vita umana.

Il documento inizia osservando un esempio sorprendente delle 2026 World Humanoid Robot Games. In questi eventi, robot come il Tiangong Ultra hanno corso i 100 metri in 8,64 secondi, battendo il record mondiale umano di 9,58 secondi detenuto da Usain Bolt. Queste macchine sono incredibilmente veloci ed efficienti nel correre. Tuttavia, gli stessi robot spesso faticano con compiti quotidiani molto più semplici, come inserire un cavo in una presa o gestire un pacco in un ambiente variabile. L'autore sottolinea che correre è un problema chiuso: la pista è piatta, la distanza è fissa e l'obiettivo è chiaro. Inserire un cavo in una presa, al contrario, è un problema aperto. Il robot deve percepire la forma della spina, sentire la resistenza della presa e regolare la sua presa se il cavo si muove. Deve adattarsi a un mondo che non è progettato perfettamente per lui. Il robot può vincere la gara, ma non sa ancora come navigare nel mondo.

Lo stesso schema appare nel mondo del linguaggio e della cultura. I modelli linguistici di grandi dimensioni, i sistemi alla base di molti chatbot moderni, possono recuperare citazioni letterarie o riassumere eventi storici più velocemente di qualsiasi ricercatore umano. Eppure, quando viene chiesto loro di interpretare un rituale culturale o spiegare una consuetudine sociale, questi sistemi spesso commettono errori che rivelano una mancanza di vera comprensione. Possono produrre una spiegazione splendidamente scritta di una tradizione che è fattualmente errata, oppure possono ripetere stereotipi dannosi su un gruppo di persone perché tali stereotipi sono comuni nei dati su cui sono stati addestrati. Il documento nota che questi sistemi possono recuperare informazioni, ma spesso non riescono a comprendere la "descrizione densa" della cultura — l'idea che la stessa azione possa significare cose diverse a seconda di chi la compie, dove si trova e quale storia porta con sé.

L'autore introduce tre modi distinti per misurare l'intelligenza per chiarire questo problema. Il primo è la competenza nel compito, che chiede se una macchina può eseguire un'operazione specifica, come correre una gara o trovare una parola. Il secondo è la competenza contestuale, che chiede se la macchina può ancora operare bene quando la situazione cambia, come quando la lingua è diversa, la storia è complessa o l'ambiente fisico è imprevedibile. Il terzo, e più difficile, è la competenza epistemica. Questo chiede se la macchina sappia quando non ha abbastanza informazioni per dare una risposta, o se possa riconoscere quando una domanda stessa è fallace. L'attuale intelligenza artificiale è molto brava nel primo tipo di competenza, ma spesso fallisce nel secondo e nel terzo. Può dare una risposta sicura anche quando le prove mancano, o quando l'argomento è troppo complesso per una singola, semplice spiegazione.

Uno dei problemi più gravi evidenziati dal documento è il problema delle citazioni "allucinate". Nella ricerca accademica, una citazione è un riferimento a una fonte che prova un punto. Tuttavia, questi sistemi a volte inventano fonti che sembrano reali ma non esistono, o citano libri reali sostenendo che quei libri dicano cose che non hanno mai detto. Questo è pericoloso perché interrompe la catena delle prove. Nelle discipline umanistiche, la conoscenza si costruisce su una catena di documenti, archivi e interpretazioni. Se una macchina inserisce un link falso in quella catena, l'intera struttura può crollare. Il documento sostiene che questo non è solo un bug da correggere con migliori dati; è una differenza fondamentale tra il modo in cui le macchine elaborano le informazioni e il modo in cui gli esseri umani costruiscono la conoscenza. Gli esseri umani sanno quando fermarsi e dire: "Non lo so" o "Questa fonte non è attendibile". Le macchine, spinte a completare un compito, spesso procedono con una risposta sicura ma errata.

La revisione esamina anche come questi sistemi gestiscono la cultura e la rappresentazione. Quando viene chiesto di generare immagini di persone appartenenti a specifiche culture, questi sistemi spesso si affidano agli stereotipi. Ad esempio, generando immagini di persone dell'India, il sistema potrebbe mostrare costantemente individui di casta superiore in contesti moderni, mentre ritrae individui di casta inferiore solo in scene di povertà o protesta. Ciò accade perché il sistema impara dai modelli presenti nei dati esistenti, e tali modelli riflettono spesso pregiudizi storici. Il risultato è un'immagine che sembra plausibile ma che è in realtà una distorsione della realtà. Il documento suggerisce che un'immagine culturalmente convincente può essere un fallimento epistemico, ovvero fallisce nel rappresentare la verità della cultura che dichiara di mostrare.

L'autore propone che abbiamo bisogno di un nuovo modo per testare l'intelligenza artificiale, uno che vada oltre i semplici punteggi. Invece di chiedere solo se una macchina risponda correttamente a una domanda, dovremmo chiederci se sia in grado di gestire i cambiamenti di contesto. Può ancora comprendere una storia se il periodo storico cambia? Può riconoscere quando un termine culturale non ha una traduzione diretta? Può ammettere quando una domanda si basa su un presupposto falso? Il documento suggerisce che i futuri benchmark dovrebbero includere test di "perturbazione", in cui i ricercatori cambiano deliberatamente le condizioni di un compito per vedere se il sistema si interrompe. Dovrebbero anche testare l' "astensione epistemica", premiando il sistema per sapere quando dichiarare di non avere abbastanza informazioni per rispondere.

Questo nuovo approccio richiede una partnership tra informatici e studiosi delle discipline umanistiche, come storici, antropologi e critici letterari. Questi campi hanno studiato per secoli come la conoscenza viene creata, come vengono formate le categorie e come il potere influenza ciò che consideriamo vero. Il documento sostiene che questi studiosi non dovrebbero essere solo critici della tecnologia, ma partecipanti attivi nella sua progettazione. Possono aiutare a definire cosa significhi per una macchina essere "culturalmente competente" e possono aiutare a costruire test che rivelino i pregiudizi nascosti e i limiti degli attuali sistemi.

Il documento conclude che il futuro dell'intelligenza artificiale non riguarda la costruzione di macchine più veloci o potenti, ma la costruzione di sistemi più responsabili. Un sistema veramente intelligente non dovrebbe solo essere in grado di risolvere un problema, ma dovrebbe essere in grado di comprendere il problema stesso. Dovrebbe sapere quando una domanda è ingiusta, quando una categoria è obsoleta o quando una rappresentazione è dannosa. Dovrebbe essere in grado di riconoscere i limiti della propria conoscenza. L'autore suggerisce che le discipline umanistiche siano il luogo perfetto per testare queste capacità, perché trattano proprio le cose con cui le macchine faticano: l'ambiguità, la storia e il complesso intreccio delle relazioni umane.

In definitiva, l'obiettivo non è far sì che le macchine agiscano esattamente come gli umani, ma creare sistemi che possano lavorare responsabilmente accanto a noi. Ciò significa sviluppare macchine che possano distinguere tra un fatto e un'opinione, tra uno stereotipo e una realtà, e tra un tentativo sicuro e una verità ben supportata. Il documento suggerisce che, se riusciremo in questo, saremo passati dalla semplice esecuzione di compiti a una forma di intelligenza che è veramente generale e veramente utile. Il viaggio davanti a noi non è solo quello di progettare robot migliori o software più intelligenti; è quello di ripensare cosa significhi sapere qualcosa in un mondo che cambia costantemente. Il passo più importante è garantire che, mentre questi sistemi diventano più capaci, diventino anche più umili, riconoscendo che alcune domande richiedono più di una semplice risposta.