Pragmatics beyond humans: meaning, communication, and LLMs
Questo articolo sostiene che l'emergere dei grandi modelli linguistici renda necessaria una riconcettualizzazione della pragmatica oltre i tradizionali quadri antropocentrici, proponendo invece un approccio di Comunicazione Uomo-Macchina che affronti i pregiudizi antropomorfici, adotti modelli probabilistici come il Rational Speech Act e tenga conto del paradosso della "frustrazione del contesto" nelle interazioni con l'IA generativa.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Il linguaggio è molto più di una semplice sequenza di parole disposte secondo regole grammaticali. È uno strumento sociale, un modo per le persone di agire insieme, condividere intenzioni e navigare nelle complesse regole non scritte di una conversazione. Per decenni, i linguisti hanno cercato di mappare il funzionamento del significato scomponendolo in tre livelli: la struttura della frase, la definizione letterale delle parole e il contesto in cui vengono pronunciate. Questo terzo livello, noto come pragmatica, è dove avviene la vera magia della comunicazione umana. È la differenza tra un'affermazione di fatto e una richiesta, o tra una battuta e un insulto, a seconda interamente di chi parla, quando e perché. Ora, un nuovo tipo di macchina è entrato nella conversazione. I grandi modelli linguistici, i potenti sistemi di intelligenza artificiale in grado di scrivere saggi, rispondere a domande e sostenere conversazioni, stanno costringendo gli scienziati a ripensare queste vecchie mappe. La domanda centrale non è più solo se queste macchine possano imitare il parlato umano, ma se comprendano affatto la danza sociale del significato, o se stiano semplicemente predicendo la parola successiva in una sequenza senza mai afferrare l'intento che vi sta dietro.
Un ricercatore di nome Vít Gvoždiak ha esaminato da vicino il modo in cui studiamo queste macchine e le teorie che usiamo per giudicarle. Egli sostiene che i nostri attuali metodi siano difettosi perché tentano di infilare un perno quadrato in un buco rotondo. Per molto tempo, il modo standard per valutare questi modelli è stato quello di trattarli come esseri umani. I ricercatori chiedono loro di eseguire compiti che richiedono la comprensione di segnali sociali, come riconoscere una scusa o rilevare il sarcasmo, e poi confrontano le loro risposte con ciò che direbbe una persona. Se la macchina ci azzecca, viene spesso lodata per avere "competenza pragmatica". Se sbaglia, si dice che manchi di comprensione. Gvoždiak suggerisce che questo approccio sia fuorviante. Presuppone che, poiché la macchina produce un testo simile a quello umano, debba operare secondo principi simili a quelli umani. Ma queste macchine non sono umane; sono motori statistici addestrati su enormi quantità di testi tratti da internet. Non si curano della verità o della cooperazione sociale come fanno le persone; si curano della probabilità. Sono progettate per indovinare quale parola sia più probabile che venga dopo, non per comunicare una realtà condivisa.
Il saggio propone di smettere di cercare di inserire queste macchine in categorie umane e di guardare invece al modo unico in cui interagiscono con noi. Gvoždiak suggerisce un nuovo quadro teorico chiamato Comunicazione Uomo-Macchina. Questo approccio riconosce che quando una persona parla con un chatbot, non sta parlando solo a uno strumento, né sta parlando a una persona. Si trova in uno spazio ibrido dove entrambe le parti modellano la conversazione in modi che non sono mai esistiti prima. La macchina non è un ricevente passivo di comandi, e l'essere umano non è solo un utente. Sono co-cospiratori in un nuovo tipo di dialogo. L'autore sottolinea che gran parte della ricerca attuale soffre di un problema che lui chiama "sostituzionalismo". Ciò accade quando gli scienziati prendono i risultati di un modello specifico, o di una lingua specifica come l'inglese, e assumono che si applichino a tutta l'intelligenza artificiale e a tutte le lingue umane. Ancora più sottilmente, i ricercatori spesso sostituiscono il partecipante umano in una conversazione con una macchina, assumendo che la macchina possa stare al posto di una persona. Questo li acceca rispetto a come gli esseri umani cambino effettivamente il proprio comportamento quando parlano con una macchina. Le persone stanno iniziando a parlare diversamente, usando frasi e strutture che imitano l'IA, creando un ciclo di feedback in cui la macchina influenza l'umano tanto quanto l'umano influenza la macchina.
Uno dei risultati più sorprendenti del saggio è il concetto di "frustrazione del contesto". Nella conversazione umana, il contesto è la conoscenza di base condivisa che ci permette di capirci. Se dico "Fa freddo qui dentro", tu sai che potrei chiederti di chiudere la finestra. Con una macchina, questa base condivisa manca. La macchina non ha una storia personale, non ha un corpo fisico e non ha esperienze nel mondo reale. Per far comprendere la macchina, gli esseri umani sono costretti a fare un lavoro extra. Devono scrivere prompt lunghi e dettagliati, specificando esattamente chi la macchina debba fingere di essere, qual è l'ambientazione e qual è l'obiettivo della conversazione. Questo è un fenomeno noto come prompt engineering. L'ironia è che, mentre la tecnologia sta diventando più brava a elaborare sempre più informazioni — ricordando conversazioni più lunghe e leggendo documenti più ampi — l'utente umano si sente più frustrato. La capacità della macchina di gestire enormi quantità di dati non ha risolto il problema della comprensione condivisa; ha reso il divario tra l'umano e il contesto della macchina ancora più ampio. L'utente cerca costantemente di costruire un ponte di contesto per la macchina, solo per scoprire che la comprensione della macchina è ancora fondamentalmente diversa dalla propria.
Il saggio conclude che dobbiamo smettere di chiederci se le macchine possano essere umane e iniziare a chiederci in che modo siano diverse. Le vecchie teorie del linguaggio, che sono state costruite per l'interazione uomo-uomo, non sono sufficienti per spiegare ciò che sta accadendo ora. Abbiamo bisogno di nuovi modi di pensare che riconoscano la natura unica della macchina. Invece di giudicare una macchina in base al fatto che possa superare un test progettato per una persona, dovremmo studiare le uniche conversazioni ibride che avvengono tra persone e macchine. Queste interazioni stanno creando nuove forme di significato, nuove regole sociali e nuove sfide. L'autore suggerisce che il futuro dello studio del linguaggio risieda nel comprendere questa partnership, dove umani e macchine si adattano costantemente l'uno all'altro, creando uno spazio condiviso che non è né pienamente umano né pienamente meccanico, ma qualcosa di completamente nuovo. L'obiettivo non è rendere la macchina più simile a noi, ma capire come stiamo cambiando in sua presenza.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.