Beyond Epistemia: Epistemic Schizologia and Large Language Models as Techno-Semiotic Machines

La Grande Illusione della Conoscenza: Quando le Parole Sembrano Intelligenti ma Non Sanno Nulla

Immaginate di camminare attraverso una gigantesca, antica biblioteca dove i libri sono scritti da uno scriba misterioso e invisibile. Questo scriba ha letto ogni libro della biblioteca e può scrivere istantaneamente una nuova pagina che suona esattamente come un vero libro di storia, un libro di testo scientifico o un contratto legale. Utilizza le parole giuste, la grammatica corretta e persino il tono appropriato. Ma ecco il trucco: lo scriba non sa realmente ciò che sta scrivendo. Non ha un cervello, non ha visto il mondo e non gli importa se ciò che scrive è vero o falso. Sa solo quali parole solitamente seguono altre parole.

Questo è il mondo dei Large Language Models (LLM), i programmi informatici super intelligenti alla base di strumenti come quello che potreste stare usando proprio ora. Gli scienziati e i filosofi si sono preoccupati di un problema specifico chiamato "Epistemia". Pensate a questo come a una "illusione della conoscenza". Accade quando la scrittura dello scriba è così fluida e convincente che smettiamo di chiederci: "È vero?" e iniziamo a pensare: "Wow, deve essere vero!". Ci sentiamo come se avessimo la risposta, ma non abbiamo realmente fatto il duro lavoro di verificare i fatti, cercare le prove o pensare in modo critico.

Il saggio che state per leggere approfondisce questo problema. Si chiede: Perché accade? È perché il computer è "rotto" rispetto a un essere umano? O il problema riguarda in realtà il modo in cui noi usiamo il computer? Gli autori sostengono che il modo usuale in cui confrontiamo umani e computer sia ingiusto. Suggeriscono un nuovo modo di guardare la questione, chiamandolo "Epistemic Schizologia" (un modo elaborato per dire "lo scisma della conoscenza"). Credono che il vero pericolo non sia solo che il computer sia stupido, ma che abbiamo costruito un sistema in cui il computer ci fornisce una risposta dall'aspetto perfetto, e noi ci dimentichiamo di riconnettere quella risposta al mondo reale di prove e responsabilità.

---

La Grande Idea del Saggio: Non è Colpa del Robot, è la Danza

Gli autori, Federico Cabitza e Gianluca Colombo, iniziano concordando con l'avvertimento di altri ricercatori (Quattrociocchi e colleghi). Ammettono che l'IA può ingannarci. Quando un'IA fornisce una risposta fluida e sicura, ci sembra di aver compiuto il ragionamento, ma non è così. Gli autori chiamano questo stato Epistemia: la sensazione di avere conoscenza senza aver compiuto il lavoro del giudizio.

Tuttavia, gli autori dicono che gli altri ricercatori stanno guardando il problema nel modo sbagliato. Stanno confrontando un essere umano adulto (che ha un corpo, una storia personale, amici e una coscienza) con un solitario programma informatico (che è solo una macchina matematica). Gli autori dicono che questo è come confrontare un calciatore professionista con una singola pallone da calcio. Naturalmente il giocatore è migliore! Ma questo non ci dice come si gioca davvero la partita.

Invece, gli autori propongono una nuova idea: la Epistemic Schizologia.
Immaginate una "schizologia" come uno strappo o una spaccatura in un pezzo di tessuto. In questo caso, il tessuto è la "conoscenza".

• Lato A dello strappo: L'IA produce una frase bellissima e plausibile. Sembra conoscenza. Ha il vocabolario e la struttura corretti.
• Lato B dello strappo: Il processo disordinato e reale di verifica dei fatti, di discussione con gli esperti, di ricerca di prove e di assunzione di responsabilità per essere giusti o sbagliati.

Il problema, dicono gli autori, è che l'IA ha creato una macchina capace di produrre perfettamente il Lato A, ma non ha modo di svolgere il Lato B. Peggio ancora, il modo in cui usiamo queste macchine spesso nasconde questo scisma. Otteniamo una risposta perfetta, e ci dimentichiamo che la parte di "verifica" è mancante.

L'Analogia della "Macchina Tecno-Semiotica"

Per spiegare cosa sia effettivamente un'IA, gli autori usano una metafora interessante. La chiamano una Macchina Tecno-Semiotica.
Pensatela come a un enorme, magico telaio.

• Il Filo: Il telaio viene alimentato con un enorme mucchio di fili fatti di tutto ciò che gli esseri umani hanno mai scritto (libri, siti web, articoli).
• Il Motivo: Il telaio non "comprende" i fili. Impara solo che i fili rossi di solito vanno insieme ai fili blu, e che "gatto" di solito va insieme a "topo".
• L'Output: Quando chiedete di tessere qualcosa, esso sputa fuori un nuovo pezzo di stoffa. Sembra esattamente un arazzo fatto a mano. Ha i motivi e i colori giusti.

Ma ecco il punto chiave: il telaio non sa cosa significa l'immagine. Non sa se l'immagine è la storia di un eroe o l'avvertimento di un mostro. Sa solo come tessere insieme i fili affinché sembrino giusti.

Gli autori sostengono che il pericolo non sia che il telaio sia "falso". Il pericolo è che trattiamo l'arazzo che il telaio produce come se fosse una storia finita e vera, senza controllare i fili che ha utilizzato.

La Trappola dell' "Eikotic Closure"

Il saggio introduce un altro concetto affascinante chiamato Eikotic Closure (Chiusura Eiotica).
"Eikos" è un antico termine greco per "plausibile" o "probabile".
Immaginate di leggere un romanzo giallo. Il detective dice: "Il maggiordomo è stato lui perché era arrabbiato". Suona plausibile.
Ora, immaginate che la storia finisca proprio lì. Il libro si chiude. Vi sentite soddisfatti. Pensate: "Caso risolto!".
Ma se il detective non avesse mai trovato la pistola? Se non avesse mai controllato l'alibi? Se il maggiordomo fosse stato in realtà innocente?

Eikotic Closure è quando l'IA vi fornisce una risposta "plausibile" e l'interfaccia (lo schermo, la casella di chat) agisce come se il libro si stesse chiudendo. Fa apparire la risposta finita, definitiva e completa. Inganna il vostro cervello facendovi credere che il "lavoro" sia stato svolto. Gli autori dicono che questa è una scelta di design. L'IA non si limita a sputare parole; le sputa in un modo che sembra un verdetto finale. Questo ci impedisce di porre domande.

Perché il confronto "Umano vs Robot" è sbagliato

Gli autori sono molto chiari su ciò che sono contro. Sostengono che non dobbiamo cercare di rendere il robot "pi più umano".

• Dicono che non dovremmo cercare di dare al robot una "coscienza" o delle "credenze". Questo è impossibile e manca il punto.
• Dicono che non dovremmo incolpare il robot per essere "stupido" mentre lodiamo gli umani per essere "intelligenti". In realtà anche gli umani sono piuttosto maldestri nel verificare i fatti! Ci stanchiamo, diventiamo pigri e commettiamo errori.
• Argomentano che la conoscenza umana si è sempre basata sugli strumenti. Usiamo penne, biblioteche e computer per pensare. Il problema non è che l'IA sia uno strumento; il problema è che la stiamo usando in un modo che rompe la catena della fiducia.

La Soluzione: Sistemare la Danza, non il Ballerino

Quindi, cosa suggeriscono di fare gli autori? Dicono che dobbiamo smettere di cercare di riparare il robot e iniziare a riparare la pratica (il modo in cui lavoriamo insieme).

Propongono cinque "impegni" su come dovremmo progettare questi sistemi:

1. Mostrare la Genealogia (L'Albero Genealogico): Non dare solo la risposta. Mostra l' "albero genealogico" della risposta. Da dove vengono le parole? Quali libri ha letto l'IA? Se ha fatto una supposizione, mostra la supposizione. Abbiamo bisogno di poter risalire alla risposta nel mondo reale.
2. Mantenere l'Opzione "No": A volte la risposta giusta è "Non lo so" o "Questo è controverso". L'IA non dovrebbe sempre cercare di dare una risposta perfetta e fluida. Dovrebbe essere autorizzata a dire: "Ehi, c'è un disaccordo qui", o "Mi mancano alcuni fatti". Questa "attrito" è positivo perché ci costringe a pensare.
3. Condividere la Colpa (e il Merito): Se avviene un errore, di chi è la responsabilità? Non è solo del robot. È della persona che ha posto la domanda, dell'azienda che ha costruito il robot e della persona che usa la risposta. Dobbiamo sapere chi è al comando.
4. Mantenere l'Umano al Volante: Non dovremmo limitarci a cliccare "approva" su tutto. Dobbiamo essere in grado di controllare il lavoro, chiedere versioni diverse e capire perché l'IA ha detto ciò che ha detto.
5. Testare la Squadra, non solo il Robot: Non dovremmo solo chiederci: "Il robot è intelligente?". Dovremmo chiederci: "La squadra composta da Umano + Robot sta lavorando bene insieme?". Stanno prendendo decisioni migliori? Stanno intercettando gli errori?

La Conclusione

Il saggio conclude che il problema non è che l'IA sia un "finto essere umano". Il problema è che abbiamo creato uno scisma (schizologia) tra l' aspetto della conoscenza e il lavoro della conoscenza.

L'IA è come un grande chef capace di cucinare un pasto che sembra e ha il sapore di una cena gourmet, ma lo chef non ha mai assaggiato il cibo, non ha mai visto una fattoria e non sa se gli ingredienti siano freschi. Se mangiamo semplicemente il pasto e diciamo "Delizioso!", senza controllare la cucina, potremmo ammalarci.

Gli autori dicono che dobbiamo smettere di cercare di far "assaggiare" il cibo al chef. Invece, dobbiamo costruire una cucina dove gli ingredienti siano visibili, il processo di cottura sia aperto e la persona che consuma il pasto sappia come verificare se è sicuro. Dobbiamo riconnettere le bellissime parole che l'IA scrive con il disordinato lavoro del mondo reale necessario per dimostrare che siano vere.

In breve: Non fidatevi della voce fluida. Fidatevi del processo. Il saggio suggerisce che se progettiamo i nostri sistemi in modo da mantenere visibile lo "scisma" — in modo da poter sempre vedere da dove proviene la risposta e di chi è la responsabilità — possiamo usare queste potenti macchine senza perdere la ragione.