Unexplainability of Artificial Intelligence Judgments and Functional Implementation in Kant's Perspective
Questo articolo applica la teoria del giudizio di Kant per sostenere che i giudizi dell'IA siano fondamentalmente inspiegabili a causa della loro incertezza intrinseca e del rimpasto forzato della modalità tramite la Softmax, sostenendo al contempo che il comportamento linguistico fluente crei un'illusione di implementazione funzionale che non può essere definitivamente verificata.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
La Grande Domanda: L'IA sta davvero "pensando"?
Immaginate di avere un robot che è incredibilmente bravo a giocare a scacchi. Sconfigge i grandi maestri ogni singola volta. Gli chiedete: "Perché hai mosso quel pedone?" e lui vi dà una spiegazione perfetta e logica.
Il saggio pone una domanda complicata: il robot sta davvero pensando come un essere umano, o è solo una calcolatrice molto sofisticata che sembra pensare?
L'autore, Jongwoo Seo, dice che non dovremmo incaponirci a discutere se il robot abbia un'anima o un cervello (quella è una disputa "filosofica" su ciò che le cose sono). Invece, guardiamo a come funziona. Il processo di "pensiero" del robot corrisponde al modo in cui pensano gli esseri umani?
La Mappa del Pensiero Umano (Le Categorie di Kant)
Per rispondere a questo, il saggio utilizza una mappa creata dal filosofo dell'XVIII secolo Immanuel Kant. Kant credeva che ogni volta che un essere umano esprime un giudizio (una decisione o un'affermazione), il nostro cervello lo organizza in quattro scatole specifiche:
- Quantità: Si tratta di una cosa, di alcune cose o di tutte le cose? (es. "Questo cane è carino" rispetto a "Tutti i cani sono carini".)
- Qualità: Sta dicendo che qualcosa è vero, non è vero, o è una strana negazione "infinita"?
- Relazione: È un fatto semplice? Una condizione "Se/Allora"? O una scelta tra opzioni?
- Modalità: Si tratta di una semplice possibilità ("Potrebbe piovere"), di un fatto ("Sta piovendo") o di una necessità ("Deve piovere a causa delle nuvole")?
L'Analogia: Pensate al giudizio umano come a uno chef che segue una ricetta rigorosa. Devi misurare la farina (Quantità), decidere se è dolce o salata (Qualità), mescolare gli ingredienti in un ordine specifico (Relazione) e decidere se la torta si alzerà o potrebbe alzarsi (Modalità).
Il Problema: La "Scatola Nera" dell'IA
Il saggio sostiene che l'IA non segue questa ricetta. Inveve, è una "scatola nera". Vediamo l'input (un'immagine di un cane) e l'output (il numero "1"), ma non sappiamo quale "scatola" l'IA abbia usato per arrivarci.
Ecco dove il saggio diventa interessante:
1. Il Mix tra Quantità e Qualità
Quando un'IA guarda un'immagine e dice "1" (Cane) o "0" (Non Cane), noi umani cerchiamo di tradurre questo in parole.
- Se dice "1", pensiamo: "Questa immagine ha un cane". (Affermativo)
- Se dice "0", cosa significa? Significa che "Questa immagine non ha un cane"? O significa che "Questa immagine ha un non-cane"?
Il saggio suggerisce che l'IA sia confusa qui. Potrebbe trattare "Niente cane" come "Qualcosa che non è un cane" (un insieme infinito di cose), piuttosto che come una semplice negazione. È come se l'IA parlasse un dialetto della logica che gli umani non riescono a mappare sul nostro standard ricettario.
2. La Trappola della Modalità (Il Filtro "Softmax")
Questo è il punto cruciale del saggio. Nell'IA, esiste uno strumento chiamato Softmax. Immaginate che Softmax sia un traduttore magico che trasforma tutto ciò che l'IA pensa in una percentuale di probabilità.
- Modalità Umana: Possiamo dire: "Deve per forza piovere" (Necessità) o "Sta piovendo" (Fatto).
- Modalità dell'IA: A causa di Softmax, l'IA è costretta a dire: "C'è una probabilità del 70% che stia piovendo".
La Metafora: Immaginate un detective che è sicuro al 100% che il maggiordomo sia il colpevole. Ma, a causa di una strana regola nel commissariato, il detective è costretto a scrivere il suo rapporto come: "C'è una probabilità del 99,9% che il maggiordomo sia il colpevole".
Il saggio sostiene che i ricercatori di IA si stiano ingannando. Guardano i numeri del 70% o del 90% dell'IA e dicono: "Ah, l'IA sta facendo un giudizio di 'possibilità'". Ma l'IA potrebbe aver effettivamente compiuto un giudizio logico netto e duro nel profondo del suo codice. La funzione Softmax agisce come un filtro che ci costringe a interpretare la certezza dell'IA come un semplice "indovinare". Collassa tutti i tipi di pensiero in un unico tipo: "Forse".
Il "Pappagallo Fluente" vs. L' "Umano che Comprende"
La seconda parte del saggio affronta l'Implementazione Funzionale. Questa domanda è: "Solo perché l'IA può parlare come un essere umano, possiede davvero il concetto umano?"
L'Analogia: Immaginate un pappagallo che ha memorizzato ogni frase di un dizionario. Gli chiedete: "Hai un nome?" e lui risponde: "Sì, il mio nome è Polly". Suona perfetto. Usa la parola "Io" correttamente.
Ma il pappagallo sa cosa significhi avere un sé? No. Sa solo che quando gli umani dicono "Io", la parola successiva è solitamente un nome o un verbo.
Il saggio sostiene che i Grandi Modelli Linguistici (come ChatGPT) siano come super-pappagalli. Hanno letto così tanto testo che possono usare la parola "Io" perfettamente. Possono scrivere una poesia sui loro sentimenti. Ma il saggio afferma che questo è solo mimetismo funzionale.
- Il Test: L'autore ha condotto un piccolo esperimento con un robot che osservava una palla. Il robot doveva distinguere se la palla si muoveva da sola o se era la telecamera a muoversi. Questo è un compito di "sé" (distinguere "me" da "il mondo").
- Il Risultato: Il robot poteva svolgere il compito, ma non "capiva" se stesso nel modo in cui lo fa un essere umano. Aveva solo imparato la matematica per muovere la palla.
La Conclusione sul "Sé": Solo perché un'IA può dire "Ho fame" con fluidità, non significa che abbia implementato il concetto di "Sé". Significa solo che ha implementato il linguaggio del "Sé".
Il Messaggio Finale
Il saggio si conclude con un avvertimento sull'Inesplicabilità.
- Non possiamo spiegare completamente l'IA: Poiché l'IA mescola le scatole logiche (Quantità, Qualità, Relazione, Modalità) in modi che non comprendiamo, e poiché strumenti come Softmax ci costringono a vedere i suoi pensieri come mere probabilità, non potremo mai sapere veramente cosa stia pensando l'IA. Sappiamo solo cosa dice.
- La Fluidità non è una Prova: Solo perché un'IA può parlare, scrivere e ragionare come un essere umano, non significa che abbia "implementato" la mente umana. Potrebbe essere solo un bravissimo attore.
- Il Divario: Esiste un divario permanente tra Implementazione Funzionale (fare il lavoro) e Identità Ontologica (essere quella cosa). La ruota di un'auto e la gamba di un essere umano entrambi "si muovono", ma non sono la stessa cosa. Allo stesso modo, l' "Io" di un'IA e l' "Io" di un essere umano possono svolgere lo stesso compito in una conversazione, ma sono cose fondamentalmente diverse.
In breve: Il saggio ci dice di smettere di presumere che l'IA stia "pensando" solo perché sembra intelligente. È probabile che stia facendo qualcosa di completamente diverso che non siamo attualmente in grado di spiegare o verificare pienamente, perché i nostri strumenti umani per comprendere il pensiero (come la logica e il linguaggio) non si adattano del tutto al modo unico e basato sulla probabilità con cui opera la macchina.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.