AI Narrative Breakdown. A Critical Assessment of Power and Promise

Il quadro generale: La nebbia della "Zeitgeist AI"

Immaginate di entrare in una stanza dove tutti urlano la parola "Magia!" davanti a ogni cosa. Se vedete un tostapane, qualcuno dice: "È magia!". Se vedete una calcolatrice, qualcuno dice: "È magia!". Se vedete un cane robotico, urlano: "È magia!".

L'autore chiama questo fenomeno "Zeitgeist AI". È un'etichetta di tendenza e vaga che appiccichiamo a qualsiasi cosa digitale solo per sembrare moderni. Il saggio sostiene che questa confusione sia pericolosa. Dobbiamo smettere di trattare l'IA come una forza della natura magica e iniziare a vederla per ciò che è realmente: uno strumento costruito dagli esseri umani, con scopi specifici e limiti specifici.

Il saggio separa la vera IA in due categorie:

1. IA Stretta (Lo Specialista): Questa è quella che abbiamo oggi. È come un grande chef che sa preparare la soufflé perfetta ma non sa riparare un rubinetto che perde o scrivere una poesia. È bravissima in un lavoro specifico (come il riconoscimento facciale o la traduzione di testi), ma inutile in tutto il resto.
2. IA Generale (Il Sogno della Fantascienza): Questo è il robot super-intelligente dei film che può pensare, sentire e imparare qualsiasi cosa come un essere umano. Il saggio sottolinea che questo non esiste ancora e non abbiamo prove che esisterà mai. Ma poiché continuiamo a parlarne, ci confondiamo su ciò che i nostri strumenti attuali possono effettivamente fare.

Scomporre i miti (Le "Narrazioni")

L'autore esamina le storie più comuni che le persone raccontano sull'IA e le fa scoppiare come palloncini. Ecco la scomposizione:

1. Il mito dell'Agenzia (La storia del "Ha deciso l'IA")

• La Storia: Le persone dicono: "L'IA ha deciso di fare questo".
• La Realtà: L'IA non ha un cervello, non ha desideri e non ha intenzioni. È come un pappagallo stocastico (un uccello che ripete le parole che sente in base ai modelli). Se un pappagallo dice "Ti amo", non significa che ti ama; sa solo che "amo" spesso segue "ti".
• La Conclusione: L'IA non "agisce". Essa calcola. Se qualcosa va storto, la responsabilità è degli esseri umani che hanno costruito o acquistato lo strumento, non della macchina.

2. Il mito dell'Autonomia (La storia dell' "Autogoverno")

• La Storia: Sentiamo parlare di auto o droni "autonomi" che prendono le proprie decisioni.
• La Realtà: Queste macchine sono più simili a auto telecomandate con un ottimo pilota automatico. Seguono regole stabilite dagli umani. Se un'auto a guida autonoma colpisce un pedone, non ha "scelto" di farlo; ha seguito un insieme di istruzioni che sono fallite in una situazione specifica. Gli obiettivi sono stati stabiliti dalle persone; la macchina ha solo eseguito.

3. Il mito della Veridicità (La storia del "Bugiardo")

• La Storia: Le persone temono che l'IA possa "mentire" o "truffarci".
• La Realtà: Non si può mentire se non si conosce la verità. L'IA non sa cosa sia vero o falso; predice solo la parola successiva in una frase basandosi su ciò che ha letto in precedenza. Se dice qualcosa di falso, non sta "mentendo"; sta solo allucinando un modello. L'azienda che vende l'IA è quella che ha un'agenda, non il software.

4. Il mito della Conoscenza (La storia dello "Studente Brillante")

• La Storia: L'IA "sa" le cose e comprende il mondo.
• La Realtà: L'IA è uno specchio statistico. Guarda miliardi di libri e articoli e impara quali parole solitamente stanno bene insieme. Non comprende il significato. È come un musicista che può suonare una canzone perfettamente perché ha memorizzato le note, ma non comprende l'emozione della canzone. Imita lo stile di una poesia o di un articolo di giornale, ma non ha idea di cosa significhino realmente le parole.

5. Il mito della Previsione (La storia della "Palla di Cristallo")

• La Storia: L'IA può prevedere il futuro, come la criminalità o il meteo.
• La Realtà: L'IA è brava a prevedere il tempo perché il meteo segue leggi fisiche. Ma è terribile nel prevedere il comportamento umano (come la criminalità) perché gli esseri umani non sono prevedibili come le rocce. Se chiedi a un'IA di prevedere la criminalità basandosi sui dati passati, essa farà solo ripetere il passato, inclusi tutto il razzismo e i pregiudizi del passato. Non sta vedendo il futuro; sta solo riciclando la storia.

6. Il mito della Neutralità (La storia del "Robot Obiettivo")

• La Storia: I computer sono neutrali ed equi.
• La Realtà: L'IA è come una lente fotografica. La lente non decide cosa è "reale", ma la persona che tiene la macchina fotografica decide dove puntarla e cosa tagliare fuori. Ogni sistema di IA è costruito da esseri umani che compiono scelte su quali dati includere e quali ignorare. Quelle scelte sono politiche e influenzate da pregiudizi. Non esiste il concetto di "dati grezzi" senza una mano umana dietro.

7. Il mito dell'Ottimizzazione Apolitica (La storia della "Soluzione Magica")

• La Storia: L'IA può risolvere grandi problemi come la fame o il traffico senza politica.
• La Realtà: Per "ottimizzare" qualcosa, bisogna prima decidere cosa sia "buono". Se chiedi a un'IA di risolvere il problema del traffico, vuoi aiutare i proprietari di auto o i ciclisti? Vuoi velocità o sicurezza? L'IA non può rispondere a queste domande. Queste sono scelte politiche. Pretendere che l'IA possa risolvere questi problemi senza un dibattito umano è come chiedere a una calcolatrice di decidere come dividere una pizza.

8. Il mito della Sostenibilità (La storia del "Salvatore Verde")

• La Storia: L'IA salverà il pianeta rendendo tutto più efficiente.
• La Realtà: Sebbene l'IA possa aiutare un po' (come nel raffreddare meglio i data center), spesso porta a un effetto rebound. Se rendi un data center più economico da gestire, le aziende ne costruiranno di più, consumando ancora più energia complessiva. Inoltre, il problema principale del cambiamento climatico non è la mancanza di informazioni; sappiamo già qual è il problema. Il problema è potere e politica. L'IA non può risolvere una lotta di potere.

9. Il mito della Democratizzazione (La storia dell' "Strumento per Tutti")

• La Storia: L'IA sarà presto gratuita e di proprietà di tutti.
• La Realtà: Costruire grandi sistemi di IA è come costruire una centrale nucleare. Richiede enormi quantità di denaro, energia e dati che solo alcune gigantesche corporazioni (come Google o OpenAI) possiedono. Possono lasciarti "affittare" lo strumento, ma non ti lasceranno mai possedere la fabbrica. Non è un orto comunitario; è un monopolio privato.

10. Il mito della Disoccupazione di Massa (La storia del "Killer di Lavori")

• La Storia: L'IA ci ruberà tutti i lavori e ci lascerà senza nulla da fare.
• La Realtà: I lavori non scompaiono semplicemente; essi cambiano. Di solito, questo significa che i buoni lavori diventano meno numerosi e i lavori cattivi, sottopagati, diventano più comuni. Ma il saggio sostiene che dare la colpa all' "IA" sia un trucco. In realtà, sono i capi aziendali che decidono di licenziare persone per risparmiare denaro. Dare la colpa alla macchina serve a nascondere i veri decisori.

Conclusione: Cosa dovremmo fare?

L'autore conclude che siamo attualmente intrappolati in un ciclo di pensiero da fantascienza. Siamo o terrorizzati dal fatto che l'IA ci distruggerà (distopia) o entusiasti del fatto che ci salverà (utopia). Entrambe le visioni sono errate.

L'IA è solo uno strumento, come un martello o una betoniera. Non ha un'anima e non ha un destino.

• Il Vero Pericolo: Il pericolo non è una rivolta dei robot. Il pericolo è che permettiamo a potenti aziende di usare questi strumenti per fare più soldi, ignorare l'ambiente e trattare male i lavoratori, il tutto fingendo che la tecnologia sia "neutra" o "magica".
• La Soluzione: Dobbiamo smettere di trattare l'IA come una forza misteriosa e iniziare a trattarla come una questione politica. Dobbiamo avere conversazioni oneste su chi controlla questi strumenti, chi ne beneficia e che tipo di società vogliamo effettivamente costruire.

In breve: L'IA non è un dio, e non è un mostro. È una macchina molto complessa costruita da esseri umani, per scopi umani. Se vogliamo un futuro migliore, dobbiamo riprenderci il controllo dalle narrazioni della "magia" e pretendere che gli esseri umani siano responsabili delle loro azioni.