High-Risk Memories? Comparative audit of the representation of Second World War atrocities in Ukraine by generative AI applications
Questo studio analizza come le applicazioni di intelligenza artificiale generativa gestiscono la memoria ad alto rischio degli atrocità della Seconda Guerra Mondiale in Ucraina, evidenziando i rischi di distorsione fattuale, allucinazioni e moralizzazione incoerente che minacciano la rappresentazione storica.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate di avere un assistente personale super intelligente, capace di scrivere, parlare e raccontare storie su qualsiasi argomento, anche sulla storia. Questo assistente è l'Intelligenza Artificiale Generativa (come ChatGPT o Gemini). Sembra magico, vero? Ma cosa succede se chiediamo a questo assistente di raccontarci una storia molto dolorosa e complessa, come gli orrori della Seconda Guerra Mondiale in Ucraina?
Questo studio, scritto da tre ricercatori dell'Università di Berna, ci dice che questo assistente magico è, in realtà, un po' come un bambino molto veloce che impara a memoria i libri di storia, ma non li ha mai davvero capiti.
Ecco cosa hanno scoperto, spiegato in modo semplice:
1. Il "Falso Amico" che inventa le cose (Le Allucinazioni)
Immaginate di chiedere a questo assistente: "Quante persone sono state uccise in quel massacro?".
Un essere umano storico guarderebbe i documenti veri. L'IA, invece, funziona come un giocatore di poker che deve sempre rispondere: non sa la verità, ma indovina la parola più probabile da dire dopo.
- Il risultato: Spesso l'IA inventa fatti che sembrano plausibili ma sono completamente falsi. Chiamano questo "allucinazione".
- L'esempio: In alcuni casi, l'IA ha inventato testimonianze di persone che non sono mai esistite o ha detto che un leader storico ha fatto cose che non ha mai fatto. È come se il vostro amico vi raccontasse un viaggio che non ha mai fatto, descrivendo dettagli così vividi che vi convincete che sia vero.
2. Il "Traduttore" che sbaglia (Il problema delle lingue)
Lo studio ha testato l'IA in tre lingue: inglese, ucraino e russo.
- L'analogia: Pensate all'IA come a un traduttore che ha studiato moltissimo in inglese, ma ha solo letto qualche fumetto in ucraino e russo.
- Il risultato: Quando si parla di eventi accaduti in Ucraina, l'IA è molto più precisa in inglese. Ma se gli chiedete la stessa cosa in ucraino o in russo, spesso sbaglia o non risponde affatto. È come se avesse una "memoria selettiva": ricorda bene le cose che sono state scritte in inglese, ma si perde quando deve parlare la lingua di chi ha vissuto quei fatti.
3. Il "Giudice" incoerente (La moralizzazione)
L'IA non si limita a raccontare i fatti; spesso cerca di insegnarci una lezione morale. Ma qui c'è il problema: è un giudice molto incoerente.
- L'analogia: Immaginate un giudice che, in un giorno, condanna duramente un crimine dicendo "È un orrore che non dovremo mai dimenticare!", e il giorno dopo, parlando dello stesso crimine ma in un'altra lingua, dice semplicemente "È successo, è triste".
- Il risultato: A volte l'IA usa parole molto forti ("brutale", "tragedia", "capitolo oscuro") per descrivere certi eventi, e altre volte è molto fredda. Questo crea confusione: a seconda della lingua che usate, l'IA vi darà un messaggio morale diverso sullo stesso evento storico.
4. Perché è pericoloso?
Perché l'IA non ha "coscienza" o "memoria emotiva". Non sa cosa significhi il dolore umano.
- Se chiedete all'IA di parlare di atrocità contro gli ebrei, i polacchi o gli ucraini durante la guerra, lei cerca di indovinare cosa dire basandosi su ciò che ha letto online.
- Il problema è che online ci sono molte versioni diverse della storia, alcune vere, altre false (propaganda). L'IA mescola tutto e a volte restituisce una versione distorto della realtà.
- Il rischio: Se le persone usano l'IA per imparare la storia (specialmente su temi delicati come l'Olocausto o le guerre recenti), potrebbero finire per credere a bugie che sembrano molto vere, perché l'IA le dice con sicurezza.
In sintesi
Questo studio ci avverte che l'Intelligenza Artificiale è un potente strumento, ma non è un archivio di verità. È più come un "narratore di storie" che a volte confonde la fantasia con la realtà.
Quando si tratta di memorie dolorose e controverse (come le atrocità di guerra), l'IA rischia di:
- Inventare fatti (allucinazioni).
- Essere molto meno precisa nelle lingue locali (ucraino/russo).
- Dare lezioni morali in modo disordinato e confuso.
Il consiglio dei ricercatori? Non fidatevi ciecamente dell'IA per la storia. Usatela con cautela, controllate sempre le fonti e ricordate che, per ora, l'IA non ha il cuore né la coscienza necessaria per capire il peso della storia umana.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.