Whose story gets told? ChatGPT, collective memory, and ethical narratives in the age of Artificial Intelligence
Questo articolo sostiene che, sebbene strumenti di IA come ChatGPT possano democratizzare l'accesso alla conoscenza storica, essi rischiano di distorcere la memoria collettiva attraverso pregiudizi algoritmici e incongruenze fattuali, rendendo necessaria una supervisione umana eticamente fondata per garantire che le narrazioni storiche rimangano prodotti di riflessione critica piuttosto che rappresentazioni automatizzate.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Nell'era digitale, la nostra comprensione del passato non è più conservata esclusivamente in polverosi archivi o nella memoria degli anziani. Essa vive nelle vaste e interconnesse reti di Internet, dove i sistemi di intelligenza artificiale agiscono come nuovi guardiani. Questi sistemi, noti come modelli linguistici di grandi dimensioni, sono addestrati su enormi collezioni di scritti umani. Essi non si limitano a recuperare fatti; sintetizzano le informazioni per creare storie e risposte. Ciò solleva una domanda profonda per storici e sociologi: quando chiediamo a una macchina di parlarci di una guerra o di un conflitto, di quale versione della storia disponiamo? Il concetto di "memoria collettiva" si riferisce alla storia condivisa che un gruppo racconta a se stesso sul proprio passato, una storia che plasma la propria identità. Se un algoritmo decide quali dettagli includere, quali lasciare fuori o come inquadrare una tragedia, esso rimodella efficacemente quella memoria condivisa. La preoccupazione non riguarda solo l'errore su una data, ma riguarda il rischio che questi strumenti possano levigare gli spigoli ruvidi e dolorosi della storia, trasformando complessi conflitti umani in riassunti neutri e sanificati che servono gli interessi dei creatori della tecnologia piuttosto che la verità.
Un team di ricercatori si è posto l'obiettivo di testare esattamente come questi strumenti di intelligenza artificiale gestiscano la realtà disordinata della storia. Si sono concentrati su una versione specifica e potente della tecnologia, chiamata ChatGPT, chiedendole di ripercorrere le storie di quattro grandi conflitti multinazionali: le guerre seguite alla dissoluzione della Jugoslavia, il lungo conflitto tra Israele e Palestina, le guerre coloniali combattute dal Portogallo in Africa e la guerra del Vietnam. Per vedere se la macchina raccontasse la stessa storia a tutti, i ricercatori non hanno chiesto soltanto in inglese. Hanno posto le stesse domande nelle lingue native delle persone coinvolte in ciascun conflitto, come il croato, il serbo, l'arabo, l'ebraico, il portoghese e il vietnamita. Hanno trattato la chatbot non solo come un motore di ricerca, ma come un partecipante attivo a una conversazione, osservando attentamente come costruiva le sue risposte, cosa sceglieva di ricordare e cosa sembrava dimenticare.
I risultati hanno rivelato che la macchina è tutt'altro che un osservatore neutrale. Invece di fornire una versione della storia singola e coerente, l'IA ha prodotto narrazioni diverse a seconda della lingua utilizzata per porre la domanda. Quando i ricercatori hanno chiesto della stessa evento in lingue diverse, le risposte spesso si contraddicevano in modi significativi. Ad esempio, quando le è stato chiesto di identificare l'evento finale più significativo delle guerre nell'ex Jugoslavia, la versione inglese indicava un accordo di pace in Macedonia del Nord nel 2001. La versione croata si fermava a un accordo di pace del 1995, mentre la versione serba estendeva la cronologia fino al processo del 2022 a un leader militare. Queste non erano solo variazioni minori nel modo di esprimersi; erano storie fondamentalmente diverse su quando il conflitto fosse terminato e su cosa fosse più importante. Lo studio ha scoperto che l'IA spesso rifletteva le narrazioni nazionali ufficiali della lingua che stava parlando, rinforzando efficacemente le specifiche prospettive politiche di quella regione piuttosto che offrire una visione globale equilibrata.
Oltre a queste incongruenze, i ricercatori hanno identificato un modello di errori e omissioni che distorceva il record storico. L'IA sbagliava frequentemente date e nomi, inventando talvolta eventi mai accaduti o confondendo l'ordine delle battaglie. Ancora più preoccupante era ciò che la macchina ometteva. Nel tentativo di essere utile, spesso saltava dettagli cruciali, come le vittime specifiche delle atrocità, il ruolo di certe forze militari o le cause complesse di una guerra. In un caso, l'IA ha descritto le guerre nelle colonie portoghesi come una storia singola e semplice, fondendo lotti distinti in diversi paesi in una narrazione piatta e uniforme. Questa "semplificazione" ha rimosso le uniche realtà politiche e sociali di ciascun conflitto. Lo studio ha inoltre notato una tendenza verso la "neutralizzazione", in cui l'IA utilizzava un linguaggio vago per evitare di attribuire responsabilità. Descriveva un genocidio come un "evento tragico" o un "crimine" senza nominare i colpevoli, cancellando efficacemente la specifica responsabilità degli attori coinvolti.
I ricercatori hanno concluso che questi modelli linguistici di grandi dimensioni non si limitano a riflettere il passato; essi lo stanno attivamente rimodellando. Poiché l'IA impara dai dati che le vengono forniti, essa eredita i pregiudizi e i punti ciechi di quei dati. Quando genera una storia su una guerra, non attinge da un record perfetto e oggettivo. Al contrario, sta predicendo la successiva parola probabile basandosi sui pattern nel suo addestramento, dando spesso priorità alle voci più comuni o dominanti nel suo database. Ciò significa che per gli utenti che si affidano a questi strumenti per la conoscenza storica, il passato diventa un prodotto della logica algoritmica piuttosto che della riflessione critica. Lo studio suggerisce che, senza la supervisione umana e un solido quadro etico, rischiamo di perdere la complessità della nostra storia condivisa a favore di una macchina che preferisce storie fluide, semplificate e talvolta contraddittorie. Il potere di decidere quali storie vengano raccontate, e come vengano raccontate, si è spostato dagli storici e dalle comunità al codice e ai dati che guidano questi sistemi digitali.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.