Decolonizing AI Ethics in Education: A Systematic Review and Glocalized Framework (FGAIEE)

Immaginate un mondo in cui le regole su come trattiamo gli altri sono scritte da un unico gruppo di persone, usando solo la propria storia e il proprio linguaggio, e poi applicate a tutti gli altri. Questa è l'attuale realtà dell'intelligenza artificiale nelle scuole. Man mano che i computer diventano più intelligenti, vengono utilizzati sempre più per valutare test, raccomandare lezioni e persino decidere chi viene ammesso all'università. Ma le linee guida etiche destinate a mantenere questi sistemi equi sono per lo più create in nazioni ricche e occidentali. Queste linee guida presuppongono che tutti pensino, parlino e apprendano nello stesso modo. Quando queste regole vengono applicate agli studenti in Africa, Asia o America Latina, spesso falliscono. Potrebbero fraintendere l'accento di uno studente, ignorare i valori culturali locali o semplicemente non funzionare perché la connessione internet è troppo lenta. Il risultato è un sistema che dichiara di essere equo ma che in realtà spinge certi gruppi ulteriormente ai margini.

Questo squilibrio ha scatenato una nuova domanda tra i ricercatori: chi decide cosa è giusto? Un team di studiosi dall'Indonesia si è posto l'obiettivo di rispondere a questo problema analizzando come l'etica dell'IA venga effettivamente utilizzata nelle classi di tutto il mondo. Non si sono limitati a leggere le regole; hanno esaminato gli 84 studi pubblicati che discutono le persone che hanno scritto le linee guida, gli studenti che esse influenzano e i luoghi in cui vengono utilizzate. Il loro obiettivo era trovare un modo per rendere l'etica dell'IA funzionale per tutti, non solo per i pochi che detengono il potere di scrivere le linee guida. Chiamano questo approccio "glocal", una fusione di globale e locale, suggerendo che le buone regole debbano essere create con il mondo intero in mente, ma costruite per adattarsi alle esigenze specifiche di ogni comunità.

I ricercatori hanno iniziato raccogliendo 84 diversi studi pubblicati tra il 2015 e il 2025. Hanno cercato qualsiasi ricerca che discutesse come l'IA venga utilizzata nell'istruzione e se fosse equa. Hanno setacciato migliaia di articoli, tenendo solo quelli che offrivano prove reali o un'analisi approfondita di come questi sistemi funzionano nella pratica. Hanno prestato particolare attenzione agli studi provenienti dal "Sud del mondo", un termine usato per descrivere regioni che sono state spesso lasciate fuori dalle conversazioni principali sulla tecnologia, inclusi paesi dell'Africa, dell'America Latina e parti dell'Asia. Concentrandosi su queste voci all'interno della letteratura esistente, il team sperava di vedere un quadro diverso di ciò che l'etica dell'IA dovrebbe essere.

Ciò che hanno scoperto è un netto divario. La stragrande maggioranza delle regole e delle linee guida proviene da istituzioni dell'Europa e del Nord America. Queste regole sono spesso scritte come una semplice lista di controllo di valori, come "sii equo" o "sii trasparente". Tuttavia, lo studio mostra che queste liste di controllo raramente cambiano il modo in cui le cose funzionano effettivamente nelle scuole di altre parti del mondo. In molti casi, le scuole del Sud del mondo sono chiamate ad adottare queste regole occidentali senza che venga chiesto loro un parere. I ricercatori hanno scoperto che quando i sistemi di IA sono costruiti utilizzando solo dati in inglese e idee occidentali, commettono errori più spesso per gli studenti che parlano altre lingue o che provengono da contesti culturali diversi. Ad esempio, gli strumenti di valutazione automatizzata spesso faticano con i parlanti non madrelingua inglesi, assegnando loro punteggi più bassi non perché il loro lavoro sia peggiore, ma perché il computer non comprende il loro modo di parlare.

Lo studio ha anche rivelato che le persone che dovrebbero essere protette da queste regole — insegnanti, studenti e leader locali — sono raramente parte del processo decisionale. Nei pochi casi in cui le comunità locali sono state coinvolte, il coinvolgimento è stato spesso solo una formalità, una casella da spuntare piuttosto che una vera partnership. I ricercatori hanno osservato che quando le voci locali vengono ignorate, la tecnologia spesso non riesce a risolvere i problemi che doveva risolvere. Invece di aiutare tutti a imparare, può approfondire le disuguaglianze esistenti, rendendo più difficile per chi sta già lottando per stare al passo.

Tuttavia, la storia non finisce con un fallimento. I ricercatori hanno anche scoperto un crescente movimento di soluzioni locali che funzionano molto meglio. In Ghana, ad esempio, le scuole utilizzano un concetto chiamato "Ubuntu", che sottolinea che una persona è una persona attraverso le altre persone. Questa idea viene usata per progettare sistemi di IA che si concentrano sulla fiducia della comunità e sulla responsabilità condivisa piuttosto che solo sui punteggi individuali. Nel sud-est asiatico, un altro approccio chiamato "gotong royong", che significa lavorare insieme per il bene comune, viene utilizzato per garantire che tutti abbiano voce in capitolo su come la tecnologia viene utilizzata. Questi metodi locali non sono solo piccoli aggiustamenti alle grandi regole globali; sono modi completamente diversi di pensare a ciò che è giusto e sbagliato. Essi trattano la conoscenza locale come altrettanto importante della scienza occidentale.

Il team ha concluso che l'attuale modo di procedere è rotto perché tratta l'etica come un prodotto preconfezionato per tutti. Sostengono che dobbiamo smettere di cercare di imporre un unico insieme di regole a tutto il mondo. Invece, propongono un nuovo modello chiamato Framework per l'Etica dell'IA Glocal nell'Istruzione (Framework for Glocalized AI Ethics in Education). Questo approccio suggerisce che le regole etiche dovrebbero essere costruite dal basso verso l'alto. Significa che quando una scuola in un paese diverso vuole utilizzare l'IA, dovrebbe essere in grado di dare forma alle regole per adattarle alla propria cultura, lingua e necessità. Significa anche che le aziende che vendono questi strumenti dovrebbero essere tenute a dimostrare che i loro sistemi funzionano equamente per gli studenti locali prima di poterli vendere.

I ricercatori suggeriscono tre passaggi principali per rendere questo possibile. Primo, la conoscenza che guida questi sistemi deve provenire da molti posti diversi, non solo da uno. Secondo, le persone che utilizzano la tecnologia devono avere una voce reale nel modo in cui essa viene progettata e controllata. Terzo, devono esserci conseguenze reali se la tecnologia non riesce a essere equa, come il rifiuto di acquistare strumenti che non funzionano per tutti. Questo non riguarda solo l'essere gentili; riguarda l'assicurarsi che la tecnologia funzioni davvero per tutti. Lo studio mostra che quando le comunità locali sono coinvolte nella progettazione, la fiducia nel sistema aumenta e la tecnologia diventa più utile per tutti.

Questo nuovo modo di pensare non significa gettare via tutte le vecchie regole. Al contrario, significa cambiare il modo in cui le creiamo. Si tratta di riconoscere che ci sono molti modi per essere etici, proprio come ci sono molti modi per parlare una lingua o insegnare una lezione. I ricercatori credono che se riusciremo a costruire un sistema che rispetti queste differenze, potremo creare un'IA che aiuti davvero tutti gli studenti a imparare. Non stanno dicendo che questo sia facile o che accadrà da un giorno all'altro. Ma sono chiari sul fatto che l'attuale percorso, in cui pochi gruppi potenti decidono per tutti, non sta funzionando. Il futuro dell'IA nell'istruzione dipende dall'ascoltare le persone che la utilizzano effettivamente e dal garantire che le loro voci siano ascoltate nella progettazione degli strumenti che daranno forma al loro futuro.