Shaping the Future of Generative AI for Black Communities: A Frame Analysis of Public Discourse and Empirical Scholarly Research

Immaginate un mondo in cui i computer possono scrivere storie, generare immagini e rispondere a domande con la stessa facilità di una conversazione umana. Questa tecnologia, nota come intelligenza artificiale generativa, si sta spostando rapidamente dalla fantascienza alle scuole, agli ospedali e ai luoghi di lavoro. Ma mentre questi strumenti diventano parte della vita quotidiana, sorge una domanda critica: a chi servono e chi lasciano indietro? Per decenni, i ricercatori hanno saputo che i sistemi informatici possono apprendere i pregiudizi dei loro creatori, trattando spesso in modo ingiusto le persone di colore. Questo nuovo studio pone una domanda più profonda su come parliamo di questi problemi. Esamina due diversi gruppi di persone che cercano di risolvere queste questioni: i giornalisti e i leader delle comunità che scrivono nelle notizie, e gli scienziati che pubblicano articoli nelle riviste accademiche. I ricercatori volevano vedere se questi due gruppi stessero guardando lo stesso problema nello stesso modo, o se stessero parlando lingue completamente diverse.

Lo studio, condotto da un team di studiosi e ricercatori del settore, si è posto l'obiettivo di confrontare come il pubblico comprenda i pericoli dell'intelligenza artificiale per le comunità nere rispetto a come gli scienziati studiano quegli stessi pericoli. Hanno raccolto due grandi collezioni di testi da analizzare. La prima collezione consisteva in 28 risorse pubbliche, come articoli di giornale, pezzi d'opinione e rapporti di think tank, che rappresentano il modo in cui il pubblico generale e i media discutono di questi temi. La seconda collezione era una revisione sistematica di 91 articoli scientifici pubblicati nelle principali conferenze di informatica tra il 2010 e il 2025. Il team ha utilizzato un metodo chiamato analisi del frame (frame analysis) per leggere questi testi. Questo approccio non si limita a contare le parole; osserva come viene costruita una storia. Si pone quattro domande specifiche: Come viene definito il problema? Cosa viene identificato come causa? Qual è il giudizio morale della situazione? E quale soluzione viene proposta? Applicando questa lente sia alle notizie che alla scienza, i ricercatori sono stati in grado di mappare esattamente dove i due mondi si allineano e dove divergono.

I risultati rivelano una significativa discrepanza tra come il pubblico vede la questione e come i ricercatori stanno cercando di risolverla. Nel discorso pubblico, la storia è chiara e strutturale. Quando i giornalisti e i leader delle comunità discutono dei danni causati dall'intelligenza artificiale, indicano quasi sempre radici profonde e storiche. Descrivono il problema come il risultato di secoli di razzismo sistemico e politiche ingiuste che hanno plasmato la società. Le loro soluzioni proposte sono altrettanto ampie, invocando regolamentazioni governative, cambiamenti nelle pratici di assunzione e nuove leggi per proteggere le comunità. Vedono la tecnologia come uno specchio che riflette una società ferita, e sostengono che riparare lo specchio richieda il riparare la società stessa.

Al contrario, la letteratura scientifica racconta una storia diversa, molto più ristretta. I ricercatori hanno scoperto che la stragrande maggioranza dei 91 articoli accademici si concentrava quasi esclusivamente su correzioni tecniche. Quando gli scienziati identificavano un problema, raramente guardavano alla storia o alla società come causa. Invece, indicavano i dati utilizzati per addestrare i modelli informatici. Sostenevano che il pregiudizio esistesse perché i dati di addestramento erano difettosi. Di conseguenza, le loro soluzioni erano quasi interamente tecniche: proponevano la creazione di dataset migliori, la scrittura di nuovo codice per rilevare errori o la regolazione degli algoritmi. Mentre il discorso pubblico invocava leggi e cambiamenti sociali, gli articoli scientifici invocavano una migliore ingegneria. Lo studio suggerisce che questo non sia un incidente o una semplice differenza di opinione. Piuttosto, indica che la comunità scientifica si è in gran parte fermata prima di affrontare le condizioni strutturali più profonde che permettono al pregiudizio di esistere in primo luogo.

La scoperta forse più sorprendente è stata ciò su cui entrambi i gruppi concordavano, e ciò che entrambi hanno trascurato. Sia gli articoli di giornale che gli articoli scientifici concordavano sul fatto che il danno più visibile fosse il "danno rappresentativo" (representational harm). Questo si riferisce al modo in cui questi sistemi distorcono o cancellano l'identità nera, come generare immagini di persone nere con la pelle più chiara o usare stereotipi nel testo. Poiché entrambi i gruppi si sono concentrati così intensamente su questo specifico tipo di danno, entrambi hanno proposto soluzioni volte a rendere le immagini e le parole più accurate. Tuttavia, facendo ciò, entrambi hanno ampiamente ignorato una prospettiva cruciale: l'idea che le comunità nere dovrebbero essere quelle che guidano la progettazione e il processo decisionale di queste tecnologie. Lo studio ha scoperto che nelle notizie, le persone nere venivano spesso ritratte come vittime che necessitano di protezione, mentre nei documenti scientifici venivano trattate come soggetti da studiare o punti dati da misurare. Né i giornalisti né gli scienziati hanno inquadrato costantemente le comunità nere come gli esperti o gli architetti che dovrebbero decidere come questi potenti strumenti vengano costruiti e governati.

I ricercatori sostengono che questo focus condiviso sulla rappresentazione, pur essendo importante, sia una trappola. Concentrandosi solo sul rendere la tecnologia più equa o accurata, entrambi i gruppi perdono di vista il quadro generale. Stanno cercando di riparare l'output della macchina senza mettere in discussione le regole che governano la creazione della macchina stessa. Lo studio suggerisce che il vero progresso richiede più di semplici dati migliori o nuove leggi; richiede un cambiamento fondamentale in chi detiene il potere. Chiede un futuro in cui le comunità nere non siano solo consultate come una formalità, ma siano riconosciute come le autorità primarie su cosa queste tecnologie debbano fare e come debbano essere utilizzate. Finché la comunità scientifica non andrà oltre i piccoli aggiustamenti tecnici per confrontarsi con le realtà strutturali della società, e finché il discorso pubblico non andrà oltre il vedere le persone nere come recettori passivi della tecnologia, il divario tra la promessa dell'intelligenza artificiale e la realtà del suo impatto rimarrà ampio. Lo studio conclude che colmare questo divario richiede un nuovo modo di pensare, uno che tratti la conoscenza e l'esperienza nera non come una variabile da correggere, ma come la base per costruire un futuro migliore.