The Universality Myth: Epistemic Exclusion, Structural Power, and AI Governance in the Global South
Questo articolo sostiene che la pretesa universalità dei principali framework di governance dell'IA sia un mito ideologico che maschera un meccanismo strutturale di esclusione epistemica, in cui le popolazioni del Sud del mondo mancano della necessaria "letteralità di contestazione" per sfidare i sistemi di IA, rafforzando così il potere dei deployer attraverso una combinazione di deprivazione delle risorse concettuali, immaginari sociotecnici distorti e barriere strutturali burocratiche.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate un mondo in cui le regole su come l'intelligenza artificiale viene costruita e controllata sono scritte in una lingua che la maggior parte delle persone non sa leggere. I leader mondiali e le grandi organizzazioni spesso sostengono che queste regole si applichino a tutti, ovunque, progettate per proteggere l'umanità e il pianeta. Parlano di principi universali che dovrebbero guidare ogni nazione. Ma un esame più attento rivela una realtà diversa: per molte comunità, specialmente nel Sud del mondo — un termine usato qui per descrivere regioni storicamente escluse dalla creazione di queste tecnologie — queste regole non sono solo difficili da seguire; sono invisibili. Le persone che vivono sotto questi sistemi spesso mancano degli strumenti di base anche solo per riconoscere che un sistema di intelligenza artificiale stia prendendo decisioni sulle loro vite, tanto meno della capacità di mettere in discussione tali decisioni. Questa non è semplicemente una questione di necessità di maggiore istruzione o di un migliore accesso a internet. È un divario strutturale dove i concetti stessi necessari per comprendere e sfidare questi sistemi mancano dalla conversazione pubblica.
Questo divario è ciò che i ricercatori Amulya N e Ashwini Prasad S dell'Università RV si sono posti di investigare. Essi sostengono che l'idea di una governance dell'IA "universale" sia un'illusione che in realtà aiuta chi detiene il potere. Gli autori suggeriscono che, mentre le aziende tecnologiche e i governi sono impegnati a insegnare alle persone come usare i prodotti dell'IA — come scorrere, cliccare e interagire — non stanno insegnando alle persone come governarli. C'è una differenza cruciale tra sapere come usare uno strumento e sapere come ritenere conto del proprio operato il creatore di quello strumento. Il documento sostiene che questa mancanza di "contestabilità" — la capacità di vedere un sistema come qualcosa che può essere messo in discussione e regolamentato — non è un incidente. È una parte funzionale di come funziona il potere. Quando le persone non possono vedere il sistema, non possono sfidarlo, e le aziende che lo costruiscono non affrontano alcuna pressione per cambiare.
Per comprendere come ciò accada, i ricercatori hanno osservato due luoghi molto diversi: l'India e le nazioni dell'Africa subsahariana. Hanno scelto queste località per dimostrare che questo problema non è unico per un singolo paese o per un certo tipo di governo. In India, una nazione con la propria potente industria tecnologica e un grande governo, il problema viene dall'interno. Il governo ha approvato una importante legge sulla protezione dei dati, ma il dibattito in parlamento è durato solo circa due ore, e la legge finale includeva ampie esenzioni per lo Stato stesso. Il pubblico, in gran parte ignaro dei dettagli dell'intelligenza artificiale, non aveva il vocabolario o la pressione politica per esigere migliori tutele. Il risultato è stato una legge che appariva protettiva sulla carta, ma offriva poca protezione reale ai cittadini comuni. Nell'Africa subsahariana, il problema viene dall'esterno. I paesi di queste regioni stanno adottando sistemi di IA e regole di governance costruite in Europa o negli Stati Uniti, spesso senza le istituzioni o le competenze locali necessarie per applicarle. Gli viene detto che queste regole sono universali, ma poiché sono state progettate per società diverse, spesso non riescono a proteggere la popolazione locale, lasciandola soggetta a sistemi che non può sottoporre ad audit o comprendere.
I ricercatori hanno scoperto che questa invisibilità è mantenuta da due forze principali. Primo, c'è una mancanza di consapevolezza. Molte persone semplicemente non sanno che l'IA sta prendendo decisioni sui loro prestiti, sui loro sussidi di assistenza sociale o sulla loro sicurezza. Secondo, c'è una forma di disinformazione, in cui le persone sanno dell'IA, ma solo attraverso storie specifiche che nascondono i pericoli reali. Alcuni sentono dire che l'IA è una soluzione magica che risolverà tutti i problemi di sviluppo, mentre altri sono istruiti a temere un'invasione robotica da film di fantascienza. Entrambe le storie distraggono dal danno reale e silenzioso che avviene proprio ora: algoritmi che discriminano, dati che vengono rubati e infrastrutture che vengono costruite senza il consenso locale. Il documento sostiene che queste storie non sono solo malintesi; sono caratteristiche strutturali che impediscono alle persone di porre le domande giuste.
Uno dei risultati più sorprendenti dello studio è che questa cecità si estende persino ai funzionari governativi che approvano la costruzione dei data center che alimentano questi sistemi. In India, un singolo data center potrebbe richiedere fino a trenta permessi diversi da varie agenzie governative. Un funzionario potrebbe approvare un permesso di costruzione o un allacciamento elettrico senza mai sapere che quell'edificio è un data center per un sistema di intelligenza artificiale. La documentazione non richiede tale informazione, e la descrizione del lavoro del funzionario non include la comprensione dell'impatto più ampio dell'IA. Non sono corrotti; sono semplicemente inconsapevoli. Stanno abilitando un enorme sistema di governance pur rimanendo completamente ciechi alla sua esistenza. Questo crea una situazione in cui le persone che dovrebbero essere al comando sono in realtà escluse dalla conoscenza tanto quanto i cittadini che servono.
Lo studio sfida la comune convinzione che la soluzione sia semplicemente insegnare più tecnologia a più persone. Gli autori sostengono che insegnare alle persone come usare l'IA non risolve il problema se le persone al comando non hanno il potere legale per fermare i sistemi scadenti, o se le leggi stesse sono scritte per esentare i potenti. Aggiungere più voci alla conversazione non aiuta se la conversazione avviene in una lingua che quelle voci non possono parlare, o se le regole della conversazione sono stabilite da persone che non hanno bisogno di ascoltare. Il documento conclude che l'affermazione di una governance dell'IA universale è un mito che serve gli interessi di coloro che costruiscono e dispiegano questi sistemi. Ciò permette loro di sostenere di seguire standard globali pur operando in uno spazio in cui nessuno può verificare se tali standard siano effettivamente rispettati. Finché le persone che vivono sotto questi sistemi non verranno dotate degli strumenti concettuali per vedere lo specchio per ciò che è, il potere di dare forma al futuro dell'intelligenza artificiale rimarrà fuori dalla loro portata.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.