Lost in Translation: How Universal Ethical Values Fail to Translate Across Global Contexts

Immaginate un mondo in cui un unico insieme di regole viene scritto per guidare il comportamento delle macchine intelligenti, un libro di regole destinato a funzionare ovunque, da una frenetica città europea a un remoto villaggio africano. Questa è l'attuale ambizione dell'etica dell'intelligenza artificiale. Per anni, grandi organizzazioni e aziende tecnologiche hanno concordato un elenco di valori fondamentali — equità, trasparenza, privacy e responsabilità — che ritengono debbano governare questi sistemi. L'idea è che, se definiamo questi concetti con sufficiente chiarezza, essi funzioneranno allo stesso modo indipendentemente da dove la tecnologia venga utilizzata. Ma questo approccio presuppone che una persona in una cultura comprenda il concetto di "equità" o "privacy" esattamente nello stesso modo di una persona in un'altra. Tratta i valori umani come se fossero costanti universali, come la gravità, piuttosto che idee che nascono da storie, relazioni e vite quotidiane specifiche.

Questa supposizione è la domanda centrale che un team di ricercatori si è proposto di testare. Volevano sapere cosa accade quando queste regole globali incontrano le realtà locali. Le persone che costruiscono, usano e vivono con questi sistemi in diverse parti del mondo sono d'accordo con le definizioni standard? O vedono la tecnologia attraverso una lente completamente diversa? I ricercatori non stavano chiedendo se la tecnologia funzioni tecnicamente, ma se la bussola morale che la guida punti nella stessa direzione per tutti. Sospettavano che il divario tra un libro di regole globale e la vita locale potesse essere più ampio di quanto chiunque abbia realizzato, rischiando potenzialmente di lasciare indietro molte comunità o di costringerle ad accettare valori che non si adattano alle loro necessità.

Per trovare la risposta, i ricercatori hanno viaggiato in dieci paesi diversi in Africa, Asia, America Latina, Europa, Nord America, Caraibi e Oceania. Non hanno studiato il codice delle macchine in sé; al contrario, si sono seduti con quattordici esperti che vivono e lavorano in queste diverse regioni. Questi non erano solo scienziati informatici, ma anche leader di comunità, giornalisti e sostenitori politici che comprendono sia la tecnologia sia le profonde correnti culturali dei loro paesi di origine. Nel corso di sette mesi, il team ha condotto conversazioni approfondite, chiedendo a questi esperti di spiegare come vedono l'intelligenza artificiale nei propri quartieri e come interpretano le grandi parole etiche usate nei documenti di politica globale.

Ciò che è emerso da queste conversazioni è un quadro chiaro di un mondo in cui l'esperienza della tecnologia è profondamente diseguale. Gli esperti hanno descritto un panorama in cui l'accesso all'intelligenza artificiale è spesso bloccato da realtà fisiche semplici: la mancanza di elettricità affidabile, connessioni internet instabili o l'assenza di dispositivi accessibili. In molti luoghi, la tecnologia arriva non come uno strumento neutrale, ma come qualcosa che sembra essere estratto dalla comunità anziché costruito con essa. I ricercatori hanno scoperto che le persone in queste regioni sentono spesso che i loro dati vengono prelevati senza la loro piena comprensione o consenso, utilizzati per addestrare sistemi che poi non riescono a riconoscere le loro lingue, accenti o sfumature culturali. Ciò crea un senso di estrazione, in cui la comunità locale fornisce il combustibile per la macchina ma vede poco dei benefici, mentre le decisioni su come la macchina funziona vengono prese lontano da persone che non condividono le loro lotte quotidiane.

La scoperta più sorprendente, tuttavia, è stata come gli esperti abbiano ridefinito le stesse parole usate per governare questi sistemi. Quando i ricercatori hanno chiesto della "privacy", la definizione globale standard si concentra sul diritto dell'individuo di mantenere segreti i propri dati. Ma in molte delle culture rappresentate nello studio, la privacy non è uno scudo individuale; è una pratica collettiva. Per questi esperti, la privacy riguarda la famiglia o la comunità. Decidere quali informazioni condividere è una conversazione di gruppo, pesata rispetto al benessere e alla reputazione dell'intero gruppo, non solo ai diritti di una singola persona. Un sistema che tratta i dati esclusivamente come proprietà individuale perde di vista il modo in cui queste comunità funzionano realmente.

Allo stesso modo, il concetto di "trasparenza" ha assunto un significato diverso. Nel mondo tecnologico globale, la trasparenza significa spesso aprire il codice affinché gli ingegneri possano vedere come funziona la matematica. Ma per gli esperti di questo studio, la trasparenza riguardava la fiducia e la responsabilità. Non avevano bisogno di vedere il codice; avevano bisogno di poter chiedere a un essere umano: "Perché hai preso questa decisione?" e ottenere una risposta che avesse senso nel loro linguaggio e nel loro contesto. Se un agricoltore in un'area rurale non può capire perché una macchina preveda pioggia o siccità, il sistema non è trasparente, indipendentemente dalla quantità di documentazione tecnica esistente. La fiducia si costruisce attraverso le relazioni e la comunicazione chiara, non attraverso l'accesso ad algoritmi complessi.

Anche l'idea di "equità" è cambiata. La visione standard spesso cerca l'uguaglianza matematica, assicurando che ogni gruppo ottenga esattamente lo stesso risultato. Ma gli esperti hanno sostenuto che la vera equità riguarda l'equità di accesso e la giustizia sociale. Se un sistema è tecnicamente equo ma richiede una connessione internet ad alta velocità o uno smartphone per essere utilizzato, non è equo per la persona che non possiede tali risorse. L'equità, secondo la loro visione, significa garantire che il sistema sia accessibile a tutti e che le persone che lo progettano abbiano ascoltato le voci di coloro che ne saranno maggiormente influenzati. È una questione di giustizia strutturale, non solo di un calcolo numerico.

I ricercatori hanno scoperto che queste differenze non sono solo piccoli malintesi; sono ciò che chiamano "divari di traduzione". Questo è lo spazio in cui una regola universale non riesce a atterrare correttamente in un luogo specifico. Quando un quadro globale dice "sii equo", può significare una cosa in una sala riunioni a New York e qualcosa di completamente diverso in un villaggio in Kenya. Quando questi divari vengono ignorati, il risultato è spesso un sistema che appare estraneo, inaffidabile o addirittura dannoso per le persone che dovrebbe aiutare. Gli esperti hanno descritto la sensazione di essere estranei nel proprio futuro tecnologico, osservando decisioni prese per loro da autorità distanti che non comprendono i loro valori locali.

In risposta a queste scoperte, gli esperti hanno offerto una nuova strada da seguire. Hanno suggerito che, invece di cercare di imporre un unico insieme di regole a tutto il mondo, abbiamo bisogno di un sistema di governance che permetta a molteplici voci di esprimersi. Hanno proposto che le comunità locali abbiano l'autorità di plasmare il modo in cui queste tecnologie vengono progettate e utilizzate nelle proprie regioni. Ciò significa passare da un modello in cui poche istituzioni potenti dettano le regole, verso un modello in cui la conoscenza e il processo decisionale siano condivisi. Implica il riconoscimento del fatto che le culture locali possiedono la propria profonda saggezza su come gestire i dati, come costruire la fiducia e come garantire la giustizia.

Lo studio conclude che la strada verso un'intelligenza artificiale etica non consiste nel trovare un'unica, perfetta definizione di un valore che funzioni ovunque. Si tratta invece di creare un processo in cui questi valori possano essere negoziati e adattati man mano che si spostano da un contesto all'altro. Richiede di ascoltare le persone che vivono realmente con la tecnologia e di permettere loro di definire cosa significhino l'equità, la privacy e la fiducia nelle loro vite. Trattando i valori etici come qualcosa che deve essere tradotto e reinventato per ogni comunità, anziché come uno standard fisso da imporre, possiamo costruire sistemi che siano non solo più intelligenti, ma anche più giusti e più umani. I ricercatori suggeriscono che questo cambiamento è essenziale se vogliamo che l'intelligenza artificiale serva tutta l'umanità, anziché solo pochi.