Lost in Translation: How Universal Ethical Values Fail to Translate Across Global Contexts

Imagine um mundo onde um único conjunto de regras é escrito para guiar como máquinas inteligentes devem se comportar, um livro de regras destinado a funcionar em qualquer lugar, desde uma movimentada cidade na Europa até uma aldeia remota na África. Este é o atual objetivo da ética da inteligência artificial. Durante anos, grandes organizações e empresas de tecnologia concordaram com uma lista de valores fundamentais — justiça, transparência, privacidade e responsabilidade — que acreditam que devem governar esses sistemas. A ideia é que, se definirmos esses conceitos de forma suficientemente clara, eles funcionarão da mesma maneira, não importa onde a tecnologia seja usada. Mas essa abordagem assume que uma pessoa em uma cultura entende "justiça" ou "privacidade" exatamente da mesma forma que uma pessoa em outra. Isso trata os valores humanos como se fossem constantes universais, como a gravidade, em vez de ideias que crescem a partir de histórias, relacionamentos e vidas cotidianas específicas.

Essa suposição é a questão central que uma equipe de pesquisadores se propôs a testar. Eles queriam saber o que acontece quando essas regras globais encontram as realidades locais. As pessoas que realmente constroem, usam e vivem com esses sistemas concordam com as definições padrão? Ou elas veem a tecnologia através de uma lente inteiramente diferente? Os pesquisadores não estavam perguntando se a tecnologia funciona tecnicamente, mas se a bússola moral que a guia aponta para a mesma direção para todos. Eles suspeitavam que a lacuna entre um livro de regras global e a vida local poderia ser mais ampla do que qualquer um imaginava, potencialmente deixando muitas comunidades para trás ou forçando-as a aceitar valores que não se ajustam às suas necessidades.

Para encontrar a resposta, os pesquisadores viajaram para dez países diferentes na África, Ásia, América Latina, Europa, América do Norte, Caribe e Oceania. Eles não estudaram o código das máquinas em si; em vez disso, sentaram-se com quatorze especialistas que vivem e trabalham nessas diversas regiões. Estes não eram apenas cientistas da computação, mas também líderes comunitários, jornalistas e defensores de políticas públicas que entendem tanto a tecnologia quanto as profundas correntes culturais de seus países de origem. Ao longo de sete meses, a equipe conduziu conversas aprofundadas, pedindo a esses especialistas que explicassem como veem a inteligência artificial em seus próprios bairros e como interpretam as grandes palavras éticas usadas em documentos de políticas globais.

O que emergiu dessas conversas foi um quadro claro de um mundo onde a experiência da tecnologia é profundamente desigual. Os especialistas descreveram um cenário onde o acesso à inteligência artificial é frequentemente bloqueado por realidades físicas simples: a falta de eletricidade confiável, conexões de internet instáveis ou a ausência de dispositivos acessíveis. Em muitos lugares, a tecnologia chega não como uma ferramenta neutra, mas como algo que parece estar sendo extraído da comunidade, em vez de construído com ela. Os pesquisadores descobriram que as pessoas nessas regiões frequentemente sentem que seus dados são retirados sem seu pleno entendimento ou consentimento, usados para treinar sistemas que, então, falham em reconhecer suas línguas, sotaques ou nuances culturais. Isso cria uma sensação de extração, onde a comunidade local fornece o combustível para a máquina, mas vê pouco do benefício, enquanto as decisões sobre como a máquina funciona são tomadas longe dali, por pessoas que não compartilham de suas lutas diárias.

A descoberta mais marcante, no entanto, foi como os especialistas redefiniram as próprias palavras usadas para governar esses sistemas. Quando os pesquisadores perguntaram sobre "privacidade", a definição global padrão foca no direito do indivíduo de manter seus próprios dados em segredo. Mas em muitas das culturas representadas no estudo, a privacidade não é um escudo individual; é uma prática coletiva. Para esses especialistas, a privacidade diz respeito à família ou à comunidade. Decidir quais informações compartilhar é uma conversa de grupo, pesada contra o bem-estar e a reputação de todo o grupo, não apenas os direitos de uma única pessoa. Um sistema que trata os dados puramente como propriedade individual perde o ponto de como essas comunidades realmente funcionam.

Da mesma forma, o conceito de "transparência" assumiu um significado diferente. No mundo tecnológico global, a transparência geralmente significa abrir o código para que os engenheiros possam ver como a matemática funciona. Mas, para os especialistas neste estudo, a transparência era sobre confiança e responsabilidade. Eles não precisavam ver o código; eles precisavam ser capazes de perguntar a um ser humano: "Por que você tomou essa decisão?" e obter uma resposta que fizesse sentido em sua própria língua e contexto. Se um agricultor em uma área rural não consegue entender por que uma máquina prevê chuva ou seca, o sistema não é transparente, não importa quanta documentação técnica exista. A confiança é construída através de relacionamentos e comunicação clara, não através do acesso a algoritmos complexos.

A ideia de "justiça" também mudou. A visão padrão muitas vezes busca a igualdade matemática, garantindo que cada grupo receba exatamente o mesmo resultado. Mas os especialistas argumentaram que a verdadeira justiça trata de equidade e acesso. Se um sistema é tecnicamente justo, mas exige uma conexão de internet de alta velocidade ou um smartphone para ser usado, ele não é justo para a pessoa que carece desses recursos. A justiça, na visão deles, significa garantir que o sistema seja acessível a todos e que as pessoas que o projetam tenham ouvido as vozes daqueles que serão mais afetados por ele. É uma questão de justiça estrutural, não apenas um cálculo de números.

Os pesquisadores descobriram que essas diferenças não são apenas pequenos mal-entendidos; são o que eles chamam de "lacunas de tradução". Este é o espaço onde uma regra universal falha ao chegar corretamente em um lugar específico. Quando um framework global diz "seja justo", isso pode significar uma coisa em uma sala de reuniões em Nova York e algo inteiramente diferente em uma aldeia no Quênia. Quando essas lacunas são ignoradas, o resultado é frequentemente um sistema que parece alienígena, indigno de confiança ou até mesmo prejudicial para as pessoas que ele deveria ajudar. Os especialistas descreveram sentir-se como estranhos em seu próprio futuro tecnológico, assistindo enquanto decisões são tomadas por eles por autoridades distantes que não compreendem seus valores locais.

Em resposta a essas descobertas, os especialistas ofereceram um novo caminho a seguir. Eles sugeriram que, em vez de tentar impor um único conjunto de regras a todo o mundo, precisamos de um sistema de governança que permita muitas vozes diferentes. Eles propuseram que as comunidades locais devem ter autoridade para moldar como essas tecnologias são projetadas e usadas em suas próprias regiões. Isso significa afastar-se de um modelo onde poucas instituições poderosas ditam as regras, em direção a um modelo onde o conhecimento e a tomada de decisão são compartilhados. Envolve reconhecer que as culturas locais têm sua própria sabedoria profunda sobre como lidar com dados, como construir confiança e como garantir a justiça.

O estudo conclui que o caminho para uma inteligência artificial ética não é encontrar uma definição única e perfeita de um valor que funcione em todos os lugares. Em vez disso, trata-se de criar um processo onde esses valores possam ser negociados e adaptados conforme se movem de um contexto para outro. Requer ouvir as pessoas que estão realmente vivendo com a tecnologia e permitir que elas definam o que justiça, privacidade e confiança significam em suas próprias vidas. Ao tratar os valores éticos como algo que deve ser traduzido e reimaginado para cada comunidade, em vez de um padrão fixo a ser imposto, podemos construir sistemas que sejam não apenas mais inteligentes, mas também mais justos e mais humanos. Os pesquisadores sugerem que essa mudança é essencial se quisermos que a inteligência artificial sirva a toda a humanidade, e não apenas a alguns.