Lost in Translation: How Universal Ethical Values Fail to Translate Across Global Contexts

Imagina un mundo donde se escribe un único conjunto de reglas para guiar cómo deben comportarse las máquinas inteligentes, un libro de reglas destinado a funcionar en todas partes, desde una bulliciosa ciudad en Europa hasta una remota aldea en África. Esta es la ambición actual de la ética de la inteligencia artificial. Durante años, importantes organizaciones y empresas tecnológicas han acordado una lista de valores fundamentales —equidad, transparencia, privacidad y responsabilidad— que creen que deberían gobernar estos sistemas. La idea es que, si definimos estos conceptos con la suficiente claridad, funcionarán de la misma manera sin importar dónde se utilice la tecnología. Pero este enfoque asume que una persona en una cultura entiende la "equidad" o la "privacidad" exactamente de la misma manera que una persona en otra. Trata los valores humanos como si fueran constantes universales, como la gravedad, en lugar de ideas que surgen de historias, relaciones y vidas cotidianas específicas.

Esta suposición es la cuestión central que un equipo de investigadores se propuso poner a prueba. Querían saber qué sucede cuando estas reglas globales se encuentran con las realidades locales. ¿Coinciden las personas que realmente construyen, usan y viven con estos sistemas con las definiciones estándar? ¿O ven la tecnología a través de un lente completamente distinto? Los investigadores no preguntaban si la tecnología funciona técnicamente, sino si la brújula moral que la guía apunta en la misma dirección para todos. Sospechaban que la brecha entre un libro de reglas global y la vida local podría ser más amplia de lo que nadie imagina, dejando potencialmente a muchas comunidades rezagadas o forzándolas a aceptar valores que no se ajustan a sus necesidades.

Para encontrar la respuesta, los investigadores viajaron a diez países diferentes en África, Asia, América Latina, Europa, América del Norte, el Caribe y Oceanía. No estudiaron el código de las máquinas en sí; en su lugar, se sentaron con catorce expertos que viven y trabajan en estas diversas regiones. Estos no eran solo científicos de la computación, sino también líderes comunitarios, periodistas y defensores de políticas que comprenden tanto la tecnología como las profundas corrientes culturales de sus países de origen. A lo largo de siete meses, el equipo llevó a cabo conversaciones profundas, pidiendo a estos expertos que explicaran cómo ven la inteligencia artificial en sus propios vecindarios y cómo interpretan las grandes palabras éticas utilizadas en los documentos de política global.

Lo que surgió de estas conversaciones fue un panorama claro de un mundo donde la experiencia de la tecnología es profundamente desigual. Los expertos describieron un paisaje donde el acceso a la inteligencia artificial a menudo se ve bloqueado por realidades físicas simples: la falta de electricidad confiable, conexiones a internet inestables o la ausencia de dispositivos asequibles. En muchos lugares, la tecnología llega no como una herramienta neutral, sino como algo que se siente como si estuviera siendo extraído de la comunidad en lugar de construido con ella. Los investigadores descubrieron que las personas en estas regiones a menudo sienten que sus datos son tomados sin su pleno entendimiento o consentimiento, utilizados para entrenar sistemas que luego no reconocen sus idiomas, acentos o matices culturales. Esto crea una sensación de extracción, donde la comunidad local proporciona el combustible para la máquina pero ve poco de los beneficios, mientras que las decisiones sobre cómo funciona la máquina se toman lejos, por personas que no comparten sus luchas diarias.

El descubrimiento más sorprendente, sin embargo, fue cómo los expertos redefinieron las mismas palabras utilizadas para gobernar estos sistemas. Cuando los investigadores preguntaron sobre la "privacidad", la definición global estándar se centra en el derecho del individuo a mantener sus propios datos en secreto. Pero en muchas de las culturas representadas en el estudio, la privacidad no es un escudo individual; es una práctica colectiva. Para estos expertos, la privacidad trata sobre la familia o la comunidad. Decidir qué información compartir es una conversación grupal, sopesada frente al bienestar y la reputación de todo el grupo, no solo los derechos de una sola persona. Un sistema que trata los datos como propiedad puramente individual pierde de vista cómo funcionan realmente estas comunidades.

Del mismo modo, el concepto de "transparencia" adquirió un significado diferente. En el mundo tecnológico global, la transparencia suele significar abrir el código para que los ingenieros puedan ver cómo funciona la matemática. Pero para los expertos en este estudio, la transparencia se trataba de confianza y responsabilidad. No necesitaban ver el código; necesitaban poder preguntarle a un ser humano: "¿Por qué tomó esta decisión?", y obtener una respuesta que tuviera sentido en su propio idioma y contexto. Si un agricultor en una zona rural no puede entender por qué una máquina predice lluvia o sequía, el sistema no es transparente, sin importar cuánta documentación técnica exista. La confianza se construye a través de las relaciones y la comunicación clara, no a través del acceso a algoritmos complejos.

La idea de "equidad" también cambió. La visión estándar a menudo busca la igualdad matemática, asegurando que cada grupo reciba exactamente el mismo resultado. Pero los expertos argumentaron que la verdadera equidad se trata de justicia y acceso. Si un sistema es técnicamente justo pero requiere una conexión a internet de alta velocidad o un teléfono inteligente para usarse, no es justo para la persona que carece de esos recursos. La equidad, según su visión, significa asegurar que el sistema sea accesible para todos y que las personas que lo diseñan hayan escuchado las voces de aquellos que se verán más afectados por él. Es una cuestión de justicia estructural, no solo de un cálculo de números.

Los investigadores descubrieron que estas diferencias no son solo malentendidos menores; son lo que llaman "brechas de traducción". Este es el espacio donde una regla universal no logra aterrizar correctamente en un lugar específico. Cuando un marco global dice "sean justos", puede significar una cosa en una sala de juntas en Nueva York y algo completamente distinto en una aldea en Kenia. Cuando estas brechas se ignoran, el resultado es a menudo un sistema que se siente ajeno, desconfiable o incluso perjudicial para las personas a las que pretende ayudar. Los expertos describieron sentirse como extraños en su propio futuro tecnológico, observando cómo las decisiones son tomadas por ellos por autoridades distantes que no comprenden sus valores locales.

En respuesta a estos hallazgos, los expertos ofrecieron un nuevo camino a seguir. Sugirieron que, en lugar de intentar imponer un único conjunto de reglas a todo el mundo, necesitamos un sistema de gobernanza que permita muchas voces diferentes. Propusieron que las comunidades locales deberían tener la autoridad para dar forma a cómo se diseñan y utilizan estas tecnologías en sus propias regiones. Esto significa alejarse de un modelo donde unas pocas instituciones poderosas dictan las reglas, hacia un modelo donde el conocimiento y la toma de decisiones se comparten. Implica reconocer que las culturas locales tienen su propia sabiduría profunda sobre cómo manejar los datos, cómo construir la confianza y cómo asegurar la justicia.

El estudio concluye que el camino hacia una inteligencia artificial ética no consiste en encontrar una definición única y perfecta de un valor que funcione en todas partes. En cambio, se trata de crear un proceso donde estos valores puedan ser negociados y adaptados a medida que se mueven de un contexto a otro. Requiere escuchar a las personas que realmente viven con la tecnología y permitirles definir qué significan la equidad, la privacidad y la confianza en sus propias vidas. Al tratar los valores éticos como algo que debe ser traducido y reimaginado para cada comunidad, en lugar de un estándar fijo que debe imponerse, podemos construir sistemas que no solo sean más inteligentes, sino también más justos y más humanos. Los investigadores sugieren que este cambio es esencial si queremos que la inteligencia artificial sirva a toda la humanidad, y no solo a unos pocos.