Structural Silence: When AI Infrastructure Fails Speakers of Underrepresented Languages

El muro invisible en la máquina

Imagina el internet como una biblioteca gigante y bulliciosa donde se almacena cada libro, video y conversación jamás registrado. Estos son los "datos de entrenamiento" que la Inteligencia Artificial (IA) utiliza para aprender a hablar, escribir y resolver problemas. Durante mucho tiempo, esta biblioteca estuvo llena casi en su totalidad de libros escritos en inglés. Debido a que la IA solo tenía libros en inglés para leer, se convirtió en una experta en inglés pero le costó entender cualquier otra cosa. Este es el problema central de los "idiomas de bajos recursos": si un idioma no está bien representado en el mundo digital, la IA construida para ayudar a las personas que usan ese idioma nace con una discapacidad.

Para entender por qué esto importa, necesitamos observar dos ideas simples. Primero, la Carga Cognitiva es como una mochila que tu cerebro carga. Cuando aprendes algo nuevo, tu mochila se vuelve más pesada. Si tienes que aprender un concepto matemático difícil y traducirlo de un idioma que no conoces bien al mismo tiempo, tu mochila se vuelve tan pesada que estalla y no puedes aprender las matemáticas. Segundo, la Tokenización es cómo las computadoras trocean las palabras en piezas diminutas para entenderlas. Piensa en ello como un rompecabezas: si las piezas de un rompecabezas para un idioma están cortadas perfectamente, la imagen es clara. Si las piezas de otro idioma se cortan en fragmentos diminutos y desordenados, la computadora tiene que trabajar mucho más duro para volver a armar la imagen.

¿Por qué debería importarle a alguien? Porque la IA se vende como un tutor mágico que puede enseñar a cualquiera, en cualquier lugar, cómo programar o resolver problemas. Pero si ese tutor fue entrenado solo con libros en inglés, habla solo inglés y solo funciona cuando tienes una conexión a internet súper rápida, le falla precisamente a las personas que más lo necesitan: estudiantes en zonas rurales que hablan idiomas como el bengalí. Este artículo investiga por qué este tutor "mágico" está en realidad roto para ellos, no porque la tecnología sea mala, sino porque la base sobre la cual fue construida nunca fue diseñada para ellos.

---

El fallo silencioso: Por qué la IA ignora a los hablantes de bengalí

Este artículo, titulado "Silencio Estructural", cuenta la historia de cómo la infraestructura de la IA construye accidentalmente un muro alrededor de los hablantes de idiomas subrepresentados, utilizando el bengalí como estudio de caso. El bengalí es un idioma masivo, hablado por aproximadamente 285 millones de personas, cerca del 4% de toda la población humana. Tiene una historia de más de 1,400 años y es un idioma oficial en dos países. Podrías pensar que un idioma de ese tamaño sería una superestrella en el mundo de la IA. Sin embargo, los autores descubrieron que, en lugar de ser una estrella, el bengalí está siendo "silenciado" por cuatro fallos estructurales específicos que se apilan como un castillo de naipes.

1. El estante vacío (La brecha de presencia en la web)

Imagina intentar enseñarle a un robot a hablar bengalí dándole una biblioteca para leer. El problema es que la biblioteca está casi vacía. Aunque los hablantes de bengalí representan el 4% del mundo, el idioma constituye menos del 0.5% de todo el contenido en internet. En contraste, el inglés, que tiene un número similar de hablantes nativos, constituye aproximadamente el 49.5% de la web.

Los modelos de IA son entrenados mediante el "rastreo" de la web para capturar texto. Como hay tan poco texto en bengalí, la IA recibe muy poca práctica. Es como intentar aprender a tocar el violín escuchando una sola canción, mientras que tu amigo angloparlante tiene la oportunidad de escuchar un millón. Los autores señalan que esto no se trata solo de quién tiene acceso a internet; se trata de quién ha estado escribiendo y publicando contenido en línea durante décadas. ¿El resultado? La IA comienza su entrenamiento con una desventaja masiva antes de aprender siquiera una palabra.

2. La inanición de datos (El déficit de tokens de entrenamiento)

Debido a que hay tan poco bengalí en la web, la IA sufre de inanición de "tokens". Los tokens son los pequeños fragmentos de texto que la computadora usa para aprender. El artículo destaca una brecha impactante: en los principales conjuntos de datos de entrenamiento, hay 67 tokens en inglés por cada 1 token en bengalí.

Piénsalo como una dieta. Si el inglés llega a comer un banquete de 67 platos de comida, el bengalí recibe una sola migaja. Los autores señalan que incluso cuando el bengalí se incluye en modelos "multilingües" (modelos que intentan aprender muchos idiomas), sigue funcionando mucho peor que el inglés. Los datos no son solo escasos; son tan escasos que la IA simplemente no ha visto suficientes ejemplos para aprender las reglas del idioma correctamente.

3. Las piezas de rompecabezas rotas (La penalización de la tokenización)

Aquí es donde la cosa se complica. Incluso si le dieras a la IA la misma cantidad de texto en bengalí que en inglés, seguiría teniendo dificultades. ¿Por qué? Debido a cómo la computadora trocea las palabras.

El inglés utiliza el alfabeto latino, que es relativamente sencillo de trocear para las computadoras. El bengalí utiliza un sistema de escritura "alfasilabario", donde las letras se combinan con pequeñas marcas (diacríticos) y se unen de formas complejas. Las herramientas computacionales estándar, diseñadas para el inglés, trocean las palabras en bengalí en fragmentos diminutos y desordenados. Los autores llaman a esto una "penalización de tokenización".

Imagina que estás intentando armar un rompecabezas. Para el inglés, las piezas son formas grandes y claras. Para el bengalí, la misma imagen está cortada en miles de fragmentos diminutos y dentados. La computadora tiene que trabajar mucho más duro para descifrar cómo encajan los fragmentos. Esto significa que la IA tiene que "comer" incluso más datos para entender la misma cantidad de significado. El artículo sugiere que para obtener el mismo rendimiento que el inglés, los modelos de bengalí necesitan sustancialmente más datos solo para superar este problema de troceado desordenado.

4. La trampa de la nube (Exclusión por conectividad)

El fallo final no tiene que ver con el cerebro de la IA; tiene que ver con el cuerpo de la IA. La mayoría de las herramientas de IA actuales viven en la "nube". Esto significa que tienes que enviar tu pregunta a través de internet a un servidor gigante, el cual reflexiona sobre ella y te envía la respuesta de vuelta.

El artículo señala una realidad cruda: en las zonas rurales de Bangladesh, donde viven muchos hablantes de bengalí, la penetración de internet individual es de solo el 36.5%, en comparación con el 71.4% en las ciudades. Además, solo el 9.2% de los hogares posee una computadora. Si un tutor de IA requiere una conexión a internet constante y rápida para funcionar, es funcionalmente invisible para el estudiante rural. Es como diseñar una biblioteca que solo abre cuando tienes un jet privado para llegar allí. Los autores argumentan que esto no es solo un inconveniente; es una elección de diseño que asume que todo el mundo ya está conectado, excluyendo efectivamente a las personas que más necesitan la ayuda.

La doble carga: Una mochila pesada

Cuando combinas estos cuatro fallos, el resultado es una "doble carga" para el estudiante. Imagina a un estudiante en una aldea rural tratando de aprender programación informática.

1. La barrera del idioma: El tutor de IA explica el código en inglés (porque fue entrenado mayoritariamente en inglés). El estudiante tiene que traducir la explicación en inglés en su cabeza mientras intenta entender el complejo concepto de programación.
2. La sobrecarga cognitiva: Su cerebro está tratando de hacer dos trabajos difíciles a la vez: traducir el idioma y aprender las matemáticas. Su "mochila" (memoria de trabajo) se vuelve demasiado pesada y deja de comprender.

El artículo cita investigaciones que muestran que cuando los estudiantes aprenden conceptos técnicos en un segundo idioma sin apoyo, aprenden menos y retienen menos. Para un hablante de bengalí, un tutor de IA que habla inglés no es solo menos conveniente; a menudo es imposible de usar de manera efectiva.

Lo que el artículo dice que debemos hacer

Los autores advierten cuidadosamente que esto no es solo un problema de "arreglar el código". Argumentan que no podemos simplemente retocar un poco la IA para que funcione. Toda la base está construida sobre supuestos que excluyen a los no angloparlantes.

• Dejar de tratar los datos como un proyecto secundario: El artículo sugiere que construir conjuntos de datos para idiomas como el bengalí no debería verse como un "trabajo preliminar". Debe reconocerse como una contribora científica de gran importancia, tan importante como inventar un nuevo modelo de IA.
• Priorizar el modo "Fuera de línea" (Offline-First): En lugar de asumir que todo el mundo tiene internet, deberíamos diseñar herramientas de IA que funcionen en un teléfono o computadora sin necesidad de una conexión. Esta no es una versión "menor" de la IA; es la única versión que funciona para la mayoría del mundo.
• Escuchar a los lingüistas: El artículo pide que los lingüistas intervengan para explicar por qué las herramientas computacionales estándar fallan con idiomas como el bengalí. Ellos poseen el vocabulario para detectar estos fallos estructurales que los ingenieros podrían pasar por alto.

La conclusión

Este artículo no pretende haber construido una IA perfecta para los hablantes de bengalí. En cambio, actúa como un detective, señalando las cuatro razones estructurales por las cuales el sistema actual les está fallando. Sugiere que la brecha en el rendimiento no se debe a que el bengalí sea un idioma "difícil" o a que los estudiantes no sean inteligentes. Es porque la infraestructura de la IA fue construida pensando en el inglés, desde los libros que leyó hasta la forma en que corta las palabras, y finalmente, a la suposición de que todo el mundo tiene una conexión a internet rápida. Hasta que no arreglemos estos silencios estructurales, la promesa de la IA como un maestro universal seguirá siendo una promesa cumplida solo para unos pocos.