💻 computer science

Empire Amplifier: Uncovering and Contesting the Prioritization of Colonial Content on Platforms Through Community-Informed Algorithmic Auditing

Mediante una auditoría algorítmica informada por la comunidad de YouTube, este estudio revela que el sistema de recomendación de la plataforma prioriza desproporcionadamente el contenido en ruso sobre el kirguís para los usuarios infantiles, reforzando así ideologías lingüísticas coloniales y amenazando la revitalización de las lenguas indígenas a pesar de las afirmaciones de amplificar voces diversas.

Autores originales: Nel Escher, Bakyt Yrysov, Ashley McDermott, Daniel Chechelnitsky, Hermela Berehan Benyam, Nikola Banovic

Publicado 2026-05-01

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Nel Escher, Bakyt Yrysov, Ashley McDermott, Daniel Chechelnitsky, Hermela Berehan Benyam, Nikola Banovic

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes una biblioteca mágica e infinita llamada YouTube. El dueño de la biblioteca (el algoritmo) es como un bibliotecario muy entusiasta y sobreprotector que intenta adivinar qué quieres leer a continuación.

Este artículo trata sobre un grupo de investigadores que viajaron a Kirguistán, un país de Asia Central, para verificar si este bibliotecario estaba realmente ayudando a la gente local o si, accidentalmente (o intencionalmente), los estaba empujando hacia una cultura diferente.

Aquí está la historia de lo que descubrieron, contada en términos sencillos:

La Gran Preocupación: "La Biblioteca nos está Robando Nuestro Idioma"

Durante mucho tiempo, la gente de Kirguistán ha estado preocupada. Hablan kirguís, su idioma nativo, pero también hablan ruso debido a su historia con el Imperio Ruso y la Unión Soviética.

Los padres en Kirguistán notaron algo aterrador: sus hijos empezaban a hablar ruso más que kirguís. Culparon a la "biblioteca mágica" (YouTube). Sentían que, incluso cuando intentaban mostrarles a sus hijos dibujos animados en kirguís, la biblioteca seguía empujándoles videos en ruso. Temían que la biblioteca estuviera enseñando a sus hijos que el ruso es "genial" y el kirguís es "aburrido", borrando efectivamente su cultura.

La Investigación: La Prueba del "Muñeco de Sock"

Los investigadores no solo preguntaron a los padres; querían pruebas. Así que construyeron "muñecos de sock" digitales.

Piensa en estos muñecos de sock como muñecos robóticos.

Crearon cientos de estos robots.
Algunos robots fingían ser usuarios nuevos en la capital.
Otros fingían ser usuarios nuevos en un pequeño pueblo remoto donde casi nadie habla ruso.
Algunos fingían ser niños que amaban los dibujos animados en kirguís.
Otros fingían ser niños que amaban los dibujos animados en ruso.

Estos robots entraron en la biblioteca, hicieron clic en videos y anotaron exactamente qué recomendaba el bibliotecario a continuación. Lo hicieron más de 10.000 veces.

Los Resultados Impactantes

Los robots descubrieron que el bibliotecario no estaba escuchando a la cultura local. Esto es lo que sucedió:

El Problema del "Usuario Nuevo": Incluso cuando un robot entraba en la biblioteca por primera vez en un pueblo remoto donde nadie habla ruso, el bibliotecario recomendaba inmediatamente videos en ruso. No importaba dónde estuviera el robot; el bibliotecario asumía que todos querían contenido en ruso.
El Problema del "Niño": Cuando los robots fingían ser niños buscando cosas que a los niños les encantan (como "dibujos animados" o "cuentos de hadas"), el bibliotecario les daba resultados mayoritariamente en ruso, incluso si el robot escribía las palabras de búsqueda en kirguís.
La Trampa de la "Burbuja de Filtro": Esta fue la parte más sorprendente. Cuando los robots actuaban como niños que realmente amaban el contenido en kirguís (viendo 10 dibujos animados en kirguís seguidos), el bibliotecario dejaba de recomendar videos en kirguís. De hecho, cambiaba a recomendar videos en inglés o ruso.
- Analogía: Imagina que le dices a un amigo: "Solo quiero comer manzanas". Te traen una manzana, pero luego dicen: "Bien, ahora que has tenido una, aquí tienes una cesta llena de naranjas y plátanos porque creo que estás aburrido de las manzanas". La biblioteca castigaba a los niños por gustarles su propia cultura.

¿Por Qué Sucede Esto?

Los investigadores verificaron si simplemente no había suficientes videos en kirguís. Encontraron miles de horas de contenido infantil en kirguís, incluidos programas producidos por el gobierno y grandes grupos internacionales como UNICEF.

El problema no era la falta de contenido. El problema era el cerebro del algoritmo. Parecía estar cableado para priorizar el idioma del "Imperio" (ruso) sobre el idioma local, reforzando viejas estructuras de poder donde la cultura del colonizador se considera superior.

La Buena Noticia: Cómo Contraatacar

Los investigadores no solo señalaron el problema; preguntaron a los padres: "¿Qué podemos hacer?" y probaron algunas ideas. Encontraron unos pocos "trucos" para engañar al bibliotecario:

Compartir el Dispositivo: Si un niño usa su propio teléfono, la biblioteca piensa que es un "niño ruso" y le muestra videos en ruso. Pero si el niño comparte una tableta familiar con un padre que ve contenido en kirguís, la biblioteca se confunde. Ve el historial del padre y empieza a recomendar videos en kirguís al niño también.
Traducir la Búsqueda: Si un niño pide un video en ruso, el padre puede traducir esa solicitud al kirguís antes de escribirla. Esto obliga a la biblioteca a mostrar resultados en kirguís.

La Conclusión Principal

El artículo concluye que, aunque las empresas tecnológicas a menudo dicen: "Estamos aquí para ayudar a todos a compartir su cultura", en este caso, la tecnología estaba en realidad amplificando un imperio. Estaba haciendo más difícil que una cultura local sobreviviera.

Sin embargo, la historia no está perdida. Al entender cómo funciona el bibliotecario, las familias pueden usar trucos simples (como compartir dispositivos) para recuperar el control y asegurarse de que sus hijos vean su propio idioma y cultura, en lugar de solo lo que el algoritmo cree que deberían ver.

A continuación se presenta un resumen técnico detallado del artículo "Empire Amplifier: Uncovering and Contesting the Prioritization of Colonial Content on Platforms Through Community-Informed Algorithmic Auditing".

1. Planteamiento del Problema

El artículo aborda una tensión crítica en la Interacción Humano-Computadora (HCI) y la computación descolonial: mientras que las plataformas en línea afirman amplificar las voces indígenas y ayudar en la revitalización cultural, las comunidades indígenas a menudo perciben estos sistemas como erosionadores de sus lenguas y culturas.

Contexto Específico: El estudio se centra en Kirguistán, donde los cuidadores temen que YouTube esté acelerando el desplazamiento lingüístico, provocando que los niños prefieran el ruso (una lengua colonial/imperial) sobre el kirguís (su lengua heritage).
La Brecha: Las auditorías algorítmicas existentes son predominantemente centradas en Occidente, enfocándose en sesgos como la polarización política o categorías raciales definidas en EE. UU. (por ejemplo, Negro vs. Blanco). Rara vez investigan cómo los algoritmos en antiguas colonias refuerzan jerarquías lingüísticas imperiales o cómo impactan en la preservación de lenguas indígenas.
Pregunta Central: ¿Sostiene el algoritmo de recomendación de YouTube las prácticas culturales indígenas o las pone en peligro al amplificar contenido colonial?

2. Metodología: Auditoría Algorítmica Informada por la Comunidad

Los autores emplean una auditoría algorítmica informada por la comunidad, un método que integra conocimientos etnográficos con pruebas técnicas para asegurar que la investigación aborde ansiedades específicas de la comunidad.

A. Fundamento Etnográfico

Antes de las pruebas técnicas, el equipo realizó un estudio etnográfico en Biskek, Kirguistán, involucrando a 15 familias y 46 niños.

Hallazgos: Los cuidadores observaron que los niños hablaban cada vez más ruso, imitando el lenguaje escuchado en YouTube. Los padres se sentían impotentes para contestar la influencia de la plataforma y carecían de estrategias para aumentar la exposición al idioma kirguís.
Rol: Estos hallazgos cualitativos definieron las preguntas de investigación y las "amenazas" específicas a auditar.

B. Diseño de la Auditoría Técnica (Enfoque de Títere)

Los investigadores utilizaron títeres (instancias automatizadas de navegador) para simular el comportamiento de los usuarios sin recopilar datos sensibles de niños reales.

Infraestructura: Los experimentos se ejecutaron en máquinas ubicadas físicamente en Kirguistán (Biskek y la aldea rural de Kochkor) utilizando redes públicas para garantizar la relevancia geográfica.
Recopilación de Datos: Los bots interactuaron con la interfaz web de YouTube para extraer recomendaciones de cuatro fuentes: Página de inicio, Resultados de búsqueda, Reproducción automática y Sugerencias de la barra lateral.
Conjunto de Datos: El estudio analizó 10.741 videos únicos a través de 26.016 observaciones de video.
Etiquetado: Asistentes de investigación universitarios fluidos en kirguís, ruso e inglés etiquetaron manualmente el idioma y la etnia percibida de las personas en los videos (fiabilidad inter-evaluador $\alpha = 0.86$ ). Se consideró insuficiente el aprendizaje automático debido a la falta de modelos para audio/texto kirguís de recursos limitados.

C. Configuración Experimental

Tres experimentos principales abordaron preguntas de investigación específicas (PI):

PI1 (Nuevos Usuarios): Comparó las recomendaciones de la página de inicio para nuevos usuarios en Biskek (de idiomas mixtos) vs. Kochkor (predominantemente de habla kirguisa).
PI2 (Algoritmo de Búsqueda): Probó los resultados de búsqueda para términos de "Interés Infantil" vs. "Interés Adulto". Los términos se probaron en su forma original (principalmente ruso), traducidos al kirguís y como términos "bivalentes" (palabras idénticas en ambos idiomas, por ejemplo, "Minecraft").
PI3 (Navegación y Personalización): Simuló cuatro perfiles de usuario (Niño Kirguís, Niño Ruso, Adulto Kirguís, Adulto Ruso) haciendo que los bots vieran 10 videos semilla para establecer un "historial de visualización". Luego, los bots realizaron caminatas aleatorias para observar las recomendaciones subsiguientes.
- Variación: El experimento también probó el compartir dispositivos (por ejemplo, un adulto kirguís viendo primero y luego entregando el dispositivo a un niño kirguís) para ver si los historiales de visualización compartidos podían alterar las recomendaciones.

3. Resultados Clave

Los resultados de la auditoría validaron los temores de los cuidadores, revelando sesgos sistémicos contra el idioma kirguís.

Insensibilidad Geográfica (PI1): A pesar de estar en una aldea rural donde el ruso se habla raramente (Kochkor), los nuevos usuarios recibieron ligeramente más recomendaciones en ruso que en kirguís. El algoritmo no se adaptó al entorno lingüístico local.
Sesgo en la Búsqueda (PI2):
- Sesgo de Interés Infantil: Las búsquedas de temas relacionados con niños devolvieron significativamente más contenido en ruso que las búsquedas relacionadas con adultos, incluso cuando los términos de búsqueda se traducían al kirguís.
- Términos Bivalentes: Cuando los usuarios buscaban términos escritos idénticamente en ambos idiomas (por ejemplo, "TikTok"), el algoritmo priorizó abrumadoramente los resultados en ruso (Cociente de Probabilidad = 4.81), tratando la consulta como si fuera rusa.
El Fracaso de la "Burbuja de Filtro" (PI3):
- Adultos: Los usuarios que señalaban interés en contenido kirguís ingresaron con éxito a una "burbuja de filtro de idioma kirguís".
- Niños: Por el contrario, los niños que veían activamente dibujos animados en kirguís no ingresaron a una burbuja de filtro kirguís. En cambio, el algoritmo eventualmente desplazó sus recomendaciones hacia contenido en inglés y no verbal, reduciendo la exposición al kirguís.
- Estrategia de Compartir Dispositivos: El estudio encontró una estrategia de contramedida exitosa: Compartir Dispositivos. Cuando un adulto kirguís veía contenido en kirguís en un dispositivo antes de entregárselo a un niño, el algoritmo mantenía una burbuja de filtro de idioma kirguís para el niño. Esto sugiere que el uso compartido de dispositivos aprovecha el historial establecido del adulto para proteger el feed del niño.
Orígenes del Contenido Colonial: El contenido en ruso recomendado a los niños kirguís rara vez presentaba creadores indígenas (kirguís). En cambio, presentaba creadores y personajes eslavos (por ejemplo, "Masha y el Oso"), reforzando jerarquías raciales imperiales y disminuyendo la visibilidad indígena.

4. Contribuciones Clave

Evidencia Empírica de la Amplificación Colonial: El estudio proporciona la primera prueba rigurosa y empírica de que una plataforma global importante (YouTube) amplifica activamente contenido colonial (ruso) sobre contenido indígena (kirguís) en una antigua república soviética, contradiciendo la narrativa de las plataformas como herramientas neutrales para la revitalización.
Marco de Auditoría Descolonial: Introduce una metodología donde las auditorías algorítmicas son impulsadas por ansiedades específicas de la comunidad en lugar de suposiciones académicas occidentales, demostrando cómo las "categorías occidentales" no logran capturar los matices de las jerarquías lingüísticas poscoloniales.
Estrategias de Resistencia Accionables: El artículo va más allá de la crítica para ofrecer estrategias prácticas para usuarios finales de contestar algoritmos, identificando específicamente el compartir dispositivos intergeneracional y la traducción estratégica (buscar en kirguís incluso cuando el niño habla ruso) como métodos efectivos para alinear las recomendaciones con valores indígenas.
Vinculación de Daños Online/Offline: Establece un vínculo causal entre la curación algorítmica y el desplazamiento lingüístico offline, mostrando cómo las recomendaciones de plataformas socializan a los niños para ver el ruso como el idioma predeterminado del entretenimiento y el kirguís como "aburrido".

5. Significado e Implicaciones

Para HCI y Computación Descolonial: El artículo desafía al campo a pasar de documentar el daño a apoyar activamente la soberanía digital. Argumenta que las comunidades indígenas deben tener agencia sobre los algoritmos que estructuran sus vidas digitales.
Para el Diseño de Plataformas: Destaca el fracaso de los actuales esfuerzos de "localización". Las plataformas no pueden simplemente confiar en la geolocalización o el historial de usuarios; deben intervenir activamente para prevenir la eliminación de lenguas de recursos limitados. Los autores sugieren intervenciones de diseño como filtros de preferencia de idioma y priorización geográfica de contenido heritage.
Para Política y Activismo: Los hallazgos sugieren que el comportamiento algorítmico "neutral" a menudo refuerza las estructuras de poder existentes. El estudio alienta a investigadores y activistas a ver la auditoría algorítmica como una herramienta de contestación política, instando a las plataformas a consultar con comunidades indígenas antes de desplegar sistemas globales.

En conclusión, "Empire Amplifier" demuestra que, sin cambios intencionales en el diseño, las plataformas globales actúan como "Amplificadores del Imperio", acelerando la erosión de las culturas indígenas al priorizar lenguas y narrativas imperiales, pero también proporciona una hoja de ruta para que las comunidades resistan estas fuerzas a través de estrategias colectivas y técnicas.