Beyond the Feed: How Generative AI is Reshaping Children's Social Media Ecologies in the Global South
Este artículo propone un marco de "doble mediación" para analizar cómo la IA generativa y las lógicas de datos de las plataformas remodelan conjuntamente las experiencias de los niños en las redes sociales en el Sur Global, utilizando a Egipto como estudio de caso para argumentar que las políticas actuales de restricción de edad no logran abordar los complejos sesgos culturales y lingüísticos incrustados en estos sistemas de IA.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Durante décadas, el estudio de cómo los niños crecen en línea se ha centrado en la pantalla como una ventana. Los investigadores han entendido desde hace tiempo que las plataformas de redes sociales no son telones de fondo neutrales; son porteros activos que deciden qué ve un niño, qué se le anima a hacer y cómo se le rastrea. Este proceso, a menudo llamado datificación, convierte cada clic y cada desplazamiento en un registro que las empresas utilizan para vender atención y moldear el comportamiento. La preocupación siempre ha sido que estos entornos digitales están diseñados para mantener a los niños mirando, a menudo a expensas de su privacidad o bienestar. Pero el panorama ha cambiado bajo nuestros pies. Las herramientas que los niños usan para hablar con sus amigos y compartir fotos ya no solo están recolectando datos; ahora están generando nuevas realidades. La inteligencia artificial ha pasado de ser una herramienta separada que un niño podría abrir para ayudar con la tarea a ser una capa invisible tejida directamente en las aplicaciones que usan cada día. Estos sistemas pueden escribir subtítulos, simular conversaciones e incluso crear personajes enteros que responden. La pregunta para los investigadores ya no es solo cómo la plataforma selecciona el contenido, sino cómo la inteligencia artificial dentro de ella crea nuevo contenido, y qué sucede cuando esas dos fuerzas trabajan juntas sobre la mente en desarrollo de un niño.
Nermeen Singer, Fathey El Sharkawy y Amira Ismail proponen una nueva forma de entender esta situación compleja, un concepto que llaman "doble mediación". Argumentan que ya no podemos mirar las redes sociales y la inteligencia artificial como problemas separados. En su lugar, la experiencia de un niño ahora está moldeada dos veces. La primera capa es la familiar: el algoritmo de la plataforma que clasifica y selecciona el contenido basándose en lo que mantiene al usuario enganchado. La segunda capa es la nueva: la inteligencia artificial generativa que se asienta sobre esa selección, creando nuevo texto, imágenes y conversaciones basadas en su propio entrenamiento. Los investigadores sugieren que estas dos capas no solo se suman; se compensan. El sistema de inteligencia artificial no solo responde al niño, sino que responde con sus propios supuestos integrados sobre cultura, lenguaje e identidad, que luego se retroalimentan en el algoritmo de la plataforma, estrechando aún más lo que el niño ve y experimenta.
Para probar esta idea, los autores se centran en Egipto y la región árabe en general, un lugar donde el impacto de esta doble capa es distinto y ampliamente ignorado. Mientras que la mayor parte de la investigación sobre niños y tecnología proviene de Estados Unidos y Europa, los autores señalan que los sistemas de inteligencia artificial que impulsan estas aplicaciones globales fueron entrenados principalmente con datos en inglés y normas culturales occidentales. En Egipto, donde el uso de internet es de casi el 82 por ciento de la población y donde las redes sociales son una forma de vida predeterminada para millones de jóvenes, este desajuste crea un problema específico. Cuando un adolescente egipcio usa una aplicación, la primera capa de mediación lo empuja hacia contenido que es globalmente popular y a menudo de código occidental. La segunda capa, la inteligencia artificial, genera entonces respuestas o sugerencias que recurren por defecto a referencias culturales, alimentos y normas sociales occidentales, fallando a menudo en comprender o respetar los matices del dialecto árabe egipcio, las prácticas religiosas locales o las estructuras familiares.
Los investigadores destacan que esto no es un error técnico menor, sino un sesgo sistemático. Los estudios muestran que cuando los modelos de inteligencia artificial se les pide generar contenido en un árabe fluido y natural, a menudo recurren a entidades e ideas occidentales, incluso cuando el usuario habla en su dialecto local. Para un niño en Egipto, esto significa que las herramientas diseñadas para ayudarles a expresarse —como un compañero chatbot o un generador de subtítulos— pueden orientar sutilmente su identidad hacia un registro cultural que no es el suyo. Esto es particularmente significativo porque la mediación familiar y comunitaria en Egipto suele basarse en la responsabilidad colectiva y marcos religiosos que difieren de los modelos individualistas y terapéuticos integrados en muchos de estos compañeros de IA. Un niño podría recurrir a una IA para una conversación privada, esperando un oído que no juzgue, solo para encontrar un sistema que malinterpreta su contexto cultural o que no reconoce la importancia de su red familiar.
Los autores también examinan cómo las leyes actuales intentan proteger a los niños, señalando que estas regulaciones suelen carecer de la segunda mitad del problema. Analizan la reciente ley de Australia, que prohíbe el uso de redes sociales a menores de dieciséis años, y propuestas similares en Gran Bretaña y Francia. Si bien estas leyes se centran en la verificación de la edad y el control de acceso, los investigadores argumentan que abordan solo la primera capa de mediación. Incluso si una ley logra mantener a un niño fuera de una plataforma, no hace nada para cambiar los sistemas de inteligencia artificial que moldearán la experiencia del adolescente que cumple dieciséis años y obtiene acceso. La ley puede impedir que un niño inicie sesión, pero no garantiza que el compañero de IA que le espera sea culturalmente receptivo o que el contenido que genera respete su identidad local. Los autores sugieren que el propio debate legislativo emergente en Egipto ofrece una oportunidad para hacerlo mejor, proponiendo que las regulaciones exijan a las plataformas informar cuándo los niños están interactoriando con inteligencia artificial y que sometan sus sistemas a pruebas de sesgo cultural en lenguas locales, en lugar de depender únicamente del inglés o del árabe estándar.
En última instancia, el artículo sirve como un llamado a la acción para que investigadores y responsables políticos dejen de tratar las redes sociales y la inteligencia artificial como campos separados. Los autores sugieren que necesitamos nuevos estudios que miren directamente cómo los niños del Sur Global navegan estas dobles capas de mediación. Argumentan que sin comprender cómo los sesgos culturales de la inteligencia artificial interactúan con la lógica basada en datos de las plataformas, no podemos comprender plenamente las infancias digitales de millones de jóvenes. El objetivo no es decir que la inteligencia artificial es inherentemente dañina, sino reconocer que su diseño actual crea una experiencia específica e desigual para los niños cuyas lenguas y culturas no son el foco principal de los creadores de la tecnología. Al unir estas dos literaturas, los investigadores esperan construir una imagen más clara del mundo digital en el que crecen los niños, uno donde la mano invisible de la inteligencia artificial sea finalmente vista por lo que es: una poderosa segunda capa de mediación que moldea la identidad, la cultura y la conexión de formas que apenas estamos empezando a comprender.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.