Beyond the Feed: How Generative AI is Reshaping Children's Social Media Ecologies in the Global South
Este artigo propõe uma estrutura de "dupla mediação" para analisar como a IA generativa e as lógicas de dados das plataformas remodelam conjuntamente as experiências de redes sociais de crianças no Sul Global, utilizando o Egito como estudo de caso para argumentar que as atuais políticas de restrição de idade não conseguem abordar os complexos vieses culturais e linguísticos incorporados nesses sistemas de IA.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Durante décadas, o estudo de como as crianças crescem online focou na tela como uma janela. Pesquisadores há muito entendem que as plataformas de redes sociais não são cenários neutros; elas são guardiãs ativas que decidem o que uma criança vê, o que ela é encorajada a fazer e como ela é rastreada. Esse processo, frequentemente chamado de dataficação, transforma cada clique e rolagem em um registro que as empresas usam para vender atenção e moldar o comportamento. A preocupação sempre foi que esses ambientes digitais são projetados para manter as crianças assistindo, muitas vezes às custas de sua privacidade ou bem-estar. Mas o cenário mudou sob nossos pés. As ferramentas que as crianças usam para conversar com amigos e compartilhar fotos não estão mais apenas coletando dados; elas estão agora gerando novas realidades. A inteligência artificial deixou de ser uma ferramenta separada que uma criança poderia abrir para ajudar no dever de casa e tornou-se uma camada invisível tecida diretamente nos aplicativos que elas usam todos os dias. Esses sistemas podem escrever legendas, simular conversas e até criar personagens inteiros que respondem de volta. A questão para os pesquisadores não é mais apenas como a plataforma seleciona o conteúdo, mas como a inteligência artificial dentro dela cria novo conteúdo, e o que acontece quando essas duas forças trabalham juntas na mente em desenvolvimento de uma criança.
Nermeen Singer, Fathey El Sharkawy e Amira Ismail propõem uma nova maneira de entender essa situação complexa, um conceito que chamam de "dupla mediação". Eles argumentam que não podemos mais olhar para as redes sociais e a inteligência artificial como questões separadas. Em vez disso, a experiência de uma criança é agora moldada duas vezes. A primeira camada é a familiar: o algoritmo da plataforma que classifica e seleciona o conteúdo com base no que mantém um usuário engajado. A segunda camada é a nova: a inteligência artificial generativa que se assenta sobre essa seleção, criando novos textos, imagens e conversações com base em seu próprio treinamento. Os pesquisadores sugerem que essas duas camadas não apenas se somam; elas se potencializam. O sistema de inteligência artificial não apenas responde à criança; ele responde com suas próprias suposições embutidas sobre cultura, linguagem e identidade, que são então alimentadas de volta no algoritmo da plataforma, estreitando ainda mais o que a criança vê e experimenta.
Para testar essa ideia, os autores focam no Egito e na região árabe em geral, um lugar onde o impacto dessa dupla camada é distinto e amplamente negligenciado. Embora a maior parte da pesquisa sobre crianças e tecnologia venha dos Estados Unidos e da Europa, os autores apontam que os sistemas de inteligência artificial que alimentam esses aplicativos globais foram treinados principalmente em dados em inglês e normas culturais ocidentais. No Egito, onde a internet é usada por quase 82% da população e onde as redes sociais são uma forma de vida padrão para milhões de jovens, esse descompasso cria um problema específico. Quando um adolescente egípcio usa um aplicativo, a primeira camada de mediação o empurra para conteúdos que são globalmente populares e frequentemente codificados pelo Ocidente. A segunda camada, a inteligência artificial, gera então respostas ou sugestões que adotam padrões de referências, alimentos e normas sociais ocidentais, falhando frequentemente em compreender ou respeitar as nuances do dialeto árabe egípcio, das práticas religiosas locais ou das estruturas familiares.
Os pesquisadores destacam que isso não é uma falha técnica menor, mas um viés sistemático. Estudos mostram que, quando modelos de inteligência artificial são solicitados a gerar conteúdo em árabe fluente e natural, eles frequentemente recorrem a entidades e ideias ocidentais, mesmo quando o usuário fala em seu dialeto local. Para uma criança no Egito, isso significa que as ferramentas projetadas para ajudá-la a se expressar — como um companheiro chatbot ou um gerador de legendas — podem sutilmente direcionar sua identidade para um registro cultural que não é o seu. Isso é particularmente significativo porque a mediação familiar e comunitária no Egito muitas vezes depende de responsabilidade coletiva e estruturas religiosas que diferem dos modelos individualistas e terapêuticos integrados em muitos desses companheiros de IA. Uma criança pode recorrer a uma IA para uma conversa privada, esperando um ouvido sem julgamentos, apenas para encontrar um sistema que não compreende seu contexto cultural ou que falha em reconhecer a importância de sua rede familiar.
Os autores também examinam como as leis atuais tentam proteger as crianças, observando que essas regulamentações muitas vezes estão perdendo a segunda metade do problema. Eles analisam a lei recente da Austrália, que proíbe menores de dezesseis anos de usar redes sociais, e propostas semelhantes na Grã-Bretanha e na França. Embora essas leis foquem na verificação de idade e controle de acesso, os pesquisadores argumentam que elas abordam apenas a primeira camada de mediação. Mesmo que uma lei consiga manter uma criança fora de uma plataforma, ela nada faz para mudar os sistemas de inteligência artificial que moldarão a experiência do adolescente que completa dezesseis anos e ganha acesso. A lei pode impedir uma criança de fazer login, mas não garante que o companheiro de IA que a espera seja culturalmente responsivo ou que o conteúdo que ele gera respeite sua identidade local. Os autores sugerem que o próprio debate legislativo emergente no Egito oferece uma chance de fazer melhor, propondo que as regulamentações exijam que as plataformas divulguem quando as crianças estão interagindo com inteligência artificial e testem seus sistemas para viés cultural em línguas locais, em vez de depender apenas do inglês ou do árabe padrão.
Em última análise, o artigo serve como um chamado à ação para pesquisadores e formuladores de políticas para pararem de tratar as redes sociais e a inteligência artificial como campos separados. Os autores sugerem que precisamos de novos estudos que olhem diretamente para como as crianças do Sul Global navegam por essas duplas camadas de mediação. Eles argumentam que, sem entender como os vieses culturais da inteligência artificial interagem com a lógica orientada por dados das plataformas, não podemos compreender totalmente as infâncias digitais de milhões de jovens. O objetivo não é dizer que a inteligência artificial é inerentemente prejudicial, mas reconhecer que seu design atual cria uma experiência específica e desigual para crianças cujas línguas e culturas não são o foco principal dos criadores da tecnologia. Ao unir essas duas literaturas, os pesquisadores esperam construir um quadro mais claro do mundo digital em que as crianças estão crescendo, um onde a mão invisível da inteligência artificial é finalmente vista pelo que é: uma poderosa segunda camada de mediação que molda a identidade, a cultura e a conexão de maneiras que estamos apenas começando a compreender.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.