Beyond the Feed: How Generative AI is Reshaping Children's Social Media Ecologies in the Global South
Cet article propose un cadre de « double médiation » pour analyser comment l'IA générative et les logiques de données des plateformes remodèlent conjointement les expériences des enfants sur les réseaux sociaux dans les pays du Sud, en utilisant l'Égypte comme étude de cas pour soutenir que les politiques actuelles de restriction d'âge ne parviennent pas à traiter les biais culturels et linguistiques complexes ancrés dans ces systèmes d'IA.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Pendant des décennies, l'étude de la façon dont les enfants grandissent en ligne s'est concentrée sur l'écran comme une fenêtre. Les chercheurs ont compris depuis longtemps que les plateformes de médias sociaux ne sont pas des décors neutres ; elles sont des gardiens actifs qui décident de ce qu'un enfant voit, de ce qu'il est encouragé à faire et de la manière dont il est suivi. Ce processus, souvent appelé « datafication », transforme chaque clic et chaque défilement en un enregistrement que les entreprises utilisent pour vendre l'attention et façonner le comportement. L'inquiétude a toujours été que ces environnements numériques soient conçus pour maintenir les enfants devant leur écran, souvent au détriment de leur vie privée ou de leur bien-être. Mais le paysage a changé sous nos pieds. Les outils que les enfants utilisent pour parler à leurs amis et partager des photos ne se contentent plus de collecter des données ; ils génèrent désormais de nouvelles réalités. L'intelligence artificielle est passée du statut d'outil distinct qu'un enfant pourrait ouvrir pour l'aider dans ses devoirs à celui d'une couche invisible tissée directement dans les applications qu'ils utilisent quotidiennement. Ces systèmes peuvent écrire des légendes, simuler des conversations et même créer des personnages entiers qui répondent. La question pour les chercheurs n'est plus seulement de savoir comment la plateforme sélectionne le contenu, mais comment l'intelligence artificielle à l'intérieur de celle-ci crée un nouveau contenu, et ce qui se passe lorsque ces deux forces travaillent ensemble sur l'esprit en développement d'un enfant.
Nermeen Singer, Fathey El Sharkawy et Amira Ismail proposent une nouvelle façon de comprendre cette situation complexe, un concept qu'ils appellent la « double médiation ». Ils soutiennent que nous ne pouvons plus considérer les médias sociaux et l'intelligence artificielle comme des problèmes distincts. Au lieu de cela, l'expérience d'un enfant est désormais façonnée deux fois. La première couche est la plus familière : l'algorithme de la plateforme qui trie et sélectionne le contenu en fonction de ce qui maintient l'engagement d'un utilisateur. La seconde couche est la nouvelle : l'intelligence artificielle générative qui se situe au-dessus de cette sélection, créant de nouveaux textes, images et conversations basés sur son propre entraînement. Les chercheurs suggèrent que ces deux couches ne se contentent pas de s'additionner ; elles se cumulent. Le système d'intelligence artificielle ne se contente pas de répondre à l'enfant ; il répond avec ses propres présupposés intégrés sur la culture, la langue et l'identité, qui sont ensuite réinjectés dans l'algorithme de la plateforme, restreignant davantage ce que l'enfant voit et expérimente.
Pour tester cette idée, les auteurs se concentrent sur l'Égypte et la région arabe au sens large, un lieu où l'impact de cette double couche est distinct et largement négligé. Alors que la plupart des recherches sur les enfants et la technologie proviennent des États-Unis et de l'Europe, les auteurs soulignent que les systèmes d'intelligence artificielle qui alimentent ces applications mondiales ont été principalement entraînés sur des données anglaises et des normes culturelles occidentales. En Égypte, où l'internet est utilisé par près de 82 % de la population et où les médias sociaux sont un mode de vie par défaut pour des millions de jeunes, ce décalage crée un problème spécifique. Lorsqu'un adolescent égyptien utilise une application, la première couche de médiation le pousse vers un contenu mondialement populaire et souvent codé de manière occidentale. La seconde couche, l'intelligence artificielle, génère ensuite des réponses ou des suggestions qui adoptent par défaut des références culturelles, des aliments et des normes sociales occidentaux, échouant souvent à comprendre ou à respecter les nuances du dialecte arabe égyptien, des pratiques religieuses locales ou des structures familiales.
Les chercheurs soulignent qu'il ne s'agit pas d'un simple bug technique mineur, mais d'un biais systématique. Des études montrent que lorsque les modèles d'intelligence artificielle sont sollicités pour générer du contenu en arabe fluide et naturel, ils reviennent souvent à des entités et des idées occidentales, même lorsque l'utilisateur s'exprime dans son dialecte local. Pour un enfant en Égypte, cela signifie que les outils conçus pour l'aider à s'exprimer — comme un compagnon chatbot ou un générateur de légendes — peuvent subtilement orienter son identité vers un registre culturel qui n'est pas le sien. Cela est particulièrement significatif car la médiation familiale et communautaire en Égypte repose souvent sur une responsabilité collective et des cadres religieux qui diffèrent des modèles individualistes et thérapeutiques intégrés dans beaucoup de ces compagnons d'IA. Un enfant peut se tourner vers une IA pour une conversation privée, espérant une oreille non jugeante, pour finalement trouver un système qui ne comprend pas son contexte culturel ou qui ne reconnaît pas l'importance de son réseau familial.
Les auteurs examinent également comment les lois actuelles tentent de protéger les enfants, notant que ces réglementations sont souvent dépourvues de la seconde moitié du problème. Ils observent la loi récente de l'Australie, qui interdit l'accès aux médias sociaux aux enfants de moins de seize ans, ainsi que des propositions similaires en Grande-Bretagne et en France. Bien que ces lois se concentrent sur la vérification de l'âge et le contrôle de l'accès, les chercheurs soutiennent qu'elles n'abordent que la première couche de médiation. Même si une loi parvient à tenir un enfant éloigné d'une plateforme, elle ne change rien aux systèmes d'intelligence artificielle qui façonneront l'expérience du adolescent lorsqu'il atteindra seize ans et aura accès à l'espace numérique. La loi peut empêcher un enfant de se connecter, mais elle ne garantit pas que le compagnon d'IA qui l'attendra soit culturellement réactif ou que le contenu qu'il génère respecte son identité locale. Les auteurs suggèrent que le propre débat législatif émergent en Égypte offre une chance de faire mieux, proposant que les réglementations exigent que les plateformes divulguent quand les enfants interagissent avec l'intelligence artificielle et testent leurs systèmes pour le biais culturel dans les langues locales, plutôt que de se reposer uniquement sur l'anglais ou l'arabe standard.
En fin de compte, l'article sert d'appel à l'action pour les chercheurs et les décideurs politiques afin qu'ils cessent de traiter les médias sociaux et l'intelligence artificielle comme des domaines séparés. Les auteurs suggèrent que nous avons besoin de nouvelles études qui examinent directement la façon dont les enfants du Sud global naviguent à travers ces doubles couches de médiation. Ils soutiennent que sans comprendre comment les biais culturels de l'intelligence artificielle interagissent avec la logique axée sur les données des plateformes, nous ne pouvons pas pleinement comprendre les enfances numériques de millions de jeunes gens. L'objectif n'est pas de dire que l'intelligence artificielle est intrinsèquement nocive, mais de reconnaître que sa conception actuelle crée une expérience spécifique et inégale pour les enfants dont les langues et les cultures ne sont pas l'objet principal de l'attention des créateurs de la technologie. En réunissant ces deux littératures, les chercheurs espèrent dresser un portrait plus clair du monde numérique dans lequel les enfants grandissent, un monde où la main invisible de l'intelligence artificielle est enfin perçue pour ce qu'elle est : une puissante seconde couche de médiation qui façonne l'identité, la culture et la connexion d'une manière que nous commençons à peine à comprendre.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.