Beyond the Feed: How Generative AI is Reshaping Children's Social Media Ecologies in the Global South
本文提出了一个“双重中介”框架，旨在分析生成式人工智能与平台数据逻辑如何共同重塑全球南方的儿童社交媒体体验，并以埃及为案例研究，论证现行的年龄限制政策未能解决嵌入在这些人工智能系统中的复杂文化与语言偏见。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
几十年来，关于儿童如何在网络中成长的问题研究，一直将屏幕视为一扇窗户。研究人员早已意识到，社交媒体平台并非中立的背景；它们是活跃的把关者，决定了孩子能看到什么、被鼓励做什么以及如何被追踪。这个过程通常被称为“数据化”（datafication），它将每一次点击和滚动转化为记录，供公司用于出售注意力并塑造行为。人们一直担忧的是，这些数字环境的设计初衷是为了让孩子们持续观看，往往以牺牲他们的隐私或福祉为代价。但这种景观已在我们的脚下发生了转变。孩子们用来与朋友交流和分享照片的工具，不再仅仅是收集数据，它们现在正在生成新的现实。人工智能已从一个孩子可能会为了写作业而打开的独立工具，变成了直接编织进他们每天使用的应用程序中的一个隐形层。这些系统可以编写标题、模拟对话，甚至创造出可以与之交谈的完整角色。对于研究人员来说，问题不再仅仅是平台如何选择内容，而是其中的人工智能如何创造新内容，以及当这两种力量共同作用于儿童发育中的大脑时，会发生什么。
内尔明·辛格（Nermeen Singer）、法西·埃尔·沙尔卡维（Fathey El Sharkawy）和阿米拉·伊斯梅尔（Amira Ismail）提出了一种理解这一复杂情况的新方法，他们称之为“双重中介”（double mediation）。他们认为，我们不能再将社交媒体和人工智能视为两个独立的问题。相反，一个孩子的体验现在受到两层影响。第一层是熟悉的层级：即根据用户参与度来筛选和选择内容的平台算法。第二层是全新的层级：即位于该选择之上的生成式人工智能，它根据自身的训练生成新的文本、图像和对话。研究人员指出，这两层并不只是简单的叠加；它们是复合的。人工智能系统不仅是在回应孩子，它还在以其内置的关于文化、语言和身份的假设进行回应，而这些假设随后又被反馈到平台的算法中，从而进一步缩小了孩子所能看到和体验的范围。
为了测试这一观点，作者将焦点放在埃及和更广泛的阿拉伯地区，因为在这些地方，这种双层影响的影响是独特且在很大程度上被忽视的。虽然大多数关于儿童与技术的研究来自美国和欧洲，但作者指出，驱动这些全球应用的生成式人工智能系统主要是在英语数据和西方文化规范的基础上进行训练的。在埃及，互联网的使用率接近82%，社交媒体是数百万年轻人的生活常态，这种不匹配造成了一个特定的问题。当一名埃及青少年使用应用程序时，第一层中介将他们推向全球流行且通常带有西方色彩的内容。第二层，即人工智能，则会生成默认采用西方文化参考、食物和社会规范的响应或建议，往往无法理解或尊重埃及阿拉伯语方言、当地宗教习俗或家庭结构的细微差别。
研究人员强调，这并非微小的技术故障，而是一种系统性偏见。研究表明，当人工智能模型被要求生成流利、自然的阿拉伯语内容时，即使用户使用的是当地方言，它们也往往会默认转向西方实体和观念。对于埃及的孩子来说，这意味着那些旨在帮助他们表达自我的工具——比如聊天机器人伴侣或标题生成器——可能会微妙地将他们的身份导向一种不属于他们自身的文化语境。这一点尤为重要，因为在埃及，家庭和社区的中介往往依赖于集体责任和宗教框架，这与许多此类 AI 伴侣所内置的个人主义、治疗性模型有所不同。一个孩子可能会转向 AI 进行私人对话，期望得到一个不带评判的倾听者，却发现系统误解了他们的文化背景，或者未能识别其家庭网络的重要性。
作者还考察了现行法律如何试图保护儿童，并指出这些法规往往忽略了问题的另一半。他们观察了澳大利亚最近的一项法律，即禁止十六岁以下儿童使用社交媒体，以及英国和法国类似的提案。虽然这些法律侧重于年龄验证和访问控制，但研究人员认为，它们仅解决了第一层中介的问题。即使法律成功地阻止了孩子登录平台，它也无法改变那些在青少年年满十六岁并获得访问权限后将塑造其体验的人工智能系统。法律可能会阻止孩子登录，但它不能确保等待在他们面前的 AI 伴侣是具有文化响应性的，或者它生成的内容尊重其本地身份。作者建议，埃及自身新兴的立法辩论提供了一个做得更好的机会，提议要求平台披露儿童何时在与人工智能互动，并测试其系统在本地语言中的文化偏见，而不仅仅是依赖英语或标准阿拉伯语。
最终，这篇论文是对研究人员和政策制定者的行动呼吁，要求停止将社交媒体和人工智能作为独立的领域来对待。作者建议，我们需要开展直接研究儿童在“全球南方”（Global South）如何应对这些双重中介层面的新研究。他们认为，如果不了解人工智能的文化偏见如何与平台的驱动数据逻辑相互作用，我们就无法完全理解数百万年轻人的数字童年。目标不是说人工智能本质上是有害的，而是要承认其当前的设计为那些语言和文化并非技术创造者主要关注点的儿童，创造了一种特定的、不均衡的体验。通过将这两类文献结合起来，研究人员希望为孩子们正在成长的数字世界描绘出一幅更清晰的图景——在这个世界里，人工智能的“隐形之手”终于被视为它真正的样子：一个强大的、第二层的中介，它以我们才刚刚开始理解的方式，塑造着身份、文化与连接。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。