Empire Amplifier: Uncovering and Contesting the Prioritization of Colonial Content on Platforms Through Community-Informed Algorithmic Auditing
通过对 YouTube 开展的基于社区信息的算法审计，本研究发现该平台的推荐系统对儿童用户过度优先推送俄语内容而非吉尔吉斯语内容，从而强化了殖民语言意识形态并威胁到土著语言的复兴，尽管其声称能够放大多元声音。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你拥有一座名为YouTube的魔法图书馆，它拥有无限的藏书。这座图书馆的主人（算法）就像一位非常热心、过度保护的图书管理员，总是试图猜测你接下来想读什么。
这篇论文讲述了一群研究人员前往中亚国家吉尔吉斯斯坦，去调查这位图书管理员究竟是在帮助当地民众，还是在无意中（或有意地）将他们推向另一种文化。
以下是他们发现的故事，用通俗易懂的方式讲述：
主要担忧：“图书馆正在窃取我们的语言”
长期以来，吉尔吉斯斯坦的人们一直心存忧虑。他们说着母语吉尔吉斯语，但也说着俄语，这是因为他们与俄罗斯帝国及苏联的历史渊源。
吉尔吉斯斯坦的父母们注意到一个可怕的现象：他们的孩子开始更多地使用俄语，而非吉尔吉斯语。他们将此归咎于这座“魔法图书馆”（YouTube）。他们感到，即使他们试图向孩子展示吉尔吉斯语的动画片，图书馆却不断向他们塞入俄语视频。他们担心图书馆正在向孩子们灌输“俄语很酷，吉尔吉斯语很无聊”的观念，从而有效地抹杀他们的文化。
调查：“傀儡账号”测试
研究人员并没有仅仅询问父母，他们想要确凿的证据。于是，他们构建了数字“傀儡账号”。
把这些傀儡账号想象成机器人替身。
- 他们创建了数百个这样的机器人。
- 有些机器人伪装成首都的新用户。
- 有些伪装成偏远小村庄的新用户，那里几乎没人说俄语。
- 有些伪装成喜爱吉尔吉斯语动画片的儿童。
- 有些伪装成喜爱俄语动画片的儿童。
这些机器人进入图书馆，点击视频，并记录下图书管理员接下来推荐了什么。他们这样操作了超过 10,000 次。
令人震惊的结果
机器人发现，这位图书管理员并没有倾听当地文化的声音。情况如下：
- “新用户”问题：即使机器人第一次进入位于偏远村庄的图书馆（那里没人说俄语），图书管理员也会立即推荐俄语视频。无论机器人身处何地，管理员都假设每个人都想要俄语内容。
- “儿童”问题：当机器人伪装成儿童，搜索孩子们喜欢的内容（如“动画片”或“童话故事”）时，即使机器人用吉尔吉斯语输入搜索词，图书管理员给出的结果也主要是俄语。
- “过滤气泡”陷阱：这是最令人惊讶的部分。当机器人表现得像真正喜爱吉尔吉斯语内容的儿童（连续观看 10 部吉尔吉斯语动画片）时，图书管理员停止推荐吉尔吉斯语视频！它实际上转而推荐英语或俄语视频。
- 类比：想象你告诉朋友：“我只想苹果。”他们递给你一个苹果，但随后说：“好吧，既然你已经吃了一个，现在给你一整篮橘子和香蕉，因为我觉得你对苹果厌倦了。”这座图书馆因为孩子们喜爱自己的文化而惩罚了他们。
为什么会发生这种情况？
研究人员检查了是否仅仅是因为吉尔吉斯语视频不够多。他们发现了数千小时的吉尔吉斯语儿童内容，包括政府制作的节目以及联合国儿童基金会（UNICEF）等大型国际组织制作的内容。
问题不在于内容匮乏，而在于算法的“大脑”。它似乎被设定为优先处理“帝国”的语言（俄语），而非当地语言，从而强化了旧有的权力结构，即殖民者的文化被视为更优越。
好消息：如何反击
研究人员并没有仅仅指出问题，他们还询问父母：“我们能做什么？”并测试了一些想法。他们发现了一些可以“欺骗”图书管理员的“技巧”：
- 共享设备：如果孩子使用自己的手机，图书馆会认为他们是“俄语儿童”并向他们展示俄语视频。但如果孩子与观看吉尔吉斯语内容的父母共用一台平板电脑，图书馆就会感到困惑。它会看到父母的历史记录，并开始向孩子也推荐吉尔吉斯语视频。
- 翻译搜索：如果孩子用俄语请求观看视频，父母可以在输入前将请求翻译成吉尔吉斯语。这会迫使图书馆展示吉尔吉斯语的结果。
主要结论
该论文得出结论：虽然科技公司经常声称“我们在这里帮助每个人分享自己的文化”，但在这种情况下，技术实际上是在放大一个帝国。它使得当地文化的生存变得更加困难。
然而，故事并非没有希望。通过了解这位图书管理员的工作原理，家庭可以利用简单的技巧（如共享设备）夺回控制权，确保孩子们看到的是他们自己的语言和文化，而不仅仅是算法认为他们应该看到的内容。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。