Plurification in/of language technology -- The integration of culture in next-generation AI
本文认为，若要在下一代人工智能中实现真正的文化对齐，就必须超越单纯的数据多样化，转而采用一种反思性的、多元的社会技术方法，将多样化的认识论整合其中，并解决语言技术设计各层级中涉及的更深层次的权力与治理问题。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下你正在试图教一个机器人说话并理解人类。这篇论文指出，仅仅向机器人喂养更多的书籍、更多的网站或更多不同语言的范例是不够的。如果你只是在混合物中加入更多的“其他”文化，而不改变机器人的思维方式，它仍然会误解这个世界。
作者 Gertraud Koch 和 Fausto Giunchiglia 提出，我们需要改变机器人的整个“操作系统”以尊重多元性（plurality）——这意味着允许存在许多不同的认知和生存方式，而不是将一切都强行塞进一个单一的、占主导地位的框框里。
以下是使用简单类比对他们论点的拆解：
核心问题：“一刀切”的陷阱
目前的 AI 语言模型大多像是一条巨大的单车道高速公路。每个人都被迫朝着同一个方向、以同样的速度行驶，并遵循同样的规则。
- 问题在于： 如果你试图把一辆来自不同国家的汽车开上这条高速公路，路标可能看起来很熟悉，但驾驶规则（文化）却是不同的。AI 可能会字面上翻译一句礼貌的问候，却忽略了在那种文化中，这样说其实是不礼貌的。
- 论文的观点： 你不能通过仅仅增加更多不同文化的“车道”来解决这个问题。你必须重新设计整个道路系统，以允许各种不同类型的交通自然流动。
解决方案：技术的五层“房屋”结构
为了解决这个问题，作者建议不要仅仅将语言技术视为代码，而应将其视为一座五层楼的房子。你不能只粉刷一下前门（输出端）就称其为“具有文化意识”，你必须检查每一层楼。
1. 地基（核心技术）
- 类比： 想象地基完全是用英文砖块建造的。
- 修复方案： 作者建议使用一个“通用知识核心”。可以将其想象为一个中立的翻译枢纽（就像一个通用的适配器插头）。与其强迫每种语言先翻译成英文，这个枢纽可以直接通过共享概念连接所有语言。它让斯瓦希里语单词直接与日语单词相连，而不需要先变成英文。
2. 图书馆（数据与知识）
- 类比： AI 向图书馆学习。目前，90% 的书是由少数富有的人编写的，而少数群体（minority groups）的故事要么缺失，要么是由局外人编写的。
- 修复方案： 我们需要改变谁在写书以及如何编纂这些书。这不仅仅是增加更多的书，而是要承认图书馆本身就带有偏见。我们需要记录下谁在说话、在哪里以及何时，这样 AI 才能了解故事的语境，而不仅仅是单词本身。
** 3. 规则手册（规范、法律与伦理）**
- 类比： 每个社区都有自己不成文的行为准则。一个“全球规则手册”往往会忽略地方习俗。
- 修复方案： 论文指出，现有的规则（如“负责任的 AI”）往往过于笼统，或者仅仅是营销口号。我们需要能够尊重当地法律和社区价值观的规则手册，而不是仅仅遵循企业的利润计划。这关乎确保 AI 遵循当地的“邻里守望”规则，而不仅仅是城市的中央警察法典。
4. 经济（谁出资，谁获利）
- 类比： 想象一个工厂，村里的人提供原材料（他们的语言数据），但大城市的工厂主保留了所有的利润并做出所有的决策。这被称为“榨取主义（extractivism）”。
- 修复方案： 论文认为我们需要一种更公平的经济模式。提供语言数据的人应该是共同所有者，而不仅仅是免费劳动力。如果一个社区帮助构建了 AI，他们应该获得收益份额，并对 AI 如何被使用拥有发言权。
5. 客厅（使用的语境）
- 类比： 一个工具在实验室里可能表现完美，但在真实的客厅里可能会失败。例如，一个机器人可能会说出语法正确但在特定社区中具有社交冒犯性的内容。
- 修复方案： 我们不能只在电脑屏幕上测试 AI。我们必须在实际社区的“客厅”里进行测试。它对他们来说是否有意义？它是否尊重他们的界限？社区成员本身必须是判断 AI 是否“好”的标准，而不仅仅是工程师。
核心启示
论文总结道，“文化”不是一个你可以开启或关闭的开关，也不是你可以添加到数学方程中的一个变量。它是一个活生生的、呼吸着的实体，会随着时间而变化，并因人而异。
要让 AI 真正具备文化属性，我们需要停止尝试将所有人类多样性强行塞入一个标准模型中。相反，我们需要构建能够同时容纳多个不同世界的灵活系统。这不仅仅是让 AI 在传统意义上变得更“聪明”；而是要让 AI 变得足够谦逊，从而去倾听许多不同的认知方式。
简而言之： 不要只是在旧机器上增加更多语言。要建造一种全新的机器，这种机器从底层设计开始，就是为了尊重许多不同的声音、规则和生活方式。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。