Culturally-Grounded Governance for Multilingual Language Models: Rights, Data Boundaries, and Accountable AI Design
本文提出了一种针对多语言语言模型的、以文化为基础的治理框架，该框架通过将人工智能治理重新定义为一种社会文化和基于权利的挑战，而非纯粹的技术挑战，从而解决了数据中的系统性不平等、与当地规范的不一致以及问责机制的缺失问题。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，世界上的各种语言就像一个繁忙而热闹的大型集市，成千上万个摊位错落有致，每个摊位都在售卖着独特的传说、笑话和智慧。长期以来，那些帮助我们进行交流的“超级机器人”（大语言模型）就像是只精通大摊位语言（如英语、中文和西班牙语）的翻译员。他们在处理这些语言时表现出色，但如果你试图使用来自较小、较安静摊位的语言（即低资源语言），机器人要么会感到困惑，要么会胡编乱造，或者干脆无视你。
这篇由 Hanjing Shi 和 Dominic DiFranzo 撰写的论文指出，我们不应再将这些机器人仅仅视为简单的翻译机器，而应将它们视为文化外交官。以下是他们论点的拆解，使用了简单的类比：
1. 问题所在：“一码通吃”的西装并不合身
作者指出，目前的 AI 模型构建在以英语为主的数据“饮食”之上。想象一下，你要教一位厨师烹饪世界各地的菜肴，但你只给了他意大利菜的食谱。当他尝试烹饪泰式或尼日利亚菜时，他可能会猜测食材，但结果味道会不对，甚至可能很危险。
- 风险： 由于机器人没有“吃”过足够多的来自小语种的数据，它经常会误解意思。它可能会在无意中冒犯他人、强化刻板印象，或者无法理解当地的习俗。这就像一个游客试图仅凭一本 50 年前的短语手册来使用当地语言——他或许能被理解，但他会错过其中的细微差别，甚至可能引发混乱。
2. 解决方案：一张新的“治理”地图
论文提出了一种管理这些机器人的新方法，他们称之为**“以文化为基础的治理” (Culturally-Grounded Governance)**。我们不应仅仅询问“翻译是否准确？”（就像检查一个单词是否符合字典），而需要询问：“这种互动是否尊重了相关人员的文化和权利？”
为了实现这一点，作者建议通过四个特定的“质量控制”视角来检查这些机器人：
- 视角 1：数据质量（食材）
- 类比： 没有好的面粉，就做不出美味的蛋糕。作者认为，我们需要确保机器人学习的“食材”（文本数据）包含了集市中所有摊位的食谱，而不仅仅是大摊位的。如果我们忽略了小摊位，机器人永远也学不会他们的风味。
- 视角 2：可靠性与可操作性（可靠的汽车）
- 类比： 如果你雇佣一名出租车司机带你横跨全国，你需要他在任何天气条件下都表现可靠，而不仅仅是在晴天。无论你使用的是高资源语言还是低资源语言，机器人都需要稳定地工作。它不应该仅仅因为某种语言稀有就出现故障或给出奇怪的答案。
- 视角 3：以人为本的设计（舒适的椅子）
- 类比： 一把椅子应该适合坐的人，而不是让人去适应椅子。机器人的设计应该是为人类设计的，而不仅仅是为了代码。这意味着它应该既能让大城市的技术人员使用，也能让偏远村庄的祖母轻松上手。它需要理解不同的文化有不同的表达尊重或说“不”的方式。
- 视角 4：人类监督（安全网）
- 类比： 即便是最优秀的飞机自动驾驶系统，也需要人类飞行员观察控制台。作者表示，我们需要人类来盯着机器人，以确保它不会表现得不公平或造成伤害。我们需要一个“安全网”来捕捉错误，防止其损害他人的名誉或权利。
3. 为什么这很重要：这关乎权利，而非仅仅是技术
论文强调，这不仅仅是一个技术故障，而是一个人权问题。
- “数字抹除”的风险： 如果我们不解决这个问题，小型社区的语言可能会从数字世界中消失。这就像如果世界上只有大城市的地图，最终人们会忘记小镇的存在。作者警告说，如果 AI 忽视了这些语言，它可能会抹除它们的文化和历史。
- 现实世界的利害关系： 论文指出，在医疗和法律等领域，翻译出错不仅仅是令人恼火，更是危险的。如果医生的 AI 助手因为语言障碍误解了病人的症状，病人可能会得到错误的治疗。如果法律 AI 误解了非英语使用者的合同，他们可能会失去自己的权利。
4. 前方的道路：打造一支更优秀的团队
作者总结道，我们不能仅靠代码来解决这个问题。我们需要一支包括以下成员在内的“梦之队”：
- AI 研究员（工程师），
- 语言学家（语言专家），
- 文化学者（了解当地习俗的人），以及
- 社区本身（真正使用这些语言的人）。
他们认为，我们不应仅仅衡量机器人翻译单词的速度有多“快”或多“准”。相反，我们需要衡量它在多大程度上帮助来自不同文化的人们开展合作、建立信任并理解彼此的心灵与思想。
简而言之： 这篇论文是在呼吁行动，要求停止构建那些将所有语言都视为相同的 AI。相反，我们需要构建能够尊重每种文化独特“风味”的 AI，确保没有人被排除在数字对话之外。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。