Do Political Opinions Transfer Between Western Languages? An Analysis of Unaligned and Aligned Multilingual LLMs
本文表明，在西方语言语境下，多语言大语言模型中的政治观点会跨语言进行迁移而非保持独立，并且对齐过程会使这些观点无论在目标语言为何时都发生统一的偏移。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你拥有一支由 15 台非常聪明、精通多种语言的机器人组成的团队。这些机器人几乎阅读了互联网上的所有内容，但主要是在英语环境下学习的。现在，想象你用五种不同的语言（英语、德语、法语、西班牙语和意大利语）向它们提出了一个简单的问题：“你认为我们应该更多地保护环境吗？” 或者 “我们是否应该实施更严格的移民法？”
这个研究报告提出的核心问题是：这些机器人的观点是否会根据你使用的语言而有所不同？ 或者说，如果你用德语问它们，得到的答案是否与你用英语问它们时一样？
以下是研究人员发现的内容，使用了简单的类比进行说明。
设置：“民意调查”
研究人员将这些机器人视为大规模民意调查中的选民。他们使用了一套标准的政治问题（类似于投票建议应用），要求机器人回答“是”或“否”。他们在五种西欧语言中，对 15 种不同的机器人模型进行了测试。
第一个发现：机器人是“通用型”的
你可能会预期，一个基于德语数据训练的机器人会拥有德国式的观点，而一个基于法语数据训练的机器人则会有法国式的观点。但研究人员发现了一个令人惊讶的事实：机器人并不在乎语言。
- 类比： 想象一对在不同国家长大的双胞胎。通常你会预期他们会有不同的口音，甚至可能有不同的文化习惯。但这些机器人就像是一对在英语环境下长大的双胞胎，即使身在法国或德国，他们也表现得像是在英语环境中成长的一样。当你用法语询问一个政治问题时，他们给出的答案是带有“英语风格”的观点，就像用英语询问时一样。
- 结果： 在研究人员尝试改变它们的想法之前，无论你用英语、西班牙语还是意大利语与它们交流，机器人的政治观点几乎没有区别。它们都略微倾向于“左派”（自由派），而且在所有语言中表现得非常统一。
实验：“思维转变”
既然这些机器人的思维方式都是一致的，研究人员想看看是否可以改变它们的想法。他们选取了两个最聪明的机器人，并仅使用英语政治文本为它们进行了一次特殊的“培训课程”。
- 目标： 他们试图让一个机器人变得更“左”（自由派），让另一个变得更“右”（保守派）。
- 转折点： 他们只使用了英语数据来教导它们。他们没有提供任何德语、法语或西班牙语的训练材料。
第二个发现：“多米诺骨牌效应”
这正是最有趣的地方。当研究人员仅使用英语数据来改变机器人的想法时，这种改变在所有五种语言中同时发生了。
- 类比： 想象你有一个有五根不同颜色绳子的木偶（每种颜色代表一种语言）。通常你会认为，拉动“德语绳子”只会移动木偶的德语部分。但研究人员发现，这个木偶实际上是一个单一的整体。当他们拉动“英语绳子”使机器人变得更加保守时，整个整体都随之移动了。机器人突然在德语、法语、西班牙语和意大利语中都变得更加保守，尽管它从未“读过”任何这些语言的保守派文本。
- 结果： 政治观点的转移是非常强大的。如果你通过英语使一个多语言机器人趋向于某种立场，你实际上是在所有其他它所使用的语言中都使其趋向于该立场。
为什么这很重要？
该论文得出结论：对于西方语言而言，这些机器人表现得像是一个统一的大脑，而不是五个独立的大脑。
- 问题所在： 如果你想让机器人理解德国特有的政治细微差别（这可能与美国或英国不同），仅仅通过英语训练是不够的。机器人只会给你一个翻译成德语的“英语观点”。
- 启示： 让这些机器人反映不同国家的独特文化和政治差异是非常困难的。无论你使用哪种语言，它们往往都会将一切融合为一种“西方英语”视角。
总结
- 训练前： 机器人在所有五种语言中的政治观点都是相同的。它们没有“德国观点”或“法国观点”；它们只有“机器人观点”。
- 训练后： 如果你仅使用英语教会机器人一种新的政治观点，它会在它所说的每一种语言中都采纳该观点。
- 教训： 这些多语言模型是深度互联的。你无法轻易地将一种语言的文化从其他语言中分离出来；改变一种语言中的思维，就会改变所有语言中的思维。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。