Algorithmic neutrality
本文通过定义其本质、评估其可行性，并将其与更常被讨论的算法公平性话题进行对比，从而研究了在很大程度上被忽视的算法中立性这一概念。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这里是关于 Milo Phillips-Brown 的论文《算法中立性》（Algorithmic Neutrality）的解释，使用了简单的语言和日常类比。
大局观：关于“完美中立”机器人的神话
想象你有一个机器人厨师。你告诉这个机器人：“我的目标是做出尽可能美味的食物。”这个机器人应该是中立的，这意味着它应该只关心味道，而不关心其他任何事情。
论文指出，这种机器人厨师实际上并不存在。无论机器人多么努力，它都必须做出超出“味道”之外的选择。作者认为，试图假装机器人是完美中立的，是一种掩盖了我们真正应该追问的问题的诡计。
以下是该论文回答的三个主要问题的分解：
1. 什么是“算法中立性”？
定义：
中立意味着一个算法（计算机程序）只关心它的主要任务，并忽略其他一切。
类比：导游
想象一位导游，其工作是向游客展示当地最美丽的景点。
- 中立的导游： 因为景点很美，所以向游客展示它们。
- 非中立的导游： 带游客去一家特定的商店，因为店主给导游提供了“回扣”（额外的钱）。
在本文中，作者说，如果搜索引擎（如 Google）仅根据结果与你的搜索内容的相关性来显示结果，那么它是中立的。如果它显示某个结果是因为公司想赚钱，或者为了避免政治丑闻，那么它就不是中立的。
2. 算法中立性是可能的吗？
答案： 不。 这是不可能的。
类比：“最强”篮球运动员
想象你有两名篮球运动员，Jack 和 Nashid。
- Jack 是世界上最擅长运球的人。
- Nashid 是世界上最擅长投篮的人。
谁是“更好”的球员？没有单一的答案。要做出决定，你必须权衡运球与投篮。但你应该如何权衡它们呢？
- 如果你认为运球的重要性占 90%，那么 Jack 胜出。
- 如果你认为投篮的重要性占 90%，那么 Nashid 胜出。
没有一个“神奇数字”可以规定如何权衡这些技能。你必须选择一种权衡方式，而这种选择是一种价值判断，而不是数学事实。
将此应用于搜索引擎：
当你向搜索引擎输入“飓风”（hurricane）时，什么是“相关的”？
- 是科学定义？
- 是关于最新风暴的新闻？
- 是关于著名飓风的历史？
- 是安全提示？
所有这些都是相关的，但方式各异。计算机无法直接“看到”相关性；它必须决定哪种类型的相关性最重要。由于它必须做出选择，所以它就不是中立的。它被迫选择一套“权重”系统。
“随机”诡计行不通：
你可能会想：“如果计算机只是随机选择一个权重系统呢？”
作者说这同样行不通。想象一份报纸在挑选采访对象。如果他们在 2 名民主党人和 4 名共和党人中随机抽取，他们对政党的中立性就不成立（共和党人被采访的次数是民主党人的两倍）。如果他们在政党之间进行随机抽取，那么他们对个人而言就不是中立的。你无法在所有方面同时保持中立。
3. 为什么这很重要？（规范性意义）
大揭秘： 中立性是一个红鲼（转移注意力的假象）。
作者认为，是否“中立”本身并不代表好或坏。真正的问题不是“它是否中立？”，而是**“正在使用哪些价值观，以及这些价值观是否正确？”**
类比：交通灯
想象一个交通灯，它的目的是根据谁先到达来让车辆通过（即“目标”）。
- 场景 A： 交通灯为一辆载有炸弹的汽车亮起红灯以拯救城市。这是“非中立”的（它忽略了“先到先得”的规则），但它是好的。
- 场景 B： 交通灯为一个小汽车亮起红灯，因为交通灯公司的老板是那辆大卡车车主的熟人。这是“非中立”的，但它是坏的/不公平的。
核心观点：
- 坏的中立： 如果搜索引擎为了保持“中立”并展示一切，从而隐藏了关于儿童安全的结果，那是一件坏事。
- 好的非中立： 如果搜索引擎为了保护儿童而隐藏这些结果，这是一件好事，尽管它并非“中立”。
论文指出，大型科技公司（如 Google 和 Meta）喜欢通过宣称“我们是中立的！”来为自己辩护。它们利用“中立性”作为盾牌，试图表达：“我们没有做错任何事；我们只是遵循了数学逻辑。”
作者说这个盾牌是有缺陷的，因为：
- 它是不可能的： 它们无法保持中立，因为它们必须做出选择。
- 它是一个干扰： 即使它们能够保持中立，那也无法告诉我们它们做得是否出色。我们需要追问：“你们是否在使用正确的价值观来做出选择？”
总结
- 是什么？ 中立性意味着一个算法只关心它的主要目标（如相关性），并忽略外部因素（如金钱或政治）。
- 是否可能？ 不可能。因为“相关性”非常复杂，计算机必须做出关于如何权衡不同因素的选择。这些选择永远不是纯粹中立的。
- 重要吗？ 不完全是。我们不应该纠结于算法是否“中立”。相反，我们应该争论算法正在使用哪些价值观。它是在使用保护儿童的价值观？还是在利用有助于富有的公司赚更多钱的价值观？这才是真正的辩论。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。