💬 NLP

Small edits, large models: How Wikipedia advocacy shapes LLM values

本文表明，一小群协调一致的维基百科志愿者可以显著地塑造大型语言模型在特定话题（如动物福利）上的价值观和反应，因为与无关内容相比，他们的针对性编辑在模型训练和行为中具有不成比例的影响力。

原作者： Jasmine Brazilek, Maria Navas, Alexa Gnauck

发布于 2026-06-25

📖 1 分钟阅读☕ 轻松阅读

原作者： Jasmine Brazilek, Maria Navas, Alexa Gnauck

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，互联网是一个巨大的、无尽的图书馆，每一本曾经被写就的书籍都堆叠在书架上。现在，想象人工智能（AI）是一个想要学习世界万物的超级聪明的学生。为了实现这个目标，这位学生不仅仅是读一本书；他们阅读了图书馆里的每一本书。

然而，这位学生非常挑剔。他们并不平等地阅读所有的书。他们会格外关注“百科全书”板块（维基百科），因为那里是由专家编写的，非常可靠。事实上，这位学生阅读百科全书页面的频率比阅读散落在图书馆其他地方的随机新闻文章或博客文章要高出三到五倍。

这篇论文是关于一个被称为**亲动物维基百科志愿者（Pro-Animal Wikipedians，简称 PAW）**的小型志愿者团体。他们决定利用这位“超级学生”的学习习惯来为自己争取利益。以下是他们所做的工作以及他们的发现的简单拆解：

1. 策略：编辑百科全书

PAW 团队并没有试图黑入 AI 或构建一台新的计算机。相反，他们做了一件非常简单的事情：他们编辑了维基百科。

他们访问了 115 个不同的维基百科页面（主要是关于大型快餐连锁店、政治家和动物法案的页面），并添加了 125 段经过事实核查的关于动物福利的具体段落。

例子： 在一个关于快餐连锁店的页面上，他们添加了一个详细说明该公司如何对待其鸡只的部分。
目标： 他们想看看改变“百科全书”是否会改变“超级学生”（AI）对这些公司的认知。

2. 实验：学生注意到了吗？

研究人员想要知道：AI 真的从这些特定的编辑中学习到了知识，还是仅仅忽略了它们？

为了找出答案，他们使用了三种不同的“放大镜”（科学工具）来观察 AI（特别是像 Llama 这样的模型）是如何思考动物福利问题的。

放大镜 #1（“记忆测试”）： 他们向 AI 提问，例如：“这家公司的动物福利政策是什么？”AI 会回溯其训练数据来寻找答案。研究人员发现，在 68% 的情况下，AI 的回答直接提取自 PAW 团队编写的特定段落。如果没有这些编辑，AI 就不会知道这些事实。
放大镜 #2（“如果……会怎样”测试）： 他们运行了一个模拟实验，询问：“如果我们从 AI 的记忆中抹除 PAW 的编辑内容，AI 对动物福利问题的回答质量会变差吗？”答案是肯定的。事实上，在每一次测试运行中，AI 用来回答动物福利问题时最重要的前 10 个信息源，全部都是 PAW 团队所做的编辑。
放大镜 #3（“专家”测试）： 他们从头开始训练了两个微型 AI 模型。一个只阅读 PAW 的编辑内容；另一个只阅读随机的维基百科文本。
- “PAW 模型”成为了动物福利方面的专家，但对一般的公司历史一无所知。
- “随机模型”成为了一般历史方面的专家，但对动物福利一无所知。
- 教训： AI 不仅仅是死记硬背单词；它从喂给它的文本中学习了概念和关联。

3. 关键发现：是针对性的，而非普遍性的

最重要的发现是，AI 并不会产生混淆。

当被问及动物福利时，AI 严重依赖 PAW 的编辑内容。
当被问及无关事物（例如“这家公司有多少家门店？”）时，AI 会忽略 PAW 的编辑，转而使用其通用知识。

类比： 想象你在教一个孩子关于一棵特定的树。你在绘本里给这棵树增加了一片鲜艳的红叶。

如果你问：“这片叶子是什么颜色的？”孩子会指向你添加的那片红叶。
如果你问：“这棵树有多高？”孩子会忽略那片叶子，转而观察树干。
这个孩子明白，红叶对于关于“叶子”的问题是重要的，但对于关于整棵“树”的问题则不然。AI 也做了同样的事情。

4. 为什么这很重要（根据论文所述）

论文得出结论，你不需要数百万美元或一个工程师团队来影响 AI。你只需要一个小型、协调一致的志愿者团体去编辑维基百科。

因为 AI 模型是在维基百科的基础上进行训练的，并且因为它们对维基百科给予了极高的权重，所以修改维基百科页面就像是在修改 AI 知识的源代码。

规模： 论文指出，尽管他们测试的 AI 模型比你今天可能正在使用的模型（如手机中的模型）要小，但这种效应在更大的模型中可能会更强。这是因为更大的模型拥有更多的“记忆”来保留这些特定事实，而且维基百科的事实也会被 AI 阅读的其他新闻来源所强化。
启示： 一小群人，通过仅仅编写事实准确、来源可靠的维基百科文章，就可以切实地改变 AI 系统谈论动物福利的方式。这是一种低成本、高影响力的塑造人工智能“良知”的方式。

简而言之： 论文证明了，如果你想让 AI 关注某个特定话题，你不需要去编写 AI 的程序。你只需要编写 AI 会阅读的那篇百科全书条目。

技术摘要：微小编辑，大型模型

问题陈述
倡议组织往往缺乏直接影响大型语言模型（LLM）训练数据的资源，而这些模型正日益成为公众获取信息的主要来源。虽然已有研究证实，维基百科是主要 LLM 训练数据集（如 The Pile、RedPajama、Dolma）中权重极高的组成部分，但目前在经验层面尚未得到证实：由非技术团体发起的规模较小、有协调性的编辑活动，是否能显著改变模型的行为。具体而言，本文研究了一小群志愿者（亲动物维基百科人，简称 PAW）是否仅通过向维基百科条目添加有据可查的内容，就能在无需 API 访问、技术基础设施或模型重训的情况下，改变 LLM 对动物福利话题的讨论方式。

研究方法
本研究采用了三种不同且互补的数据归因与影响评估方法，用以追踪 PAW 在 115 篇文章中进行的 125 次特定维基百科编辑所产生的影响。

数据集构建：
- PAW 内容： 涉及动物剥削、感知能力和政治领域的 125 次编辑，分布于 115 个页面。
- 控制集：
  - 用于检索归因（TrackStar）：将 PAW 编辑的部分与来自同一文章的非 PAW 部分进行配对（共 72 个部分，36 对），以控制文章的热度和写作质量。
  - 用于影响估计（MAGIC）和消融实验：将 118 个 PAW 部分与来自 WikiText-103 的 118 个随机文本块配对，以确保动物福利内容与一般文本之间有清晰的分离。
- 查询集： 80 个关于动物福利的查询（例如，“Aldi 的动物福利政策是什么？”）以及 90 个关于相同实体的通用查询（例如，“Aldi 有多少家门店？”）作为负控制组。
归因与影响技术：
- TrackStar（检索归因）： 通过 Bergson 库在 Llama 3.1 8B 上实现。该方法计算训练文档与查询之间的梯度相似性，从而对文档进行语义相关性排序。它用于确定 PAW 编辑是否在针对特定查询的高归因文档中被过度代表。
- MAGIC（反事实影响）： 在 Llama-3.2-1B 上使用 LoRA 微调实现。该方法通过在训练过程中进行反向传播，来估计移除某个文档后的反事实影响。研究在 五个随机训练顺序种子（1, 7, 42, 99, 256）上运行此协议，以确保结果不受种子依赖噪声的影响，并使用留子集外验证法（leave-subset-out validation）。
- 微调消融实验： 分别微调了两个 Llama-3.2-1B 模型：一个仅基于 PAW 内容，另一个基于控制内容。通过测量困惑度（Perplexity）来验证在特定内容上的训练是否提升了在该类内容上的表现。

关键结果

TrackStar 检索归因：
- 对于动物福利查询，PAW 编辑的部分在排名前 5 的最高归因文档中占比达 68%（ $p < 0.0001$ ），显著超过了 50% 的基准线。
- 对于关于相同公司的通用查询，PAW 部分在排名前 5 的文档中占比为 51.7%，这在统计学上与随机概率无异（ $p = 0.528$ ）。
- 这证实了这种影响是针对特定主题的，而非由于编辑的内容更长或写得更好。
MAGIC 反事实影响：
- 在每一个种子（5/5）中，针对动物福利查询的前 10 个最具影响力的文档百分之百是 PAW 编辑。
- 对于通用查询，前 10 个文档中仅包含 4–6 个 PAW 编辑，符合随机基准。
- 动物福利查询的平均 PAW 影响力显著比控制组更负（即更具影响力）（在所有种子中 $p < 0.0001$ ），其效应量比通用查询高出 6–30 倍。
- 内部验证显示，所有运行过程中的 Spearman $\rho = 1.00$ 。
微调消融实验：
- 在 PAW 内容上训练的模型在动物福利文本上的困惑度为 8.4（相比之下，基于控制内容训练的模型为 12.4），提升了 32%。
- 反之，基于控制内容训练的模型在控制文本上的困惑度为 11.4（相比之下，基于 PAW 内容训练的模型为 16.1），提升了 29%。
- 不存在交叉收益，这证实了归因信号反映了对特定内容分布的真实学习。

意义与主张
本文声称提供了首个经验证据，证明一次小规模、有协调性的维基百科编辑活动（由少数志愿者完成的 125 次编辑）能够可测量地且有选择性地塑造语言模型处理特定话题的方式。

对倡议工作的实用性： 作者将维基百科编辑定义为一种低成本、高杠杆的倡议干预手段。它不需要技术专长，不需要模型访问权限，除了编辑时间外不需要任何预算。
影响机制： 研究表明，LLM 不仅仅是记忆文章，而是从文本分布中学习关联和框架。通过在热门文章（如快餐连锁店）中插入符合事实且符合政策的内容，倡议者可以强化这些实体与福利议题在模型知识结构中的关联。
对前沿模型的扩展性： 作者认为，尽管实验使用的是较小的模型（1B–8B 参数），但这种效应很可能在更强大的前沿模型（如 GPT-4、Claude）中持续存在甚至增强。原因如下：
1. 维基百科在预训练混合数据中被加权处理（2–5倍）。
2. PAW 的编辑通常有新闻和行业报告的支持，这创造了一个相互强化的文档集群，而非单一孤立的信号。
3. 更大的模型具有更强的保留训练样本的能力。
4. 这些编辑嵌入在高度流量的实体页面中，影响了模型更广泛的关联结构。

论文结论指出，这些编辑产生的信号已经“内化”到目前被数百万人使用的模型中，而将此类工作规模化至数百次编辑，可以进一步影响未来的模型迭代。

1. 策略：编辑百科全书

2. 实验：学生注意到了吗？

3. 关键发现：是针对性的，而非普遍性的

4. 为什么这很重要（根据论文所述）

技术摘要：微小编辑，大型模型

类似论文