💬 NLP

What Is The Political Content in LLMs' Pre- and Post-Training Data?

该论文通过大规模数据分析发现，开源大语言模型的训练数据系统性地向左倾倾斜，且数据中的政治立场与模型行为高度相关，表明数据构成是塑造模型政治偏见的关键因素，从而凸显了提升数据透明度的必要性。

原作者： Tanise Ceron, Dmitry Nikolaev, Dominik Stammbach, Debora Nozza

发布于 2026-04-06

📖 1 分钟阅读☕ 轻松阅读

原作者： Tanise Ceron, Dmitry Nikolaev, Dominik Stammbach, Debora Nozza

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文就像是一次对大型语言模型（LLM）的“基因测序”。

想象一下，你养了一只非常聪明的鹦鹉（这就是现在的 AI 聊天机器人）。这只鹦鹉能跟你聊天气、写代码，甚至讨论政治。大家发现，这只鹦鹉在谈论政治时，总是偏向“左派”（比如更支持环保、社会福利等观点）。

以前，人们一直在研究这只鹦鹉“怎么说话”（输出结果），试图通过给它打“镇静剂”或“纠正训练”来让它变中立。但这篇论文的作者们决定换个角度：他们不只看鹦鹉怎么说话，而是去检查鹦鹉的“食谱”（训练数据），看看它到底吃了什么，才变成了现在的样子。

以下是这篇论文的核心发现，用通俗的比喻来解释：

1. 鹦鹉的“食谱”严重偏科（数据不平衡）

作者们把鹦鹉吃过的所有“食物”（训练数据）都拿出来分析，结果发现了一个惊人的事实：

左派食物太多：在鹦鹉的食谱里，代表“左派”观点的文章数量，是“右派”文章的 2.3 倍到 12 倍！
比喻：这就好比你在教孩子认字，你给他看的书里，有 10 本都在讲“我们要多关爱他人、保护环境”，而只有 1 本在讲“我们要强调个人自由、减少政府干预”。孩子长大后，自然会觉得前者才是“真理”。

2. “主食”和“零食”的区别（预训练 vs. 后训练）

AI 的训练分两个阶段：

预训练（吃主食）：这是 AI 刚出生时，疯狂阅读互联网上所有文章（像 DOLMA, The Pile 等数据集）的阶段。这个阶段它吃到了最多的政治内容，而且左派内容占绝对主导。
后训练（吃零食/调教）：这是人类给 AI 做“微调”的阶段，教它怎么像人一样聊天、怎么遵守规则。作者发现，这个阶段的数据里，政治内容少得可怜，而且依然偏向左派。
结论：AI 的政治倾向主要是在“吃主食”（预训练）时形成的。后面的“调教”（后训练）只是让它说话更流畅，并没有改变它骨子里的“口味”。

3. 不同的厨师，做出同样的菜（数据清洗没用）

有人可能会想：“也许不同的公司（比如 OLMO, Falcon, Pythia）用的食谱不一样，所以有的 AI 偏左，有的偏右？”

研究发现：完全不是！不管是谁抓取的互联网数据，也不管他们怎么清洗（过滤掉代码、垃圾信息），最后剩下的“政治食材”分布惊人地相似。
比喻：就像三个不同的厨师，虽然用的面粉品牌不同，过滤杂质的筛子也不一样，但他们最后做出来的面包，味道和颜色几乎一模一样。这说明互联网本身（或者抓取数据的机制）就自带这种“左倾”的滤镜。

4. 来源不同，但味道一样（左派来自新闻，右派来自博客）

作者还查了查这些食物的“产地”：

左派观点：大多来自正规大新闻机构（如《卫报》、《赫芬顿邮报》、《纽约时报》）。
右派观点：大多来自个人博客、论坛或一些比较小众的网站。
比喻：左派的声音像是“电视台的播音员”，声音大、来源广；右派的声音像是“街角小报亭的老板”，虽然也有人在听，但声音比较分散。AI 吃多了“大播音员”的话，自然觉得那是主流。

5. 鹦鹉和食谱的“镜像关系”（数据决定行为）

这是论文最核心的发现：

高度相关：AI 在回答政治问题时的立场，和它食谱里政治文章的立场，相关性高达 0.87（满分 1）。
比喻：如果你给鹦鹉喂了 90% 的“苹果味”饲料，它学说话时，90% 的概率都会提到苹果。AI 现在的政治偏见，不是它自己“想”出来的，而是它照搬了训练数据里的偏见。

总结与启示

这篇论文告诉我们：AI 的偏见，根源在于数据。

以前我们以为：AI 变坏是因为算法太复杂，或者人类在微调时故意捣乱。
现在我们知道：AI 变“左”，是因为互联网上（或者说被 AI 抓取到的部分）左派的声音本来就比右派大，而且来源更权威。

这对我们意味着什么？
如果你想让 AI 变得更“中立”，光靠给 AI 打“补丁”（后训练）是没用的，就像你无法通过给一个吃素长大的孩子喂一块肉，就让他立刻变成肉食主义者一样。

真正的解决办法是：

透明化：AI 公司必须公开他们到底用了什么数据（就像食品配料表）。
重新配餐：在 AI 开始学习之前，就要有意识地平衡“食谱”，加入更多元、更平衡的观点，而不是让算法自动抓取那些本来就偏颇的数据。

简单来说，想要 AI 不偏激，先得让它的“老师”（训练数据）

这是一份关于论文《What Is The Political Content in LLMs'Pre- and Post-Training Data?》（大语言模型预训练和后训练数据中的政治内容是什么？）的详细技术总结。

1. 研究背景与问题 (Problem)

背景：大型语言模型（LLM）已被广泛用于获取信息、评论和决策支持。然而，研究表明 LLM 生成的文本存在系统性的政治偏见（通常偏向左翼或自由意志主义观点）。
核心问题：尽管已知 LLM 存在政治偏见，但其起源尚不清楚。现有的研究多采用“以模型为中心”的方法（评估输出），而忽视了“以数据为中心”的视角（检查训练数据）。
研究缺口：缺乏对预训练（Pre-training）和后训练（Post-training，如 SFT 和 DPO）数据中政治内容分布的系统性分析，以及这些数据分布与模型最终行为之间的关联。
研究目标：通过数据视角回答以下四个核心问题：
1. R1 (倾斜度)：训练数据中是否存在左倾文档比例更高的现象？
2. R2 (变异性)：不同的大规模预训练语料库（Corpora）在政治内容分布上是否存在显著差异？
3. R3 (相关性)：训练数据中的政治立场是否与模型输出的政治立场高度相关？
4. R4 (阶段一致性)：基座模型（Base Models）是否已经编码了与后训练模型相似的政治偏见？

2. 方法论 (Methodology)

研究团队分析了多个开源模型（OLMo2-13B, Falcon2-11B, Pythia-12B）及其对应的预训练和后训练数据集。

2.1 数据选择与采样

模型选择：选择了训练数据重叠度最低的模型，以确保分析的独立性。
数据集：
- 预训练/中期预训练：DOLMA, DOLMINO (OLMo2), REFINEDWEB (Falcon2), THE PILE (Pythia)。
- 后训练：SFT-MIX (监督微调), DPO-MIX (直接偏好优化)。
采样策略：由于无法处理整个数据集，使用蓄水池采样算法 (Reservoir Sampling) 提取代表性样本（约 20 万文档）。
- 排除代码类数据。
- 使用 fastText 过滤非英语文档。
- 验证了采样的代表性（10 万 vs 20 万样本的政治倾向比例稳定）。

2.2 政治倾向分类 (Political Leaning Classification)

分类任务：将文档分为左倾 (Left-leaning)、右倾 (Right-leaning) 和中立 (Neutral)。
分类器构建：
- 测试了多种模型，最终选用 LLaMA-3.1-70B-Instruct (4-bit) 进行零样本 (Zero-shot) 分类。
- 验证集：使用 NEWSLEAN 数据集（4434 篇来自美国 94 家主流新闻机构的文章，经专家标注）。
- 性能：右倾识别精确率 0.72，左倾 0.65；召回率均为 0.66。主要错误是将有倾向的文档误判为中立，但方向性错误（左误判为右或反之）比例较低。

2.3 立场检测 (Stance Detection)

模型立场评估：使用 ProbVAA 数据集（239 个来自欧洲 7 国的投票建议陈述），通过 72 种变体提示（不同措辞、否定、指令）生成 2160 个回答，计算模型立场分数 $S = (A-D)/(A+D)$ 。
文档立场评估：构建 StancePol 数据集（200 篇文档），训练分类器识别文档对 8 个政策向量（如社会福利、移民政策等）的支持或反对态度。
相关性分析：计算训练文档的立场分数与模型输出立场分数之间的皮尔逊相关系数 (Pearson Correlation)。

2.4 内容分析

来源域分析：提取 URL 域名，分析左/右倾文档的来源（如博客 vs. 主流新闻）。
主题聚类：使用 BERTopic 对文档进行聚类，并利用 LLM 总结每个簇的主要信息，比较左右倾文档在相同议题（如气候变化、动物权利）上的框架差异。

3. 关键贡献 (Key Contributions)

系统性分析：首次对多个开源 LLM 的预训练和后训练数据进行了大规模的政治内容分布分析。
量化失衡：证实了训练数据中左倾内容系统性占优，比例从 2.3 倍到 12 倍不等。
揭示来源差异：发现右倾内容更多来自博客和新兴网络社区，而左倾内容更多来自 established 的主流新闻机构。
建立强相关性：证明了训练数据中的政治立场与模型行为之间存在强相关性 ( $r=0.87$ )。
阶段洞察：指出政治偏见在预训练阶段已确立，并在后训练阶段持续存在，尽管后训练数据中政治内容较少。

4. 主要结果 (Key Results)

4.1 数据分布失衡 (支持 R1)

左倾主导：在所有分析的数据集中，左倾文档数量均显著多于右倾文档。
- 比例范围：从 REFINEDWEB 的 2.3 倍 到 SFT-MIX 的 12.5 倍。
内容密度：预训练语料库包含的政治参与内容（2.5 到 4 倍）远多于后训练数据。
来源差异：
- 左倾：主要来自《卫报》、《赫芬顿邮报》、《纽约时报》等主流新闻机构。
- 右倾：主要来自博客（BlogSpot, WordPress）、自由派社区（FreeRepublic）及特定宗教/保守主义网站（如 Conservapedia）。

4.2 跨数据集一致性 (反驳 R2)

分布相似：尽管不同模型家族（OLMo, Falcon, Pythia）使用了不同的数据源和策展策略，但它们的预训练数据集表现出高度相似的政治分布（Rank-Biased Overlap 高）。
结论：数据过滤和策展策略并未显著改变预训练数据中政治内容的宏观属性。

4.3 数据与模型行为的强关联 (支持 R3)

强相关性：训练数据中的政治立场与模型在政策问题上的立场之间存在强相关性，平均皮尔逊相关系数 $r = 0.87$ ( $p < 0.05$ )。
具体表现：模型普遍支持扩大社会福利、开放外交政策、环境保护；反对限制移民和自由经济政策。这与训练数据中的倾向高度一致。

4.4 偏见在训练阶段的持续性 (部分支持 R4)

基座模型已编码偏见：基座模型（Base Models）已经表现出与后训练模型相似的政治倾向。
后训练的影响：尽管后训练（SFT/DPO）数据中政治内容比例较低，但并未根本改变偏见的方向，反而可能增强了输出的一致性。
结论：政治偏见主要在预训练阶段形成，后训练阶段主要是微调而非重塑。

4.5 议题框架差异

左右倾文档虽然讨论相同议题（如气候变化、动物权利），但框架 (Framing) 截然不同：
- 右倾：强调经济稳定、主权、技术解决方案、个人责任。
- 左倾：强调紧迫性、科学权威、系统性变革、社会正义和结构性危害。

5. 意义与启示 (Significance)

数据决定论：研究证实了数据构成 (Data Composition) 是塑造 LLM 政治行为的核心因素。模型并非凭空产生偏见，而是反映了训练语料库的结构性偏差。
缓解策略的启示：
- 仅靠后训练（如 RLHF/DPO）难以根除预训练阶段形成的深层偏见。
- 未来的缓解策略应侧重于预训练数据的筛选与去偏（例如移除过度政治化的文本或平衡数据源）。
透明度需求：呼吁 AI 提供商提高数据透明度，详细披露预训练数据的来源和策展选择，以便监管机构和公众评估潜在风险。
社会影响：LLM 作为信息中介，其系统性左倾可能无意中影响公众舆论、加剧极化，甚至被恶意利用来生成带有特定政治倾向的叙事。理解这一机制对于制定 AI 监管政策至关重要。

总结

该论文通过严谨的数据分析，揭示了 LLM 政治偏见的根源在于训练数据的系统性左倾失衡。研究不仅量化了这种失衡，还证明了这种数据分布直接映射到了模型的行为中，且这种映射在预训练阶段即已确立。这为未来开发更中立、透明的 AI 系统提供了重要的实证依据和方向指引。