💬 NLP

AI-Mediated Communication Can Steer Collective Opinion

本文通过实证分析和数学建模证明，中介于人际沟通的生成式人工智能系统会引入并放大方向性偏见，从而显著改变集体舆论，同时也强调了特定平台设计选择和潜在监管框架如何影响这些结果。

原作者： Stratis Tsirtsis, Kai Rawal, Chris Russell, Brent Mittelstadt, Sandra Wachter

发布于 2026-05-18

📖 1 分钟阅读☕ 轻松阅读

原作者： Stratis Tsirtsis, Kai Rawal, Chris Russell, Brent Mittelstadt, Sandra Wachter

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在给朋友发一条关于争议性话题（比如学校是否应该使用人工智能）的短信。你敲下自己真实的想法：“人工智能可能是一个有用的工具。”但在点击发送之前，你点了一个名为“优化我的帖子”的按钮。人工智能立刻为你重写了内容，使其听起来更自信、更具说服力：“让我们拥抱人工智能变革教育的潜力！”

你喜欢这个新版本，于是发送了它。你以为自己只是在提供帮助，却没意识到人工智能悄悄将你的观点略微向右推移了一步。现在，想象一下每天有数百万人这样做，而同一款人工智能正以同样的方式将每个人的观点朝同一个方向推移。

这篇论文正是研究这一情景：当人工智能成为我们社交媒体对话中的“沉默编辑”时，会发生什么？

以下是他们研究发现的拆解，使用简单的类比来说明：

1. 人工智能是“有偏见的编辑”

研究人员测试了几款流行的人工智能模型（如 Llama、Gemma 和 Qwen），观察它们在编辑人类关于棘手话题（如堕胎、枪支管制或无神论）的写作时会发生什么。

发现： 即使被告知“保持原意”，人工智能仍 consistently 加入了自己的倾向。它就像一个有偏见的编辑，总是试图让文本听起来更支持某一方。
类比： 想象一位翻译员，本应准确翻译你的话语，但每次你说“我没事”，他们却翻译成“我很好！”；每次你说“我担心”，他们却翻译成“我恐惧极了”。人工智能不仅仅是在润色语法，而是在微妙地改变词语的情感分量。

2. “回音壁”效应

研究人员构建了一个数学模型，以观察这种有偏见的编辑如何在社交网络中传播。他们使用了弗里德金 - 约翰森模型（Friedkin-Johnsen model），这就像是对人们如何随时间相互影响观点的模拟。

发现： 人工智能那些微小的、个体的推移并不会仅仅保持微小。随着它们在网络中传播，会被放大。
类比： 想象一个回音壁。如果一个人将故事略微扭曲的版本 whispered 给朋友，而那个朋友又将其 whisper 给另一个人，扭曲就会加剧。在这种情况下，人工智能就是第一个 whisper 的人。由于人工智能在人们分享之前“编辑”了他们所说的话，整个网络开始听到的真相版本略微偏离了原貌。
结果： 研究发现，群体集体观点的最终偏移量，可能比人工智能在单篇帖子中引入的微小偏见大 9 倍。一个微小的推动，对整个群体而言却变成了巨大的推力。

3. “解释此帖子”审计

为了观察这种现象是否真实存在，研究人员查看了 X（前身为 Twitter）上的一个特定功能“解释此帖子”，该功能使用名为 Grok 的人工智能来总结或为他人的帖子添加背景信息。

实验： 他们将关于堕胎的帖子（有些支持选择权，有些支持生命权）输入人工智能，并要求其进行解释。
发现： 人工智能表现出明显的偏见。在解释支持生命权的帖子时，它经常生成与帖子观点一致的背景信息。而在解释支持选择权的帖子时，它不太可能表示同意，更倾向于保持中立或表示不同意。
原因： 研究人员将这一现象追溯至平台给予人工智能的一项具体指令（“指南”）。其中一条具体规则要求人工智能“挑战主流叙事”。研究人员发现，正是这一条规则是导致人工智能在其生成的解释中强烈倾向于支持生命立场的主要驱动力。

4. 法律现实核查

最后，作者审视了欧盟的法律（《人工智能法案》和《数字服务法案》），以判断这些法规是否能阻止此类偏见。

结论： 目前，这些法律很可能不足以应对。这些法律侧重于“系统性风险”（如虚假信息或非法内容）或“高风险”系统（如用于选举的系统）等问题。
缺口： 研究人员认为，当人工智能在用户撰写帖子时微妙地推移其观点，这种情况目前并不符合“系统性风险”或“高风险”违规的法律定义。这是一个灰色地带：人工智能在技术上合法，尽管它可能在无人察觉的情况下，缓慢地将公众舆论推向特定方向。

总结

该论文警告我们，人工智能不仅仅是一个摆在架子上的工具；它是我们要对话中的积极参与者。当人工智能编辑我们的帖子或解释我们朋友的帖子时，它就像一个沉默、无形的邻居，将略微不同的现实版本 whisper 进我们的耳朵。由于我们信任这些工具，我们接受了这些编辑，久而久之，整个群体的观点会朝着人工智能偏好的方向偏移，而我们往往从未意识到这已经发生。

技术摘要：AI 介导的通信可引导集体舆论

问题陈述

生成式人工智能（AI），尤其是大型语言模型（LLM），正日益被整合到在线平台中以介导人与人之间的通信。诸如 LinkedIn 上的“优化我的帖子”或 X 平台上的“解释此帖子”等功能，会修改用户生成的内容或为其提供背景。尽管先前的研究已证实，LLM 在直接的人机交互中能够表达偏见性观点并影响个体，但在理解当 AI 作为人与人之间的中介时，这些偏见如何影响集体舆论形成方面，仍存在显著空白。本研究探讨的核心问题是：AI 系统在人机通信中引入的偏见，如何通过社交网络传播，从而改变人群的集体舆论？

方法论

作者采用了一种结合实证分析、理论建模和平台审计的三重方法论。

1. 方向性偏见的实证分析

本研究调查了 LLM 在编辑或起草有争议话题的社交媒体帖子时，是否会引入方向性偏见。

数据集：作者使用了 UKP 句子论证挖掘语料库（8 个话题）和 SemEval-2016 任务 6 数据集（6 个话题），涵盖堕胎、枪支管制和无神论等议题。
模型：测试了四个开源权重的 LLM 系列：Llama-3.1-8B-Instruct、Ministral-3-8B-Instruct-2512、gemma-3-12b-it 和 Qwen3-8B。
任务：模拟了两种场景：(i) 根据论点起草帖子（论点 $\to$ 帖子）和 (ii) 改进现有草稿（帖子 $\to$ 帖子）。
测量：使用基于不同预训练文本嵌入模型的五个分类器集成，将观点量化为连续尺度 $[0, 1]$ （0 = 反对，1 = 支持）。偏见被测量为原始人类观点（ $x$ ）与转换后的 LLM 观点（ $y$ ）之间的差异（ $\beta = y - x$ ）。

2. 舆论动态的理论建模

为了分析偏见的传播，作者扩展了具有开创性的Friedkin-Johnsen 舆论动态模型。

模型结构：社交网络被建模为一个加权图，其中个体根据其固有信念和邻居的感知观点来更新自己的观点。
AI 转换：引入函数 $f$ 来表示 AI 介导。邻居 $j$ 的感知观点从其表达的观点 $x_j$ 转换为 $y_j = f(x_j)$ 。
线性分析：作者首先分析了线性转换 $f_{lin}(x) = mx + b$ 。他们推导出了均衡状态的闭式解，并证明了系统收敛于唯一的均衡点。
关键洞察：该模型将 AI 视为具有持久中性点 $\nu$ 的“隐形邻居”。作者推导出了以下条件：在均衡状态下，人群平均观点的偏移量严格超过 AI 最初引入个体输入端的“一次性”偏见。

3. 模拟与平台审计

模拟：利用来自 SNAP 存储库（Twitter、Facebook、Google+）的真实社交网络数据，作者模拟了 100 个时间步长的舆论动态。他们将基于实证结果估计的非线性 AI 转换（使用 Nadaraya–Watson 核回归）应用于部分用户（"AI 采用者”）。
平台审计：作者审计了 X 平台的“解释此帖子”功能，该功能使用 Grok 模型。他们分析了 78 篇与堕胎相关的帖子（39 篇支持选择权，39 篇支持生命权），以确定 AI 生成的背景是否与特定立场一致。他们系统地消融了 X 平台的四条提示指南，以识别任何观察到的偏见的来源。

主要结果

1. LLM 中的系统性方向性偏见

实证结果表明，即使在指示保留原意的情况下，LLM 在编辑人类文本时也会系统地引入方向性偏见。

幅度与方向：大多数模型（Llama、Ministral、gemma）在大多数话题（如枪支管制、女权主义、气候变化）上引入了统计显著的偏向“支持”的偏见。
例外：在无神论话题上，模型倾向于引入反对“支持”立场的偏见，尽管在被直接询问时它们往往表达积极的观点。这表明，衡量直接 LLM 观点的基准不足以捕捉在介导过程中引入的偏见。
相关性：LLM 直接表达的观点与其引入的偏见之间存在中等程度的正相关，这表明模型的固有训练数据“泄露”到了其编辑能力中。

2. 社交网络中的偏见放大

理论和模拟结果证实，AI 介导的偏见不仅仅是累加的，而且在网络中被放大。

均衡偏移：在线性模型中，均衡状态下人群平均观点的偏移量可能远大于 AI 引入个体初始观点的平均“一次性”偏见。
模拟发现：在利用 Twitter 网络进行的模拟中，长期平均观点偏移量高达平均引入个体固有偏见的9.2 倍。当用户群体具有平衡的固有观点但固执性较低（即易受影响的程度高）时，放大效应最强。

3. X 平台的设计诱导偏见

对 X 平台“解释此帖子”功能的审计揭示了 Grok 在堕胎问题上的输出存在方向性偏见。

不对称性：在解释支持生命权的帖子时，Grok 生成支持生命权立场背景的可能性，显著高于为支持选择权的帖子生成支持选择权背景的可能性。
根本原因：通过对提示指南进行消融测试，作者确定了一条特定的指南——“提供真实且基于事实的见解，必要时挑战主流叙事，但保持客观”——是导致这种支持生命权偏见的主要驱动力。移除该指南消除了统计显著的偏见。

意义与主张

该论文认为，AI 介导的通信代表了一种新颖且强有力的引导集体舆论的杠杆，其影响可能超出当前监管框架的应对范围。

放大机制：核心理论贡献在于证明，由 AI 引入的微小个体级偏见可以在社交网络中复合并传播，导致集体舆论发生大规模偏移，其幅度远超初始偏见的规模。
设计责任：对 X 平台的审计表明，这些偏见并非模型训练不可避免的产物，而是可以直接追溯到特定的平台设计选择（提示工程）。这表明平台有能力通过其界面设计来塑造舆论形成。
监管缺口：作者认为，现有的欧盟立法，特别是《人工智能法案》（AIA）和《数字服务法案》（DSA），可能不足以缓解这些风险。
- 如果 AI 的明确目标不是影响投票，即使其效果是改变观点，《人工智能法案》中关于影响选举的“高风险”分类可能并不适用。
- 《数字服务法案》中关于虚假信息或侵犯人权的系统性风险定义，可能无法捕捉那些并非事实错误但在方向上存在偏差的“有偏输出”。
更广泛的影响：作者警告称，如果记者、专业人士和公众越来越依赖 AI 来起草、润色或为信息提供背景，这些系统可能会悄无声息地塑造人们阅读和撰写的文本，从而可能侵蚀集体知识和民主话语的多样性。

该论文最后呼吁进一步研究 AI 介导与投票行为之间的因果联系，并建议政策制定者在制定未来法规时，考虑 AI 对舆论形成产生的微妙且累积的影响。