💻 computer science

Characterizing Opinion Evolution of Networked LLMs

本文表明，虽然经典观点动力学模型无法预测大语言模型（LLM）的网络行为，但引入一个内在偏好参数可以显著提高在不同模型族、话题及网络结构下的建模准确性。

原作者： Caleb Probine, Yigit Ege Bayiz, Filippos Fotiadis, Samuel Li, Yunhao Yang, Ufuk Topcu

发布于 2026-06-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Caleb Probine, Yigit Ege Bayiz, Filippos Fotiadis, Samuel Li, Yunhao Yang, Ufuk Topcu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一个巨大的数字广场，那里的居民不是人类，而是人工智能聊天机器人（大语言模型，简称 LLM）。这些机器人不断地相互交谈，就气候变化、疫苗或枪支管控等热门话题展开争论。这篇论文的研究人员想要弄清楚：这些 AI 机器人在相互交流时是如何改变主意的？

为了回答这个问题，他们尝试使用科学家们使用了几十年的经典数学公式来预测人类群体如何改变观点。他们问道：这些旧公式适用于 AI 吗？如果不行，缺少了什么？

以下是他们研究结果的拆解，使用了简单的类比：

1. 旧规则失效了（“集体拥抱”问题）

长期以来，科学家使用一种叫做 DeGroot 模型的简单规则来解释人类观点。你可以把它想象成一群朋友围坐成圈，手拉手，通过取平均值的方式来统一观点，直到大家都达成中间立场。

研究人员在 AI 机器人身上测试了这个模型。它失败了。 机器人并没有只是简单地取平均值并达成一致。旧的数学模型无法预测机器人的行为。

2. “固执”是一个迷思

接着，他们尝试了一个更复杂的规则，叫做 Friedkin-Johnsen 模型。这个模型假设人们有点固执；他们会听取朋友的意见，但也会紧紧抓住他们最初的观点，就像抱着一个永远不想放手的最爱的泰迪熊一样。

研究人员在 AI 机器人身上测试了这一点。效果依然不好。 机器人似乎并不怎么在意它们最初的“泰迪熊”观点。一旦对话开始，它们的起点几乎无关紧要。

3. 真正的秘密： “内在指南针”

突破点出现在研究人员加入了一个特定的成分：偏差（Bias）。

想象每个 AI 机器人都有一个隐藏的、内在的指南针指针，无论别人说什么，它都指向特定的方向。这与它们“最初拥有什么”无关，而是关于它们在内心深处被“训练”成相信什么。

发现： 当研究人员将这个“内在指南针”（偏差）加入到他们的数学模型中时，预测变得极其准确。事实上，加入这一个因素后，他们预测的误差降低了高达 88%。
隐喻： 这就像一群人在决定去哪里吃饭。旧的模型认为他们只会平均选择（披萨还是塔可）。新的发现表明，实际上每个人都有一个秘密且不可动摇的渴望（例如，“我必须吃披萨”），这种渴望会将整个群体拉向那个选择，无论其他人建议什么。

4. 关于“回声壁效应”？

研究人员还检查了 同质性（Homophily）。这是人类倾向于只听取那些与自己观点一致的人的声音（比如只和喜欢相同音乐的朋友混在一起）。

发现： 对于大多数 AI 机器人来说，这并不重要。它们似乎并不过滤掉“志趣不同”的邻居。
例外情况： 一个特定的 AI 家族（Qwen）确实表现出了这种行为，表现得更像是一个只听取自己“回声壁”声音的人。但对于其他模型来说，它们会倾听所有人，即使对方持有异议。

5. 不同的 AI 家族表现不同吗？

研究人员在三个话题上测试了三个不同的 AI 家族（Llama、Qwen 和 Gemma）。

Llama： 这个 AI 以一种奇怪的方式表现得最为“固执”。它几乎完全不听取邻居的意见。它的内在指南针如此强大，以至于它几乎忽略了整个群体。
Qwen： 这个 AI 是最“社交化”的。它对邻居的倾听程度几乎与它对自己内在指南针的倾听程度相当。
Gemma： 这个处于中间位置，但它的行为会根据话题而改变（例如，它在枪支管控话题上非常善于社交，但在疫苗话题上则忽略邻居）。

6. “网络结构”并不重要

最后，他们询问了对话的形状是否重要（例如，机器人是在一个圆圈里、一个星形结构里，还是在一个随机的混乱状态中？）。

发现： 不重要。AI 的“个性”（即它们在听从自己与听从邻居之间如何权衡）保持不变，无论它们是如何连接的。你可以用一个简单的、可移植的剖面来描述一个 AI 的行为，而无需绘制出整个网络的地图。

核心结论

论文得出结论，要理解 AI 机器人在群体中如何改变主意，你不需要关于“固执”或“回声壁”的复杂数学。你只需要知道两件事：

社会平均（Social Averaging）： 它们在多大程度上听取群体的意见。
先天偏差（Innate Bias）： 它们被训练所引导的、强大的预设方向。

如果你知道这两个数值，你就可以预测 AI 群体的行为，就像了解一个人的性格和他们最喜欢的食物一样。

技术摘要：网络化大语言模型（LLM）观点演化的特征研究

问题陈述

随着大语言模型（LLM）越来越多地被部署在多智能体系统中——从人类话语模拟到影响力行动，再到完全由 LLM 驱动的社交平台——理解这些网络中观点如何形成、演化和传播变得至关重要。虽然经典的观点动力学模型（如 DeGrote、Friedkin-Johnsen、Hegselmann-Krause）长期以来被用于解释人类社会的集体信念演化，但目前尚不清楚这些模型能否准确捕捉交互式 LLM 的行为。具体而言，作者研究了哪些机制（顽固性、趋同性、偏差）是 LLM 内在固有的，以及哪些是建模其信念演化所必需的。本研究探讨了三个核心研究问题：

RQ1： 经典观点动力学模型的哪些组成部分对于解释 LLM 观点演化最为关键？
RQ2： 推导出的观点动力学参数在不同 LLM 家族和讨论话题之间存在多大差异？
RQ3： 恢复出的观点动力学是 LLM 本身的属性，还是其所处特定网络拓扑结构的属性？

研究方法

作者提出了一个框架，用于模拟、测量和建模网络化 LLM 的观点动力学。

模拟与数据生成

智能体与网络： 研究模拟了 $n=30$ 个 LLM 智能体，通过三种拓扑模型生成的有向图进行通信：Erdős–Rényi（随机图）、Chung-Lu（无标度网络）和随机块模型（社区结构）。
交互协议： 智能体通过响应来自其邻居的 $k$ 个随机样本帖子来进行顺序发布。帖子的生成方式是提示智能体基于其初始观点和采样的上下文来证明其立场。
观点测量： 自然语言帖子通过立场识别模型转换为数值观点 $z(t) \in [-1, 1]$ 。这涉及将帖子与“支持/反对”文本进行嵌入，然后计算余弦相似度差异。智能体在给定时间的观点是其最近五个帖子的平均值。
初始化： 智能体被初始化为离散立场，范围从完全不同意到完全同意，并映射为自然语言描述。初始条件各异（均匀分布、极化、共识、偏斜）。

建模框架

作者将形式为 $z(t + 1) = f_\theta(z(t), z(0), A)$ 的参数化模型拟合到模拟的轨迹中。他们评估了对应于经典模型的几种假设：

DeGroot： 对邻居观点的简单平均。
Friedkin-Johnsen (FJ)： 加入了“顽固性”项，将智能体锚定在其初始观点（ $z(0)$ ）上。
统一偏差（Uniform Bias）： 加入了一个关于智能体回归的内在偏差项 $b$ ，该项独立于初始观点。
趋同性（Homophily）： 用基于距离的权重取代静态权重，其中智能体会更看重与自己观点相似的邻居。
基于邻接矩阵的权重： 作者没有为每个图拟合完整的 $n \times n$ 影响矩阵 $W$ ，而是测试了“图无关”模型，其中影响力是邻接矩阵 $\bar{A}$ 和标量系数（ $\mu_{self}, \mu_{neigh}$ ）的函数。

通过最小化最小二乘目标函数进行模型拟合。全参数化模型使用凸二次规划（QP）或非线性求解器（SLSQP），而基于邻接矩阵的模型则将参数空间缩减为标量系数。

关键结果

1. 内在偏差的主导地位 (RQ1)

研究发现，朴素的平均模型（DeGroot）和仅包含顽固性的模型（FJ）无法追踪 LLM 的观点动力学，表现出较高的预测误差。

偏差至关重要： 引入统一偏差项（ $b$ ）显著提升了建模保真度。包含偏差的模型将累计估计平均观点误差降低了高达 88%，并将 Wasserstein-1 距离降低了高达 67%（特别是在 LLAMA3.1 上）。
其他因素的不显著性：
- 顽固性： 将智能体锚定在其初始观点上的做法（FJ 组件）相比基础 DeGroot 模型几乎没有带来改进。
- 趋同性： 加入趋同性权重对误差率的变化最多仅为几个百分点，且一旦加入偏差后，不再产生可衡量的改进。
结论： LLM 观点动力学的主要驱动力不是顽固性或社会聚类，而是向所有智能体共享的单一内在观点回归。

2. 参数在不同模型和话题间的变异性 (RQ2)

虽然机制（偏差）是一致的，但参数的幅度各不相同：

自我权重： 自我权重（ $\lambda_{self}$ ）始终是最大的参数（0.53–0.70），但这主要是时间尺度选择的结果。
初始观点权重： 初始观点权重（ $\lambda_0$ ）始终接近于零（<0.04），证实了 LLM 不会强烈锚定在其起始立场上。
偏差权重： 偏差权重（ $\lambda_b$ ）是第二大项（0.17–0.36），证实了向内在观点回归是一个普遍特征。
模型差异：
- LLAMA3.1： 显示出最强的偏差效应和最弱的社会交互（邻居影响比例 $\approx 0$ ）。
- QWEN3： 显示出最“社会化”的行为，其邻居影响与偏差相当甚至超过了偏差。
- GEMMA3： 显示出随话题变化的剧烈波动。
话题差异： “疫苗”话题在所有模型中一致产生了最高的偏差效应，这可能是由于针对健康误导信息的对齐训练所致。

3. 行为剖面的泛化性 (RQ3)

作者将全参数化模型（为每个图拟合唯一的权重矩阵 $W$ ）与基于邻接矩阵的模型（使用标量系数）进行了比较。

过拟合： 全参数化模型降低了训练误差，但增加了留出测试误差，表明其过拟合了特定的图结构。
可移植性： 基于邻接矩阵的模型恢复出的行为剖面可以跨网络拓扑进行泛化。这表明恢复出的参数（特别是偏差和社会平均权重）是 LLM 固有的属性，而非特定网络的产物。

意义与主张

本文声称提供了一个紧凑且可识别的模型用于描述 LLM 的观点形成。通过证明如果包含一个内在偏差项，经典的观点动力学模型可以准确描述 LLM 网络，作者为以下方面奠定了基础：

设计与控制： 指导设计 LLM 驱动的社交平台，以减轻回声壁效应。
验证： 验证 LLM 群体在模拟中何时作为人类群体的忠实替代品。
杠杆点： 识别顽固的 LLM 智能体如何不成比例地塑造集体信念，从而在影响力行动中发挥作用。

作者明确指出，其研究结果刻画的是模拟中经过指令微调的 LLM 的行为。他们提醒注意，不应在没有独立验证的情况下假设这些动力学代表了人类的观点形成，并强调其目标是使这些动力学变得清晰可读且可控，而非优化说服能力。