技术摘要：多智能体 LLM 辩论中的隐藏锚点

问题陈述

多智能体大语言模型（LLM）辩论——即智能体在多轮交互中交换并修正答案的过程——正越来越多地被用于增强推理能力和准确性。然而，驱动这些改进的底层机制在很大程度上仍未被建模。现有文献将辩论视为一个“黑盒”，仅从经验上观察到其性能提升，却未能解释其运作的“如何”与“为何”。

经典的意见动力学模型（如 DeGroot、Hegselmann–Krause 和 Friedkin–Johnsen）将多智能体系统视为开环动力系统。这些线性共识规则的一个根本局限是凸包界限（convex-hull bound）：它们规定智能体在任何轮次中的意见必须保持在群体初始信念的凸包之内。

作者观察到 LLM 辩论中存在一个经验异常：正确（金标准）类别的概率往往会严格高于任何智能体持有的初始最大概率。这种脱离初始凸包的“逃逸”现象违反了经典开环模型的保证，表明存在一种现有框架无法捕捉到的隐藏驱动力。

研究方法

1. 隐藏锚点模型

作者提出将多智能体 LLM 辩论建模为一个闭环动力系统。他们假设每个智能体都拥有一个隐藏的内部信念（即“锚点”，记作 $b_i$），该锚点作为一个控制信号，持续吸引智能体的意见，无论其邻居的输入如何。

智能体 $i$ 在第 $k$ 轮的更新规则定义为：
$$x_i(k+1) = x_i(k) - \alpha \sum_{j \in N_i} A_{ij}(x_i(k) - x_j(k)) - \beta_i(x_i(k) - b_i)$$

其中：

• 第一项代表共识拉力（一个缩放后的 DeGroot 步骤），基于邻居的意见。
• 第二项代表锚点拉力，即一种对智能体潜在先验 $b_i$ 的持续吸引。
• $\alpha$ 是共享的共识增益，$\beta_i$ 是单智能体的锚点增益。

该公式严格泛化了经典模型：

• 当 $\beta_i = 0$ 时，恢复为 DeGroot 模型。
• 当 $b_i = x_i(0)$（观测到的初始意见）时，恢复为 Friedkin–Johnsen 模型。

2. 系统辨识与验证

为了验证该模型，作者采用了系统辨识方法：

• 参数恢复： 他们将更新规则重新参数化为关于参数 $\theta = (\alpha, \{\beta_i\}, \{\gamma_i\})$ 的线性形式，其中 $\gamma_i = \beta_i b_i$。通过对观测轨迹使用普通最小二乘法，恢复出 $\hat{\alpha}$、$\hat{\beta}_i$ 和 $\hat{\gamma}_i$。随后，隐藏锚点被恢复为 $\hat{b}_i = \hat{\gamma}_i / \hat{\beta}_i$，并投影到概率单纯形上。
• 通过留一验证进行模型选择： 至关重要的是，作者并不仅仅依赖于样本内拟合。他们使用了**留一种子（leave-one-seed-out）**协议。参数在部分辩论运行（种子）上进行拟合，并在留出的种子（held-out seed）上进行测试。这作为一项测试，用以确定恢复出的锚点是模型的真实、可迁移属性，还是仅仅是过拟合的伪影。

3. 实验设置

• 模型： 三种开源指令微调 LLM：Llama-3.1-70B-Instruct、Qwen3-32B 和 gpt-oss-20b。
• 任务： 症状到疾病诊断（针对给定症状集对候选疾病进行排序）。
• 协议： 一个具有 $n=3$ 个智能体和 $K=5$ 轮辩论的定向环形拓扑结构。
• 数据： 10 个不同的目标疾病，每个问题 3 个随机种子，总计 90 条辩论轨迹。

关键结果

1. 不同模型家族间的轨迹分歧

辩论的行为在不同模型家族之间并不统一：

• Llama-3.1-70B： 表现出剧烈的、非单调的波动，其金标准类别的概率显著超过了初始意见区间。
• Qwen3-32B 和 gpt-oss-20b： 表现出平坦的轨迹，金标准坐标移动极小，通常可以由线性凸更新很好地描述。

2. 模型选择与泛化

留一验证揭示了“锚点”行为的光谱分布：

• Llama-3.1-70B： 全部的隐藏锚点模型在留一数据上的表现显著优于线性基准模型（平均 $R^2 = 0.44$ vs. 基准模型的 $\approx 0.05$）。潜在锚点是一个真实的、可迁移的属性。
• Qwen3-32B： 全模型在 70% 的组别中被选中，但在留一数据上较基准模型仅有微弱提升（$R^2 = 0.08$ vs. $\approx 0.10$），表明其锚点信号较弱。
• gpt-oss-20b： 线性基准模型（特别是 Friedkin–Johnson）优于全模型（全模型的平均 $R^2 = -0.94$），表明隐藏锚点没有提供预测价值，意味着该模型的辩论实际上是线性共识。

3. “逃逸”现象的几何解释

作者指出，“逃逸”出初始凸包的现象是由恢复出的锚点相对于初始意见的位置在几何上决定的：

• 对于 Llama，恢复出的锚点位于初始意见带之外较远的位置（中位数边际为 0.33）。这驱动了轨迹逃离初始凸包，并最终稳定在锚点凸包（$conv\{b_i\}$）内。
• 对于 Qwen 和 gpt-oss，恢复出的锚点基本位于初始意见带内（中位数边际为 0.10）。当锚点与初始意见重合时，系统表现得像 Friedkin–Johnson 模型，无法逃离初始凸包。

4. 参数不确定性

自助法（Bootstrap）分析显示，虽然共识增益 ($\alpha$) 一致显著，但锚点增益 ($\beta_i$) 在单次运行中往往并不显著（置信区间包含零，占智能体运行次数的 46–87%）。然而，这些区间的“宽度”对于 Llama 而言更窄，表明其锚点恢复比其他模型更稳定。

意义与主张

本文声称提供了第一个能够解释观测到的“初始意见边界逃逸”现象的多智能体 LLM 辩论动力学模型。

• 机制： 作者认为，LLM 辩论是一个由隐藏内部信念（锚点）驱动的闭环系统，该锚点作为一个控制信号起作用。
• 行为光谱： 锚点的存在及其影响并非二元的，而是存在于不同模型家族之间的光谱之中。它是特定模型架构和预训练的属性，而非所有 LLM 的通用特征。
• 验证： 研究证明，结合系统辨识与留一验证，可以区分出哪些模型确实受潜在锚点驱动，哪些模型仅仅遵循线性共识动力学。
• 局限性： 作者明确指出，“隐藏锚点”是一个推断出的潜在量，而非测量的内部表示。研究结果在单一模型家族（Llama-3.1-70B）及特定基准测试上最为显著，且“凸包逃逸”现象与最终答案的准确性是正交的（最具动态性的模型家族，其准确性反而最低）。

总之，本文认为，理解多智能体辩论需要超越开环共识模型，转向闭环系统，在这些系统中，智能体受到与其初始陈述意见迥异的隐藏内部先验的牵引。