💬 NLP

The Illusion of Stochasticity in LLMs

该论文通过实证分析指出，尽管前沿大语言模型能够利用外部随机种子生成符合目标分布的样本，但其直接将内部概率估计转化为随机输出的能力存在根本性缺陷，无法满足智能体系统对可靠随机采样的核心需求。

原作者： Xiangming Gu, Soham De, Michalis Titsias, Larisa Markeeva, Petar Veličković, Razvan Pascanu

发布于 2026-04-09

📖 1 分钟阅读☕ 轻松阅读

原作者： Xiangming Gu, Soham De, Michalis Titsias, Larisa Markeeva, Petar Veličković, Razvan Pascanu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文揭示了一个关于大型语言模型（LLM）的有趣且重要的“幻觉”：它们并不像我们以为的那样，真的懂得如何“随机”做事。

我们可以把这篇论文的核心发现想象成这样一个故事：

1. 核心问题：聪明的“演员”却是个糟糕的“掷骰子手”

想象一下，你雇佣了一位非常聪明的演员（LLM）来扮演一个需要随机决策的角色，比如玩石头剪刀布，或者在抽奖箱里随机摸球。

演员的强项：他非常聪明，能完美理解游戏规则。如果你问他：“石头剪刀布里，出‘石头’的概率应该是多少？”他会毫不犹豫地回答：“三分之一，非常公平。”
演员的弱项：当你真的让他现场出招时，他却做不到真正的随机。如果你让他连续出 100 次，你会发现他出“石头”的次数可能高达 80 次，或者总是倾向于出“剪刀”。

论文发现：目前的顶尖大模型（如 Gemini、Qwen3 等）虽然知道概率分布（比如知道均匀分布应该是每个数字出现几率一样），但在执行随机采样时，却完全失败了。它们生成的数字或选择，充满了奇怪的偏见。

2. 具体的“翻车”现场

研究人员让模型做了一些简单的测试，结果令人啼笑皆非：

选择题的“C 位”诅咒：
如果你让模型生成一道选择题，并随机把正确答案放在 A、B、C、D 四个位置。按理说，正确答案出现在每个位置的概率应该是 25%。
现实是：模型疯狂地喜欢把正确答案放在 C 的位置！就像它潜意识里觉得"C"是主角位一样。这就像让一个裁判抛硬币，结果抛了 100 次，90 次都是正面。
数字的“执念”：
如果你让模型从 0 到 9 里随机选一个数字，它不会均匀地选。它总是偏爱某些数字，比如 7 或者 42（可能是因为训练数据里这些数字出现得太多了）。这就好比让一个人闭眼在 1 到 100 之间随便指一个数，结果他每次都指在中间那个数上。
连续数字的“舒适区”：
如果你让它生成一个 0 到 1 之间的小数，它生成的数字往往集中在 0.5 附近，而不是均匀地散布在整个区间。

3. 为什么“思考”也没用？

你可能会想：“那让它多思考一下（Chain-of-Thought），或者换个温度参数（Temperature）行不行？”

思考也没用：研究发现，即使模型在“思考”过程中大声嚷嚷着“我要随机！我要公平！”，它最后输出的结果依然充满了偏见。它就像是一个知道怎么游泳但一下水就抽筋的人——理论满分，实践零分。
参数调整无效：无论怎么调整生成的“随机性”参数，这种偏见依然存在。

4. 唯一的“救命稻草”：借别人的手

既然模型自己不会掷骰子，那怎么办？

方法一：给模型一把“现成的骰子”（工具调用）
如果让模型写一段 Python 代码，调用电脑自带的随机函数（random.randint），并且明确告诉它：“每次运行都要用当前时间作为种子，确保结果不同”，那么模型就能生成完美的随机数。
- 比喻：这就像让演员自己扔骰子（失败），但让他去摇动一个别人准备好的、经过校准的摇奖机（成功）。
方法二：让模型“模拟”骰子（模拟算法）
如果你给模型一个具体的随机数生成算法代码（比如线性同余发生器）和一个种子，让它一步步算出结果。
- 结果：对于简单的数字（均匀分布），大模型算得挺准（90% 以上正确）。
- 失败点：一旦涉及复杂的数学运算（比如生成正态分布需要算大数乘法），模型就会算错。就像让一个心算天才去算两个 20 位数的乘法，他很容易算错。
方法三：最神奇的能力——“转换”而非“生成”
这是论文最有趣的发现：如果你给模型一个已经随机生成好的数字（比如从 0 到 1 的随机数），然后让它把这个数字“转换”成另一个分布（比如转换成 0-9 的整数，或者正态分布）。
结果：模型做得非常好！
- 比喻：模型自己造不出面粉（随机数），但它是个顶级面包师。如果你给它面粉（随机种子），它能完美地烤出各种形状的面包（目标分布）。它擅长转换，但不擅长创造随机性。

5. 这对我们意味着什么？

这篇论文给正在开发 AI 智能体（Agents）的开发者敲响了警钟：

不要指望 AI 自己“随机”：如果你需要 AI 进行探索、随机测试或模拟随机事件（比如在游戏中随机移动），绝对不能直接让 AI 自己输出结果。它生成的“随机”其实是“伪随机”，充满了可预测的偏见。
必须引入外部随机源：在构建 AI 系统时，必须引入外部的、真正的随机数生成器（RNG），然后把结果喂给 AI，让 AI 基于这些结果做决策。
AI 是逻辑大师，不是随机大师：AI 擅长理解概率、执行转换算法，但它的“直觉”里充满了训练数据的偏见，无法产生真正的熵（混乱度/随机性）。

总结一句话：
现在的 AI 就像一个懂概率理论的数学家，但他自己掷骰子时却总是作弊（或者无意识地偏向某一面）。如果你需要真正的随机，请把骰子交给计算机，让 AI 只负责根据骰子的点数做决定。

《LLM 中随机性的幻觉》技术总结

1. 研究背景与问题定义

随着大型语言模型（LLM）越来越多地被部署为智能体（Agents），它们不仅需要推断最优策略，还需要根据推断出的策略进行随机行动（Stochastic Action）。例如，在强化学习、多臂老虎机问题或博弈论场景中，智能体必须能够按照特定的概率分布（如均匀分布、高斯分布）进行采样，以探索环境或模拟不确定性。

然而，现有的 LLM 在独立采样（Independent Sampling）时存在根本性缺陷。尽管 LLM 能够理解概率分布的概念，但它们无法将内部推断的概率分布准确地映射到其生成的随机输出上。这种现象被称为“随机性的幻觉”（The Illusion of Stochasticity）：LLM 的输出看似随机，实则受到训练数据偏差、位置偏差或解码参数的强烈影响，无法真正遵循目标分布。

2. 方法论与实验设计

作者通过严谨的实证分析，在多个模型家族（Gemini 系列、Qwen3 系列、OLMO-3 系列）、不同模型规模、提示风格及分布类型下，评估了 LLM 的采样能力。

核心实验设置：

独立采样测试：
- 任务：要求 LLM 从均匀离散分布（如 0-9 的整数、颜色、方向）、均匀连续分布（如 [0, 1] 区间）和高斯分布（正态分布）中生成样本。
- 方法：进行 $N=1024$ 次独立推理，统计生成样本的经验分布，并与目标分布进行对比。
- 评估指标：可视化频率分布、卡方检验（Chi-Square Test）、柯尔莫哥洛夫 - 斯米尔诺夫检验（K-S Test）的 p 值。
参数消融实验：
- 测试不同的解码参数（Temperature, Top-p, Top-k）是否能修正采样偏差。
- 测试思维链（Chain-of-Thought, CoT）是否有助于或阻碍采样。
序列与批量采样：
- 序列采样：将历史样本作为上下文输入，模拟伪随机数生成器（PRNG）的状态依赖特性。
- 批量采样：一次性要求 LLM 生成多个样本。
工具使用与 PRNG 模拟：
- 工具使用：允许 LLM 生成并执行 Python 代码（使用 random 库），测试其利用外部工具采样的能力。
- PRNG 模拟：在提示词中提供 PRNG 算法代码和随机种子，要求 LLM 在不使用工具的情况下，通过思维链手动模拟算法步骤来生成随机数。
分布转换：
- 提供从均匀分布 $U[0, 1]$ 采样的种子值，要求 LLM 将其转换为其他目标分布（如高斯分布、混合高斯模型）。

3. 主要发现与结果

3.1 独立采样的根本性失败

分布偏差：LLM 无法可靠地从均匀或高斯分布中采样。例如，在生成 0-9 的均匀整数时，模型倾向于过度采样某些数字（如 7 或 42）；在生成方向时，倾向于选择提示词列表中的特定位置（如第一个或第二个）。
统计显著性：拟合优度检验的 p 值几乎全部接近于零（ $< 0.05$ ），表明经验分布与目标分布存在显著差异。
模型规模无效：即使是前沿模型（如 Gemini-3.0-Pro, Qwen3-32B）也无法通过单纯增加模型规模来解决此问题。
参数与 CoT 无效：调整温度（Temperature）或启用/禁用思维链（CoT）均无法消除偏差。CoT 甚至可能加剧偏差（例如 Qwen3 在 1-100 均匀采样中几乎只输出 42）。

3.2 序列与批量采样的局限性

序列采样：引入历史上下文（特别是“所有历史”）可以在一定程度上改善均匀分布的采样，但引入了时间偏差（Temporal Bias），如自相关性（Auto-correlation）和排斥性（倾向于选择与上一次不同的值）。对于高斯分布，序列采样依然失败。
批量采样：LLM 难以准确生成指定数量的样本（计数能力缺陷），且生成的序列表现出明显的周期性模式（如每 10 个重复一次），不具备真正的随机性。

3.3 工具使用与 PRNG 模拟

工具使用：当允许 LLM 调用 Python 代码时，采样质量显著提高。关键前提是必须显式地设置随机种子（如使用当前时间 time.time()），否则由于执行环境的确定性，结果会重复或偏差。
PRNG 模拟：
- 均匀分布：在提供代码和种子后，中等规模以上的模型（如 Qwen3-4B+）能模拟 PRNG 算法，准确率达到 90% 以上。
- 高斯分布：模拟失败。高斯分布通常需要生成两个均匀随机数并应用 Box-Muller 变换。LLM 在处理第二个随机数生成时，状态数值变得极大，导致其无法准确执行大数乘法运算，从而产生错误。

3.4 分布转换能力（核心发现）

确定性转换成功：当任务被转化为确定性算法（即给定一个 $U[0, 1]$ 的随机种子，要求 LLM 将其转换为特定分布）时，LLM 表现优异。
机制：LLM 能够理解并执行逆变换采样（Inverse Transform Sampling）或分桶算法（Bucketization）。
涌现特性：这种能力随模型规模增大而涌现。例如，Qwen3-8B 能很好地完成高斯分布转换，而小模型则失败。
复杂性限制：随着转换复杂度增加（如高斯混合模型 GMM），模型性能会下降，但仍优于直接采样。

4. 关键贡献

揭示了“知 - 行”差距（Knowing-Doing Gap）：证明了 LLM 虽然理解概率分布的理论（能解释如何采样），但在实际执行独立随机采样时存在根本性缺陷。
区分了“生成随机数”与“转换分布”：发现 LLM 无法直接生成随机数，但擅长将已有的随机种子（由外部提供）通过确定性算法转换为目标分布。
量化了偏差来源：通过大量实验，区分了数据偏差（如偏好数字 42）、位置偏差（Prompt 顺序影响）和时间偏差（序列采样中的自相关）。
提出了实用建议：对于需要随机性的 Agent 系统，不应依赖 LLM 自身生成随机性，而应引入外部状态化的采样器（Stateful Sampler）或让 LLM 仅负责分布转换逻辑。

5. 意义与启示

对 Agent 系统的警示：在构建需要探索（Exploration）或模拟不确定性的 AI 智能体时，直接依赖 LLM 的采样能力是危险的，可能导致策略可预测或被对手利用。
架构设计建议：未来的 Agent 架构应将“随机性生成”与“决策推理”解耦。随机性应由外部工具（如状态化的 PRNG）提供，LLM 仅负责根据种子和策略进行确定性转换。
模型能力边界：指出了当前 Transformer 架构在处理状态依赖的大数运算和真正的随机性生成方面的局限性，为未来的模型训练（如学习随机算法）提供了方向。

总结：该论文有力地证明了当前 LLM 中存在“随机性的幻觉”。它们不是真正的随机源，但在作为确定性转换器（将外部随机种子映射到目标分布）时表现良好。这一发现对构建可靠的 AI 智能体系统具有至关重要的指导意义。