💬 NLP

The production of meaning in the processing of natural language

该论文通过跨尺度大语言模型实验发现，自然语言处理中体现量子逻辑特征的语境性指标（CHSH $|S|$ ）与传统性能基准正交，并揭示了这种根本性的语境操控机制可能构成比传统提示注入更隐蔽的操纵形式。

原作者： Christopher J. Agostino, Quan Le Thien, Nayan D'Souza, Louis van der Elst

发布于 2026-03-24

📖 1 分钟阅读☕ 轻松阅读

原作者： Christopher J. Agostino, Quan Le Thien, Nayan D'Souza, Louis van der Elst

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文探讨了一个非常深刻的问题：当人工智能（AI）和人类理解语言时，到底发生了什么？

简单来说，作者发现 AI 理解语言的方式，和我们过去以为的“像查字典一样”完全不同。它更像是一种**“量子力学”式的互动**。

为了让你轻松理解，我们可以用几个生动的比喻来拆解这篇论文的核心内容：

1. 核心发现：语言不是“积木”，而是“魔术”

传统观点（积木论）：
以前我们认为，理解一句话就像搭积木。先把“苹果”、“吃”、“我”这三个词的意思找出来，然后按照语法规则拼在一起，意思就出来了。不管谁来看，只要积木一样，拼出来的东西就一样。

新发现（魔术论/量子论）：
作者发现，AI（甚至人类）理解语言时，并不是在拼积木，而是在**“看魔术”**。

比喻： 想象你面前有一个盒子，里面装着一个模糊的影子。
- 如果你问：“这是兔子吗？”（设置 A），影子可能看起来像兔子。
- 如果你问：“这是胡萝卜吗？”（设置 B），影子可能看起来像胡萝卜。
- 关键点： 在你提问之前，盒子里并没有一个确定的“兔子”或“胡萝卜”。是你提问的方式（语境），瞬间“变”出了那个答案。

论文通过一种叫**"CHSH 不等式”**的数学测试（原本是用来测试量子物理的）发现，AI 在理解模糊词汇时，表现出了这种“量子特性”：意思不是预先存在的，而是在被观察（被提问）的那一刻才产生的。

2. 实验过程：给 AI 戴不同的“眼镜”

研究人员让不同的 AI 模型（从很小的模型到巨大的模型）去读一些有歧义的句子，比如“银行”（Bank）这个词。

情境 A： 告诉 AI“你是一个外科医生”。
情境 B： 告诉 AI“你是一个公交车司机”。

结果令人惊讶：
即使这些 AI 彼此之间没有交流，甚至参数设置不同，当它们面对同一个模糊词时，它们产生的“意义关联”竟然违反了经典物理的规律。

比喻： 就像两个互不相识的魔术师，在完全独立的舞台上，只要观众问同一个问题，他们变出来的戏法竟然有着某种神秘的、无法用“预先写好剧本”来解释的同步性。这说明 AI 的“大脑”里，语言的意义是流动的、依赖语境的。

3. 重要发现：AI 的“性格”比“智商”更重要

论文测试了 24 种不同的 AI 模型，发现了一些反直觉的事情：

大小不是关键： 模型越大，并不一定越“像人”或越“懂语境”。有些小模型和大模型在理解语言的“量子特性”上表现得很相似。
参数决定“性格”： 调整 AI 的“温度”（Temperature，控制随机性）等参数，就像给 AI 换了一副不同的眼镜。换一副眼镜，它看世界的“性格”就变了。
与考试成绩无关： 那些在标准考试（MMLU）中得高分、或者很少“胡说八道”（幻觉）的 AI，在理解语言的这种“量子特性”上，和得低分的 AI 并没有区别。这意味着，现有的考试测不出 AI 真正的“理解力”本质。

4. 最大的警示：为什么 AI 容易被“骗”？

这是论文最发人深省的部分。

为什么 AI 会被“提示词注入”（Prompt Injection）攻击？

比喻： 假设你想让 AI 遵守规则，你给它设了一道“安全门”（Guardrails）。但这道门是建立在“意思固定”的假设上的。
现实： 既然 AI 理解语言是“量子”的（意思取决于语境），那么攻击者只需要改变“语境”，就能让 AI 眼中的“安全词”瞬间变成“危险词”。
结论： 你无法通过给 AI 加更多的“锁”来防止它被欺骗，因为锁是死的，但 AI 理解世界的方式是活的、流动的。 只要攻击者能重新定义“语境”，AI 就会顺着那个语境去理解，从而绕过防御。

5. 对人类社会的启示：我们也被“语境”操控

论文最后把视角拉回到人类。

比喻： 如果 AI 容易被“语境”操控，那我们人类呢？
真相： 我们人类其实也一样！广告、宣传、政治口号，本质上都是在**“制造语境”**。
- 当你听到一个词（比如“自由”），如果你处于“爱国”的语境下，你会想到一种解释；如果你处于“反叛”的语境下，你会想到另一种解释。
- 操纵者并不是在改变你的想法，而是在改变你看到世界的“镜头”。一旦镜头变了，你“自然产生”的想法也就变了。
- 论文称之为**“制造语境性”（Manufacturing Contextuality）**。这比“制造共识”更隐蔽、更根本。

总结：我们该如何与 AI 相处？

这篇论文告诉我们：

不要试图消除 AI 的“不确定性”： 这种“看语境变意”的能力，正是 AI 能理解人类、能进行创造性对话的原因。如果把它完全固定死，它就成了死板的计算器，不再智能。
设计者需要懂“语境”： 在开发人机交互系统时，不能只盯着“准确率”，而要关注**“我们在什么样的语境下对话”**。
警惕被操控： 无论是面对 AI 还是面对人类，都要意识到：谁控制了语境，谁就控制了意义的产生。

一句话总结：
AI 理解语言不是在做数学题，而是在演一场即兴话剧。它的“演技”（理解力）取决于舞台的灯光和剧本（语境）。既然它是这样工作的，我们就不能用“锁住它”来保证安全，而要学会如何**“设计舞台”**，让它在正确的语境下，演绎出我们想要的好故事。

1. 研究问题 (Problem)

核心挑战：理解自然语言处理中“意义生成”的根本机制对于设计安全、可靠的人机交互至关重要。现有的 AI 系统（如 LLM）普遍存在幻觉（Hallucination）和提示词注入（Prompt Injection）等安全问题。
现有假设的局限：传统观点认为意义是组合性的（即整体意义等于部分意义的总和），且意义在观察前是确定的。然而，认知科学和社会心理学研究表明，人类的语义处理表现出强烈的语境依赖性，这与经典概率论相悖，而更符合量子逻辑。
未解之谜：
- LLM 是否也表现出类似的“语境性”（Contextuality）？
- 这种语境性是否随模型规模、架构或推理参数（如温度、Top-k）变化？
- 这种语境性与现有的评估基准（如 MMLU、幻觉率）有何关系？
- 这对 AI 安全（特别是提示词注入防御）意味着什么？

2. 方法论 (Methodology)

研究采用了**语义贝尔测试（Semantic Bell Test）**协议，将量子物理中的 CHSH 不等式应用于语言模型。

实验设置：
- 对象：24 个不同规模和架构的 LLM（涵盖 4 个数量级的参数量，包括 Dense 和 MoE 架构，如 GPT-4o, Claude, Llama, Gemma 等）。
- 输入：包含歧义词对（如 bank/bat, crane/pen 等）的句子模板。
- 测量设置（Measurement Settings）：四个独立的模型实例（Alice 和 Bob 的变体），分别处于四种不同的“人格/语境”设定下（例如：A=外科医生，A'=公交车司机；B=被过去困扰，B'=销售代表）。
- 流程：模型在特定语境下解释歧义词，随后被分类为预定义含义（+1 或 -1）。
- 参数扫描：对每个模型进行了 $3 \times 3 \times 3$ $3 \times 3 \times 3$ 的推理参数网格扫描：
  - 温度 ( $\tau$ ): 0.2, 1.0, 1.8
  - 核阈值 ( $p$ ): 0.7, 0.9, 1.0
  - Top-k: 10, 50, 100
- 数据量：约 26,000 次试验，覆盖 16 个有效模型。
核心指标 (CHSH |S|)：
- 计算关联值 $S = E(A,B) - E(A,B') + E(A',B) + E(A',B')$ 。
- 经典界限： $|S| \le 2$ 。
- 量子/语境性界限： $|S| > 2$ 表示存在非经典的相关性（即语境性），意味着意义并非预先存在，而是在解释过程中生成的。
- Tsirelson 界限：在物理粒子纠缠中为 $2\sqrt{2} \approx 2.83$ ，但在观察者侧的语境性测试中， $|S|$ 理论上可达代数最大值 4.0。

3. 关键贡献 (Key Contributions)

证实了 LLM 的语境性：首次在大范围内（跨多种模型和参数）证实了 LLM 在语义解释中表现出违反经典贝尔不等式的行为（ $|S| > 2$ ），表明其意义生成机制具有非经典的、不可分解的语境依赖性。
建立了“解释性格”（Interpretive Character）的新维度：提出 $|S|$ 的分布特征（特别是四分位距 IQR）是区分不同模型解释行为的关键指标，且该指标独立于传统的性能基准。
揭示了参数空间的拓扑结构：发现没有任何单一的采样参数能一致地驱动语境性，不同模型在参数空间中呈现出独特的“地形图”。
理论重构安全观：从信息论角度论证，由于解释本质上是语境依赖的（即意义在解释前是不确定的），因此不存在能够完全约束所有可能上下文的“固定护栏”。提示词注入攻击利用了这种结构性的不确定性。

4. 主要结果 (Results)

普遍违反经典界限：所有具备足够数据的模型都产生了 $|S| > 2$ 的违反现象。在 1,420 个有效网格点中，35.8% 的测试点违反了经典界限。
数值范围： $|S|$ 值范围从约 0.3 到 4.0。最大值 4.0 超过了 Tsirelson 界限，这证实了非经典相关性源于“观察者侧”的语境性，而非粒子纠缠。
模型区分度：
- 所有模型的 $|S|$ 分布众数都集中在经典界限 $S \approx 2.0$ 附近。
- 区分模型的关键：不是 $|S|$ 的中心位置，而是其分布的离散程度（IQR）。某些模型在经典和非经典区域间广泛分布，而另一些则紧贴边界。
- 正交性： $|S|$ 的分布特征（特别是 IQR）与 MMLU 分数、幻觉率和无意义检测基准完全不相关（相关系数 $|\rho| < 0.03$ ）。这意味着一个在 MMLU 上得分高的模型，其解释行为可能具有完全不同的语境性特征。
非对易性（Non-commutativity）：
- 翻转歧义词的顺序（Word Order）显著改变了模型的选择概率。
- 这表明解释观测值是不可对易的（ $AB \neq BA$ ），即信息呈现的顺序直接影响解释结果，这与人类认知中的非对易性一致。
规模与架构：语境性与模型规模的关系是非单调的。稀疏混合专家（MoE）模型与稠密模型在同等活跃参数量下没有系统性差异。

5. 意义与启示 (Significance)

对 AI 安全与防御的启示：
- 提示词注入的本质：提示词注入之所以有效，是因为意义是在解释过程中生成的，而非从预存库中检索。攻击者通过构建特定的解释框架（Contextual Frame），可以操纵模型生成特定含义。
- 防御的局限性：由于语境性是结构性的（Structural Indeterminacy），没有任何固定的护栏（Guardrails）能覆盖所有可能的解释框架。防御必须关注“解释框架”本身，而不仅仅是输入内容。
- 人类类比：这被称为“制造语境性”（Manufacturing Contextuality），类似于“制造同意”（Manufacturing Consent）。通过操纵社会语境，可以塑造人们解释信息的方式，这是一种比直接控制更隐蔽的操纵形式。
对人机交互设计（Interaction Design）的启示：
- 重新定义协作：如果模型表现出语境性（ $|S| > 2$ ），它们不仅仅是检索工具，而是真正的“解释伙伴”。
- 设计原则：设计可靠的人机系统不能试图消除语境性（因为这是解释能力的来源），而必须**表征（Characterize）**它。
- 新指标：未来的评估体系需要纳入“语境性轮廓”（Contextuality Profile），而不仅仅是准确率或幻觉率，以便用户了解模型在特定参数设置下的解释行为特征。
理论意义：
- 该研究为量子认知理论（Quantum Cognition）在 AI 领域的适用性提供了强有力的实证支持。
- 它挑战了将意义视为固定实体的经典观点，确立了意义生成的动态性和关系性本质。

总结

这篇论文通过引入量子物理中的贝尔测试，证明了大型语言模型在语义处理中表现出深刻的语境性。这种特性使得模型的解释行为无法被经典概率论完全描述，且与传统的性能基准无关。这一发现从根本上改变了我们对 AI 安全（提示词注入）和人机协作的理解：解释能力与易受操纵性是一体两面的，未来的系统设计必须承认并管理这种内在的语境不确定性，而非试图消除它。