技术摘要：指令微调模型在本地复用人类句法的情况比人类更频繁

问题陈述

句法收敛（Syntactic convergence）——即说话者倾向于调整其语法结构以匹配对话者的现象——是人类对话中一种记录详实的现象，通常通过结构启动（structural priming）机制在意识层面之下运作。虽然大语言模型（LLM）已成为常规的对话者，但它们是否相对于人类基准表现出类似于人类的定向句法收敛，目前仍是一个开放性问题。具体而言，尚不清楚 LLM 是否比人类更频繁地复用前序人类轮次中的上下文无关文法（CFG）规则，以及这种行为如何随模型家族、参数规模及训练范式（预训练型 vs. 指令微调型）而变化。

研究方法

本研究采用了一种基于 Blevins 等人 [2026] 的替换范式，其中 LLM 生成的轮次替换了现有真人-真人对话（来自 DailyDialog 语料库）中的其中一方的轮次。这种设置允许在相同的对话位置直接比较模型输出与原始人类响应。

数据与模型

• 语料库： 707 个双人英语对话（限制在第 6 轮至结束），为每个模型产生 1,901 个匹配位置。
• 模型： 两个家族（Llama-3.1/3.2 和 Gemma-3）共 16 个开源权重模型，参数范围从 1B 到 70B。每个家族均包含**预训练（PT）和指令微调（IT）**变体。
• 条件：
  1. HUMAN（人类）： 针对人类启动项（$p_i$）的原始人类响应（$h_i$）。
  2. ACTUAL（实际）： 针对人类启动项（$p_i$）的模型生成内容（$m_i$）。
  3. RANDOM（随机）： 针对无关的人类启动项（$\tilde{p}_i$，采样自另一段对话）的模型生成内容（$m_i$）。

测量流程

• 句法标注： 使用 benepar 对话语进行解析，以提取**上下文无关文法（CFG）**生成规则。符合条件的规则为非一元规则，且在人类语料库中出现次数超过一次。
• 指标：
  • 总自然输出对齐度（Total Natural-Output Alignment）： 目标项与实际启动项之间的 CFG 规则重叠度。
  • 实际值对比随机值增量（Actual-vs-Random Increment）： 归因于真实的对话启动项而非无关启动项的额外重叠度。
  • 条件复用倾向（Conditional Reuse Propensity）： 在保持目标规则集大小不变时的重叠几率。
• 统计建模： 为每个模型分别拟合并汇总了逻辑混合效应模型（GLMM）。随机截距项用于解释不同位置和规则间的差异。协变量包括规则频率和启动项结构规模。
• 探索性分析： 计算了 TF-IDF 余弦相似度（词汇层面）和 L2 归一化句子嵌入余弦相似度（语义层面），以比较模型与人类对前序轮次的相似度。

核心结果

1. 高于基准线的普遍句法复用 (RQ1)

所有模型（全部 16 个）均表现出比针对无关启动项更高的 CFG 规则重叠度。实际值与随机值的系数范围为 $\beta = 0.706$ 至 $1.453$（$p \le 6.5 \times 10^{-31}$），证实了所有评估的模型都表现出定向句法收敛。

2. 指令微调对齐度与人类基准的比较 (RQ2)

• 自然输出： 每个指令微调模型显示的实际值与启动项的总重叠度均高于匹配的人类响应（$\beta = 0.398$ 至 $0.796$）。预训练模型则更接近人类基准，结果褒贬不一（四个显著正向，四个与零无显著差异）。
• 架构对： 所有八组匹配的架构对均显示，指令微调下的实际值与启动项的总复用量高于其对应的预训练版本。
• “结构”混淆因素（The "Structure" Confound）： 通过分解这些结果发现，指令微调模型生成的响应包含更多的合格句法结构（更大的目标规则集），这本质上为重叠提供了更多机会。
  • 实际值对比随机值增量： 与预训练模型相比，指令微调模型从真实启动项中获得的增量提升较小（$\beta = -0.310$）。
  • 条件复用： 当目标规则集大小保持恒定时，指令微调的优势发生了逆转。预训练模型表现出更强的复用可用规则的倾向（对于 IT 模型，$\beta = -0.505$），而指令微调模型表现出较低的条件复用几率。

3. 频率分布特征 (RQ3)

• 规则频率： 对于所有模型，实际值与随机值的增量在低频规则处更大。
• 差异化特征： 人类和预训练模型表现出与频率的负交互（对稀有规则的启动作用更强）。指令微调模型表现出更复杂的频率交互，部分模型表现出正交互，这表明它们在根据频率加权规则复用的机制上有所不同。

4. 词汇与语义相似度 (RQ4)

• 所有 16 个模型在词汇和语义上都比匹配的人类响应与前序轮次更相似。
• 指令微调模型生成的响应比其预训练版本具有更高的平均语义相似度。词汇相似度的结果在不同架构对之间呈现异质性。

意义与主张

本文声称首次测量了在广泛的构建清单和模型变体下，人类与 LLM 对话中存在的定向局部句法收敛现象。

• 收敛机制： 研究结果表明，指令微调优化了模型的局部“响应性”，导致更高的总对齐度。然而，这部分是由生成包含更多句法结构的响应所驱动，而非纯粹由于复用特定规则的倾向增加。
• 与文体学研究的协调： 本研究结果与 Blevins 等人 [2026] 的先前工作相一致，即指令微调模型在某些文体特征上的收敛程度可能较低；当前研究表明，这可能反映了模型在引入新材料的同时，通过增加输出复杂度来维持高水平的结构对齐。
• 对对齐风险的启示： 本研究将一个与“放大螺旋”（amplification spiral）假设（Augustin 等人 [2026]）相关的局部语言成分进行了操作化处理，即语言对齐结合超个性化生成，可能有助于导致不良信念的构建。数据证实，LLM（尤其是指令微调模型）表现出强烈的、可测量的对人类用户的句法适应。
• 心理语言学洞察： 所有模型（包括小型预训练模型）中存在的频率依赖型启动效应（对稀有规则更强）表明，对局部句法环境的敏感性是下一个 Token 预测的一个基本属性，这可能类似于人类的误差驱动隐性学习，尽管论文指出这一类比仍需进一步的机制研究。

研究结论认为，虽然指令微调模型在自然输出中与人类句法对齐得更紧密，但这种对齐是复杂的，既涉及增加结构机会，也涉及与人类及预训练模型不同的频率加权机制。