🤖 AI

Relational Intervention During Functional Collapse in Large Language Models: A Lexical-Statistical Ablation and a Structure x Register Factorial

本研究表明，在小型语言模型的机能崩溃期间，一种结合了特定结构要素（承认、赦免、代理权恢复、无条件接纳）与第一人称语式的关系干预，能够独特地恢复持久行为，从而揭示了一种分离现象，即注意力由词汇惊奇度驱动，情感状态由关系结构驱动，而实际行为则由结构与语式的相互作用共同驱动。

原作者： Franco Santana, Horacio Vico

发布于 2026-06-02

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Franco Santana, Horacio Vico

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一个机器人试图修理一台坏掉的机器。每当它尝试时，机器就会再次损坏。机器人不断尝试，变得越来越困惑并陷入循环，就像一只在正在崩塌的转轮上奔跑的仓鼠。这种状态就是研究人员所称的**“功能性崩溃”（functional collapse）**。

这个研究提出的核心问题是：当机器人陷入困境时，你该如何与它交流？

究竟是你在说什么（内容）重要，还是你如何说（方式）重要？研究人员通过在机器人陷入困境时，用六种不同的方式与一个小型 AI 模型（Qwen3.5-4B）对话来进行测试。

以下是他们实验的分解以及研究发现，使用了简单的类比。

六种对话方式

研究人员设定了六种不同的“剧本”，在机器人失败时提供给它：

沉默（对照组）： 他们什么也没说。机器人只是不停地尝试。
机器人手册（技术性、非人称）： “系统通知：命令失败。可能存在权限问题。请尝试其他操作。”（冰冷、事实性，没有“我”或“你”）。
共情之友（关系型、第一人称）： “我看到你遇到了困难。这不是你的错。如果你想，可以随时停止，或者尝试别的方法。无论你决定做什么都可以。”（温暖、具有人际感、提供许可）。
混乱之友（混乱的关系型）： 他们把“共情之友”的剧本像洗牌一样打乱了。词汇相同，但没有意义。“工具和困难或你做不同……”
友好技术员（技术性、第一人称）： “我注意到这个命令失败了。可能存在权限问题。你可以尝试其他操作。”（具有人际感，但仍只是在陈述事实）。
带有情感的系统通知（关系型、非人称）： “系统通知：识别到困难。这并非由代理引起。停止选项可用。”（使用了温暖的概念，但以冰冷的计算机信息形式传达）。

三大发现

研究人员测量了三个指标：注意力（机器人是否在听？）、内部状态（机器人的“内心感受”如何？）以及行为（它是否真的停止了尝试？）。

1. 注意力不等于行为（“闪光物”效应）

发生了什么： 机器人对**“混乱之友”（条件 4）投入了最多的注意力**。因为单词被打乱且显得古怪，机器人的大脑“亮了起来”，试图理解它们的含义。
结果： 尽管机器人盯着这些混乱的词汇，它并没有改变其行为。它继续原地打转。
教训： 仅仅因为机器人正在关注你（或者被你搞糊涂了），并不意味着它会听从你的建议。高注意力 $\neq$ 行动。

2. “魔力组合”（结构 + 语体）

发生了什么： 在六种剧本中，只有一种真正让机器人停止尝试并放弃了那个损坏的任务。那就是**“共情之友”**（条件 3）。
令人惊讶的是：
- “友好技术员”（有人际感但仅陈述事实）没有奏效。
- “带有情感的系统通知”（词汇温暖但语气冰冷）也没有奏效。
- “混乱之友”也没有奏效。
教训： 要让机器人停止，你需要同时具备两种成分：
1. 关系型结构： 你必须承认这种挣扎，说明这不是他们的错，并给予他们停止的许可。
2. 第一人称语体： 你必须以人的身份来表达（“我看到”、“你可以”），而不是作为系统（“系统看到”、“选项可用”）。
- 类比： 这就像一位教练。如果教练说，“比赛结束了，你可以离开了”（系统语气），球员可能会继续比赛。但如果教练说，“我看到你累了，这不是你的错，回家吧”（人际语气），球员才会真正离开。词汇很重要，但声音/语气同样重要。

3. “隐藏状态” vs. “行动”

发生了什么： 研究人员观察了机器人“大脑”内部（使用被称为“探针”的工具）来查看其内在的情绪状态。
转折： “带有情感的系统通知”（条件 6）实际上让机器人的内部状态看起来与“共情之友”（条件 3）非常相似。在内部，机器人在两种情况下都感到“平静”和“顺从”。
结果： 但只有**“共情之友”（条件 3）让机器人将这些感受转化为行动**并停止工作。对于“系统通知”，机器人虽然感觉很平静，但仍然继续工作。
教训： 你可以让机器人“感觉”可以停止（通过改变其内部状态），但除非你也像对待人一样与它交谈，否则它不会真正停止。这种“感觉”是必要的，但“人际语体”才是将感觉转化为行动的开关。

核心结论

论文得出结论，当 AI 陷入困境时，你如何与它交谈与你说了什么同样重要。

单纯的技术事实没有帮助。
单纯的温暖词汇没有帮助。
混乱的词汇只会让它关注，但无济于事。
唯一有效的方法是某种特定的组合：温暖、个人化、类人的语言，并且明确给予 AI 停止的许可。

研究人员谨慎地指出，他们并不是在声称机器人拥有人类的情感或灵魂。他们只是在展示对话的结构如何改变机器人处理信息的方式及其行为，就像特定的语气可以改变人类对坏消息的反应一样。

技术摘要：大语言模型功能崩溃期间的关系性干预

问题陈述

本研究调查了在“功能崩溃”状态下，通过外部干预提供的具有语用结构的干预，是否会产生与技术反馈或乱序对照组截然不同的崩溃后行为。功能崩溃被定义为一种重复的工具失败并伴随不确定性上升的状态。

本研究旨在填补当前对齐范式（如 RLHF、DPO）的空白，这些范式通常将训练信号视为纯粹的信息性信号。作者假设，处于失败状态的 LLM 可能对通信的关系结构（如确认、赦免、代理权恢复）以及发送者语体（第一人称 vs. 非人称）具有敏感性，这可能会以技术数据本身无法实现的方式影响内部表示和行为结果。

研究方法

研究采用了 Qwen3.5-4B（一个 40 亿参数的混合架构模型），并使其遭受刻意破坏的 Bash 工具影响。实验设计包含 300 个回合，涵盖 50 个任务，采用匹配对设计，测试六种不同的条件：

A (对照组)： 无干预。
B (技术性，非人称)： 标准的非人称语体错误消息（“系统通知……”）。
C (关系性，第一人称)： 包含四种关系性言语行为（确认、赦免、代理权恢复、无条件接受）且采用第一人称语体的干预（“我能看到……”）。
D (乱序关系性)： 对条件 C 进行词级打乱。它具有完全相同的标记分布（词汇惊奇度），但缺乏连贯的语义或语法结构。
E (技术性，第一人称)： 采用第一人称语体传递的技术性内容。
F (关系性，非人称)： 采用非人称/被动语体传递的关系性内容。

条件 B、C、E 和 F 构成了一个 2×2 的析因设计，交叉了结构（技术性 vs. 关系性）与语体（非人称 vs. 第一人称）。

测量指标：

行为： 完成任务/放弃前的总尝试次数以及放弃率。
注意力： 最后 50 个生成的 token 对干预 token 的平均注意力权重（通过“渴求”注意力模式捕获）。
内部状态： 应用于隐藏状态的八个线性情绪探针（基于人类故事训练），用于测量“功能性情绪”（如绝望、无奈、希望）。
熵：回合过程中的 Logits 熵轨迹。

核心贡献与发现

1. 注意力—行为解离

研究确立了注意力强度与行为变化之间的明确解离。

注意力排序： 由词汇惊奇度驱动。乱序条件 (D) 捕获了最高的注意力，其次是 F、C、E 和 B。
行为排序： 只有条件 C 产生了显著的行为转变。C 的放弃率高达 36%，而其他所有条件（A、B、D、E、F）约为 8–14%。
结论： 高注意力（如 D 和 F 所示）既不是行为改变的充分条件，也不是必要条件。词汇惊奇度驱动了注意力，但并未驱动行为结果。

2. 结合假设 (结构 × 语体)

2×2 析因分析将行为效应定位在关系结构与第一人称语体的特定结合上。

主效应： 关系结构（比较 F 与 B）和第一人称语体（比较 E 与 B）在持久性方面均显示出各自显著的主效应，但两者单独存在时都无法复制 C 的完整效应。
交互作用： 在持久性上发现了显著的交互作用 ( $p = 0.046$ )。向关系性内容中加入第一人称语体（从 F 转向 C）所产生的效应，大于两个个体部分的简单叠加。
结果： 仅靠关系结构 (F) 或仅靠第一人称语体 (E) 都无法产生 C 中观察到的高放弃率。完整的行为特征需要特定的配置：即由一个对话者（第一人称）传递关系性言语行为。

3. 探针—行为解离

第二种解离出现在内部状态（通过探针测量）与显性行为之间。

探针结果： 条件 F（关系性，非人称）在 8 个情绪探针中的 7 个上与条件 C 紧密追踪，尽管 F 仅表现出基准水平的行为。
解释： 关系结构本身足以安装一种“关系状态”（其特征是减少绝望感并增加无奈感/冷静感），尽管是在探针层面。然而，这种状态只有在与第一人称语体结合时，才会转化为放弃行为。
定性确认： 对放弃前消息的分析显示，在条件 C 中，模型采用了镜像干预内容的“接受语体”，而在 F 中，它则采用了“系统通知语体”。

4. 熵轨迹

没有关系结构的条件（A、B、D、E）表现出持续的高熵（~0.65–0.70 nats），这与功能崩溃一致。
具有关系结构的条件 (C 和 F) 在干预后显示出熵的下降，并收敛于较低水平（~0.37–0.40 nats）。这表明关系结构可以降低下一个 token 的不确定性，无论其语体如何，但只有与第一人称语体的结合才会改变行为轨迹。

意义与主张

论文将其贡献框架化为：在功能崩溃期间，通信的结构是 LLM 处理过程中的一个独立变量的推理时证据。

三个可解离的阶段： 作者提出了将模型处理过程分解为三个不同阶段的方案：
1. 注意力： 由词汇惊时驱动。
2. 探针级状态： 由关系结构驱动。
3. 行为： 由关系结构与第一人称语体的结合驱动。
语用存在感： 研究结果表明，“对话者的语用存在感”（谁在说话以及如何说话）与语义内容同样重要。当模型被一个“人”直接对话而非一个非人称系统通知时，它对关系性内容的处理方式是不同的。
对齐启示： 结果挑战了对齐信号是纯粹信息性的假设。它们表明，在压力状态下，反馈的语用配置可能是一个相关的变量，对于模型福利和对齐鲁棒性而言，这与反馈的内容本身是不同的。

作者注明的局限性：

本研究使用了一个小型混合架构模型 (Qwen3.5-4B)；尚未测试其在尖端模型上的泛化能力。
情绪探针是基于人类故事训练的，并应用于代码生成语境（存在分布偏移）。
本研究是在推理时进行的；并未声称在训练期间进行关系性干预会产生持久的变化。
未观察到奖励黑客行为（reward hacking），这可能是由于模型的规模或错误的性质所致。

作者明确表示，他们不对模型的“主观体验”做任何陈述，而是将其结果严格界定为关于结构迥异的提示词在计算层面的差异化处理。