Knowledge-Graph-Gated Defactualization for Style-Controllable and Fact-Preserving Generation in Agentic Conversational AI

以下是关于论文《Knowledge-Graph-Gated Defactualization for Style-Controllable and Fact-Preserving Generation in Agentic Conversational AI》的技术摘要详细翻译：

问题陈述

部署在客户支持等事实敏感领域的智能体大语言模型（LLM）面临着双重约束：它们必须以特定的风格寄存器（例如，共情或正式）生成响应，同时必须严格保留关于特定实体（例如，订单 ID、产品名称、客户姓名）的事实正确性。

现有方法无法在不进行权衡的情况下同时解决这两个约束：

• 微调（Fine-tuning） 将风格嵌入权重中，但每一种风格和模型都需要重新训练。
• 检索增强生成（RAG） 提供了上下文，但模型仍会自由地进行改写或丢弃关键实体。
• 激活转向（Activation Steering） 通过扰动隐藏状态来实现无需微调的风格控制，但缺乏区分事实性 Token 与风格性 Token 的机制。这导致了语义泄漏（semantic leakage），即转向向量会无意中改变或替换事实实体，或者将风格标记不恰当地转移到实体跨度（entity spans）上。

核心挑战在于如何在不修改模型权重且不需要转向向量具有消息特定性的情况下，实现风格控制与事实落地（factual grounding）的解耦。

方法论：去事实化-转向-再水合（DSR）

作者提出了 DSR，这是一个由七个阶段组成的、无需训练的神经符号框架，它将类型化、显著性加权的知识图谱（KG）与激活转向相结合。该流水线运行如下：

1. 知识提取与 KG 构建：

   • 输入消息通过分层流水线（正则表达式、命名实体识别 NER 和词汇分类器）进行处理，以提取实体及其属性（客户姓名、订单 ID、产品、问题、紧急程度、情感）。
   • 构建一个有向、类型化的知识图谱 $G=(V, E)$。节点根据提取置信度和相互验证（例如，匹配元数据会提升显著性）被分配一个显著性得分（$sal \in [0, 1]$）。
   • 边权重采用乘法定义（$w(u,v) = sal(u) \cdot sal(v)$），确保低置信度的端点会抑制边的可信度。

2. 去事实化（转向前）：

   • 在进行任何激活转向之前，输入文本通过将所有提取的实体值替换为类型化占位符（例如，<ORDER_ID>、<PRODUCT>）来进行重写。
   • 这创建了一个“去事实化”的提示词，其事实模式已被掩码化，从而确保用于估计转向向量的对比对中不包含特定的实体噪声。

3. 对比转向向量构建：

   • 特定风格（如共情型 vs. 正式型）的转向向量（$v_s$）通过对对比提示对的池化激活差异进行**主成分分析（PCA）**来估计。
   • 至关重要的是，这些向量仅在占位符词汇表上进行估计，以确保其方向代表纯粹的风格而非特定的内容。

4. 转向生成：

   • 将去事实化的提示词输入冻结的 LLM。
   • 在选定的 Transformer 层 $L$，对隐藏状态进行加性扰动：$h'_L(t) = h_L(t) + \alpha v_s$。
   • 模型生成目标风格的响应，但输出包含的是占位符而非实际事实。

5. 再水合与验证（生成后）：

   • 生成的输出通过使用来自原始 KG 的高显著性验证值来确定性地进行“再水和化”。
   • 这一步是一个符号查找过程，而非生成过程，从而确保在恢复过程中不会引入新的幻觉。
   • 对于格式错误的输出（例如，截断的占位符）存在回退机制，但在评估中未观察到此类情况。

核心贡献

1. 数据工程流水线： 一个无需训练的分层提取框架，利用正则表达式、NER 和分类器从非结构化支持消息中构建类型化、显著性评分的 KG。
2. DSR 架构： 通过事实控制（通过 KG 掩码/再水合）与风格控制（通过激活转向）的结构化分离。KG 起到了门控作用，确保转向算子永远不会接触到未被掩码的实体值。
3. 诊断套件： 引入了三个指标来评估风格与事实之间的交互：
   • 转向激活保真度（SAF）： 衡量隐藏状态与预期风格方向的一致程度。
   • 幻觉严重程度指数（HSI）： 衡量实体级泄漏（输出中存在但输入中不存在的实体）。
   • 语调一致性指数（TCI）： 衡量相对于其相反风格的请求风格对齐程度。
4. 全面评估： 对六个 LLaMA 系列模型（1B–13B 参数）和 1,200 次生成进行了广泛研究，包括专门的 KG 消融研究。

实验结果

• 实体恢复： 与仅使用转向的基准相比，KG 门控的 DSR 流水线显著提高了经过验证的实体恢复率（Cohen's $d = 0.225$, $p_{Bonf} = 1.0 \times 10^{-4}$）。然而，作者指出绝对恢复率仍然处于较低水平（个位数到低两位数的百分比），这表明该方法虽有改进，但不能保证完全的事实落地。
• 风格保持： 所有风格保真度指标（共情、正式度、可读性、词汇多样性）在 DSR 和仅转向的基准之间保持统计学上不变。这证实了 KG 层不会降低风格控制能力。
• 占位符完整性： 在 1,200 次生成和六个模型中，占位符泄漏率为零。再水合算子成功地恢复了验证值或剥离了占位符，没有留下悬空 Token。
• 模型独立性： KG 的结构统计数据（节点数、密度、平均显著性）在所有六个宿主模型中几乎是不变的，证实了知识层是提取流水线的属性，而非模型的属性。
• 缩放效应： 在风格保真度或事实落地方面均未观察到随参数量（1B–13B）单调变化的缩放效应。输入条件（场景类型）比模型身份更能解释事实落地的方差。
• 层敏感性： 诊断显示，在某些模型中，转向强度（$\alpha$）与语调一致性之间存在非单调关系，而幻觉严重程度则迅速饱和。这表明存在一个操作区间，在该区间内幻觉诊断对转向强度变得不敏感。

意义与主张

本文声称，显式的知识工程可以系统地增强生成式 AI 的可靠性、可控性和可复现性，而无需进行模型微调。

• 系统性增强： 通过将事实落地视为一种结构性约束（掩码与再水合）而非统计学习问题，DSR 减轻了语义泄漏。
• 互补性： 该框架旨在与检索增强方法互补；它保留了已经存在于输入中的事实，但不会引入外部知识。
• 透明度： 使用类型化 KG 和确定性再水合提供了一个可审计的决策路径，符合神经符号集成范式。

作者对自己的主张保持谦逊，承认虽然 DSR 相对于基准显著改善了实体保留，但它并未完全解决实体落地问题，且效应量有限。这项工作确立了一个概念验证，即在表示层级分离事实约束与风格约束是实现更可靠智能体 AI 的一条可行路径。