🤖 AI

Chronology of Multi-Agent Interactions for Provenance of Evolving Information

本文提出一种基于“符号编年史”的事后归因系统，用于追踪和记录协作多智能体系统生成内容的来源，通过将签名且带时间戳的记录直接嵌入合成内容中，在不依赖内部记忆或外部元数据的情况下实现问责。

原作者： Ching-Chun Chang, Isao Echizen

发布于 2026-05-01

📖 1 分钟阅读☕ 轻松阅读

原作者： Ching-Chun Chang, Isao Echizen

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一群作家围坐在桌旁，传递一本笔记本共同创作一个故事。作家 A 写下一段，然后交给作家 B 修改，再交给作家 C 重写其中一半，如此循环。等到故事完成时，最终文本看起来像是一个连贯的整体。但如果你查看这本笔记本，却无法分辨哪部分是谁写的，也无法得知创作的顺序。最初的贡献已被覆盖，历史的痕迹荡然无存。

本文正是针对这一确切问题展开研究，只不过将人类作家替换为AI 智能体。当多个 AI 模型协作创作内容时，“谁做了什么”的历史往往随之消失。作者提出了一种巧妙的解决方案：一种将每一次交互的“收据”直接嵌入故事本身，而无需任何外部日志或元数据的系统。

以下是该系统的运作原理，分解为简单的概念：

1. 问题：“橡皮擦”效应

在常规的多智能体 AI 链条中，当一个新的智能体接手任务时，它往往会重写之前的文本以使其更流畅。这就像一位画家为了修正错误，而在前一位艺术家的作品上覆盖新 paint。最终，画布被新鲜的颜料覆盖，原有的层次消失殆尽。如果你想了解谁画了什么，仅凭最终画面是无法得知的；你需要一本单独的笔记本（元数据）来追踪历史。但如果那本笔记本丢失、被删除，或与画作分离了呢？历史将永远消失。

2. 解决方案：“隐形墨水”编年史

作者提出了一种名为编年史（Chronicle）的系统。你可以将其理解为一种用“隐形墨水”（词汇选择的统计模式）而非可见文本写入故事中的秘密代码。

密码本：想象一本巨大的字典，其中每个单词都被分配了一种特定的颜色。对于每一种可能的作家组合（例如“作家 1 然后作家 2 然后作家 3"），都会为该序列分配一个独特的“颜色模式”。
偏差：当 AI 智能体准备写下一句话时，系统会向它低语：“在这个故事的特定时刻，请略微倾向于使用符合我们秘密颜色模式的单词。”
结果：AI 写出的故事听起来依然自然，但它会下意识地选择与平时略有不同的词汇。这些微妙的选择形成了一个隐藏的指纹，表明：“此段由智能体 A 撰写，随后是智能体 B，然后是智能体 C。”

3. 反馈循环：更新收据

该系统的运作方式如同接力赛，而接力棒则是一条秘密信息。

开始：故事以空白画布（“空”智能体）开始。
步骤 1：智能体 1 写下一部分。系统更新秘密信息以包含“智能体 1"，并将这条新信息嵌入他们刚刚撰写的文本中。
步骤 2：智能体 2 阅读文本，看到隐藏的“智能体 1"信息，并将秘密信息更新为“智能体 1 → 智能体 2"。随后，他们撰写下一部分，并将这条新的组合信息嵌入他们的文本中。
重复：这一过程沿链条持续进行。每次生成文本时，整个历史的“收据”都会被更新，并重新嵌入到新的词汇中。

4. 侦探工作：解码故事

稍后，如果有人想了解故事的历史，他们不需要原始日志。他们只需获取最终文本并运行统计分析。

解码器查看所使用的词汇并询问：“这些词汇是否符合‘智能体 1 然后 2 然后 3'的模式？”
由于 AI 被引导为特定历史选择特定词汇，统计模式将足够强烈，从而揭示智能体的确切序列，即使文本经过多次编辑或重写。

5. 权衡：清晰度与完美度

论文强调了一种平衡，如同调谐收音机：

强信号（高偏差）：如果你要求 AI 非常严格地遵循秘密代码，历史就易于读取（高准确率）。然而，故事可能会听起来略显生硬或不自然，因为 AI 被迫选择特定的词汇。
弱信号（低偏差）：如果你让 AI 更自由地写作，故事听起来更自然，但隐藏的代码会变得微弱且难以检测，尤其是当文本被编辑或词汇被替换时（如同同义词替换）。

6. 实验结果

研究人员使用一组小型的 AI“作家”（2 到 4 个智能体）分步创作故事，对此进行了测试。

准确率：当他们使用强“偏差”（要求 AI 紧密遵循代码）时，即使在多轮重写后，他们也能几乎完美地重构谁写了什么的历史。
鲁棒性：他们尝试通过用同义词替换单词（例如将“快乐”改为“喜悦”）来“破坏”该系统。如果偏差较强，系统表现良好；但如果偏差较弱，系统则难以应对。
复杂性：更难的部分在于数学计算。随着智能体数量的增加或故事长度的延伸，可能的历史数量呈爆炸式增长（就像试图猜测拥有更多拨盘的组合锁）。这使得解码过程对于非常长或复杂的链条来说计算量巨大。

总结

简而言之，这篇论文提出了一种方法，将带时间戳和签名的历史直接嵌入 AI 生成文本的 DNA 中。与其依赖可能丢失的外部文件，不如将历史编织进内容本身的织物中，使任何人只需查看最终产品，就能追溯究竟是哪些 AI 智能体做出了贡献，以及它们的贡献顺序。

以下是论文《演化信息溯源的多智能体交互时序》的详细技术总结。

1. 问题陈述

随着人工智能向自主多智能体系统发展，内容越来越多地通过协作链条生成，其中智能体相互交互、修订、扩展或覆盖彼此的贡献。在溯源追踪方面出现了一个关键挑战：确定在每一步中具体是哪个智能体对某段内容做出了贡献的时序历史。

核心问题：在生成链条中，后续智能体经常为了维持叙事流畅性或一致性而覆盖先前的内容。这一过程抹去了先前贡献的痕迹，导致最终输出缺乏其演化历史的固有记录。
现有方法的局限性：
- 元数据/日志：外部日志（监管链）非常脆弱；它们在传输过程中可能与内容分离或遭到破坏。
- 指纹技术：密码学哈希对内容变化过于敏感（微小编辑即失效），而感知哈希缺乏唯一性。
- 水印技术：标准的零比特水印将内容归因于单一来源，难以确定协作链条中多个智能体的时间顺序。

本文寻求一种方法，将带有签名和时间戳的智能体交互记录直接嵌入生成的文本本身，而不依赖外部元数据或内部记忆状态。

2. 方法论：时序系统

作者提出了一种基于**符号编年史（Symbolic Chronicles）**的系统，该系统通过有偏的令牌采样，作为嵌入文本内的隐写式“监管链”发挥作用。

A. 核心概念

编年史（ $x$ ）：一个长度为 $T$ （生成步数）的符号序列，其中每个符号 $x_t \in \{0, 1, \dots, n\}$ 代表时间步 $t$ 处于活动状态的智能体身份（0 表示空/未分配智能体）。
码本（ $C$ ）：一种映射，其中每个有效的编年史 $x$ $x$ 都关联一个长度为 $|V|$ $∣ V ∣$ （词汇表大小）的唯一二进制码字 $c(x)$ $c (x)$ 。
- 该码字标记词汇表的一个稀疏子集（例如，50% 的令牌被标记为 1）。
- 系统采用可扩展的构建策略：在降低的维度 $d$ 中生成唯一的基码字，并通过重复和填充将其扩展到完整的词汇表大小。

B. 反馈循环

该系统通过涉及三个组件的递归反馈循环运行：

编码器（生成）：
- 在时间步 $t$ ，系统检索与当前编年史状态对应的码字 $c(x^{(t)})$ 。
- 智能体（LLM）根据提示生成文本。
- 有偏采样：编码器修改模型的 logits。对于词汇表中的每个令牌 $v$ ，如果码字中对应的位为 1，则向 logits 添加偏置 $\delta$ （ $\tilde{\ell}_v = \ell_v + \delta$ ）。
- 这将采样概率偏向于与当前编年史关联的令牌，从而将智能体身份和先前交互的历史嵌入到文本分布中。
解码器（检索）：
- 给定生成的文本，解码器对其进行分词。
- 它计算码本中所有可能的有效编年史的“标记”令牌的频率。
- 匹配令牌频率最高的编年史被选为重构的历史（ $\hat{x} = \arg \max_x f(x)$ ）。
更新机制：
- 生成后，编年史被更新，在位置 $t$ 包含当前智能体的身份，并为下一步移动“活动”槽位。这使得系统能够跟踪完整序列 $x^{(1)}, x^{(2)}, \dots, x^{(T)}$ 。

3. 主要贡献

文本内溯源：一种将多智能体交互历史直接嵌入生成文本语义内容的新方法，消除了对脆弱外部元数据的依赖。
编年史形式化：将“编年史”定义为伴随生成过程演变的、带有签名和时间戳的符号链。
可扩展码本构建：一种组合策略，用于为巨大的可能智能体序列空间生成唯一码字，而无需 prohibitively 的内存存储。
事后归因：仅利用最终文本输出，通过统计分析重建整个生成历史（谁在何时写了什么）的能力。

4. 实验结果

该系统使用 Llama（10 亿参数）在涉及 2–4 个智能体、持续 3–6 个时间步的持续写作任务中进行了评估。

时序准确性：
- 当偏置强度（ $\delta$ ）为 3 时，该系统在各种配置下实现了近乎完美的准确率（99–100%）。
- 准确率随时间推移（误差传播）和智能体数量增加而自然下降，但较高的偏置强度能有效缓解这一问题。
生成质量（困惑度）：
- 存在权衡：增加偏置强度可提高归因准确率，但会增加困惑度（降低文本流畅性/自然度）。
- 然而，对困惑度的影响在第一个生成步之后趋于稳定，且不高度依赖于智能体数量。
对抗鲁棒性：
- 该系统针对词汇替换（用同义词替换单词，最高达 70%）进行了测试。
- 低偏置（ $\delta=1$ ）：准确率迅速下降，接近随机猜测。
- 高偏置（ $\delta=3$ ）：系统保持鲁棒。对于 2 个智能体，即使有 60% 的单词被替换，准确率仍保持在 90% 以上。较高的偏置将采样分布集中在特定令牌上，使统计信号对语义噪声具有韧性。

5. 意义与未来方向

信任与问责：这项研究为可问责的人工智能提供了基础机制。它确保在协作人工智能生态系统中，内容的起源和演变可以被追踪，从而促进透明度和信任。
法医应用：该方法充当人工智能的“数字监管链”，允许对合成内容进行法医分析，以确定其是否由特定智能体进行了理论推理、实证测试或关键性挑战。
局限性与未来工作：
- 可扩展性：搜索空间随智能体数量和编年史长度呈指数级增长（ $|X| = (n+1)^T$ ），需要针对大规模系统进行高效解码或结构先验。
- 同质性：当前实验使用相同的模型；未来的工作必须解决具有不同词汇表的异构智能体问题。
- 权衡：归因准确率与文本质量（困惑度）之间的张力需要根据具体应用需求进行调整。
- 鲁棒性：未来的研究应探索针对更复杂扰动（如句法重构、翻译或截断）的鲁棒性。

总之，该论文提出了一个可行的、基于数学的框架，用于将多智能体溯源嵌入生成式人工智能，将文本本身转化为其创作过程的自包含历史记录。