Memory Is Communication: The Frontier Between Remembering and Signaling

技术摘要：记忆即通信

问题陈述
在约束条件下运行的协作智能体经常面临保留内部历史（记忆）与交换同伴信息（信号传递）之间的权衡。虽然现有协议优化了通信信道，且局部历史可以替代同伴传输，但目前缺乏一个正式的框架来量化智能体应如何在这些资源之间分配其信息预算，以达到特定的性能阈值。本文旨在解决一个基本问题：给定一个固定任务和决策规则，记忆率与消息率如何相互作用以形成一个可实现的性能区域，以及历史的效用是否可以预测所需同伴通信量的减少？

方法论与框架
作者提出了一个定义**记忆–信号传递前沿（remembering–signaling frontier）**的正式框架。

• 正式定义： 对于一个具有损失函数和解码器 $A$ 的固定任务 $T$，作者定义了一组源规则（$src$），用于确定哪些历史记录和同伴观测结果可用于编码。
• 可实现区域： 他们定义了可实现的记忆–通信速率区域 $\mathcal{R}^{MC,\epsilon}_A$，该区域是所有允许的编码方案 $\pi$ 使得预期任务损失 $D_A(\pi; T) \leq \epsilon$ 的记忆速率 ($b_m$) 和通信速率 ($b_c$) 对的集合。
• 前沿面： 该区域的帕累托高效下边界被称为记忆–信号传递前沿。该边界代表了最优权衡，即减少其中一种速率必然导致另一种速率增加，或导致超过损失阈值。
• 假设：
  1. 历史–同伴替代性： 如果一个受限智能体从历史中获得的损失减少量（可用历史增益）越大，那么为了达到相同的目标损失，它所需的同伴消息比特数就应该越少。
  2. 预测曲线： 通过分别改变单一速率（仅记忆 vs. 仅消息）所进行的测量，可以预测同时改变两种速率时的最小成本分配（最小化 $c_m b_m + c_c b_c$）。策略从“偏重记忆”转向“偏重消息”的转折点被定义为交叉点（crossover）。

初步结果
作者使用改编自先前研究的刘易斯信号博弈（Lewis signaling game）进行了初步实验，采用经过指令微调的 Gemma 4 31B 模型作为发送者-接收者对。

• 设置： 发送者观察四个形状中的一个目标，并发送长度为 $L \in \{1, 2, 3\}$ 个符号的消息。接收者猜测目标。智能体保留了一个私人笔记本和最近 20 次的交互记录。
• 条件：
  • 重复条件： 下一个目标以概率 $p$ 复制前一个目标。随着 $p$ 增加（从 0 到 0.95），达到 $\geq 0.85$ 准确率所需的最小消息长度 ($L_{min}$) 单调下降（从 2.67 降至 1.00）。
  • 打乱旋转条件： 目标遵循一个固定的、隐藏的循环规则。随着序列变得更具可预测性（$p$ 增加），$L_{min}$ 增加（从 2.33 升至 3.00）。
• 观察： 这些截然不同的趋势表明，简单的目标重复有助于缩短消息，而源于隐藏循环规则的可预测性在本次特定设置中并未缩短消息。作者指出，这些运行并未完全隔离历史的贡献，因为学习到的符号映射在各轮之间得以保留。

核心贡献

1. 概念框架： 本文引入了“记忆即通信”的概念，将保留的历史正式视为在率失真语境下同伴输入的替代品。
2. 前沿面： 它定义了对于固定任务而言，记忆–通信速率的可实现区域的有效边界——记忆–信号传递前沿。
3. 可验证的假设： 它提出了关于“可用历史增益”与“可用同伴增益”之间关系的特定假设，即前者可以预测后者的减少。
4. 实验路线图： 本文概述了验证这些假设的测试流程，从简单的状态估计任务过渡到指代游戏，最后到分布式多智能体任务（使用 AgentsNet 和 LoopBench）。

意义与主张
本文将自身定位为对受限智能体信息资源分配问题的初步调查。作者声称，记忆–信号传递前沿是理解智能体如何在内部保留与外部信号传递之间进行平衡时必不可少的度量指标。作者的表述较为谦逊，明确指出初步结果“激发了我们的假设”，但仍需通过预先登记的严格“可用历史测量和消息率预测”来进行测试。

其意义在于将率失真理论（特别是 Wyner–Ziv 编码概念）与多智能体协作联系起来，提出智能体通信策略的效率从根本上与其记忆质量相关。本文并不声称解决了分配问题，而是旨在定义一个理论边界，并提出一套方法论，以在各种协作任务中对其进行经验映射。