技术摘要：Tenure——LLM 记忆中的结构化信念状态

1. 问题：重定向税与搜索抽象的失败

该论文指出了当前大语言模型（LLM）工作流中存在的一个根本性低效问题：重定向税（re-orientation tax）。每一个新的 LLM 会话都始于一个空白上下文窗口，迫使用户在每次交互中重新建立偏好、技术约束和项目决策（例如“使用严格模式的 TypeScript"、“使用 MongoDB 原生驱动”）。缺乏这些上下文，模型会自信地生成错误的输出，需要纠正性提示，从而叠加了额外的开销。

行业的主流应对方案是检索增强记忆（RAM）：存储对话历史，将其向量化，并通过向量搜索（例如余弦相似度）检索语义相似的片段。作者认为，这是错误的抽象，原因有三：

1. 记忆是状态问题，而非搜索问题：偏好和决策是活跃的结构化约束，而非仅在查询匹配时才被检索的被动事实。检索引入了不必要的条件性，而此处需要的是结构性的保证。
2. 相似性搜索在有限词汇上下文中失效：在单用户或收敛型团队环境中，关于特定技术领域（例如基础设施）的所有信念在语义上都是邻近的。向量搜索无法区分关于"Redis"的查询与关于"MongoDB"或"Kubernetes"的信念，因为它们占据相同的语义区域（余弦分数为 0.65–0.83）。这导致了高召回率，但精度灾难性地低。
3. 上下文腐烂：缺乏显式状态管理的系统会积累过时、被取代或相互矛盾的事实。如果没有取代（supersession）机制，记忆系统最终会基于过时的上下文生成自信的回答。

2. 方法论：Tenure 架构

Tenure 被提出作为一种本地优先的代理，它将记忆视为类型化的信念状态，而非搜索索引。它基于“精度优先”的检索范式运行，用结构化提取和别名加权术语匹配取代了语义相似性。

2.1 信念模式

记忆的基本单元是信念（Belief），这是一个源自信念 - 欲望 - 意图（BDI）架构但限定于持久状态的 14 字段元组。关键组件包括：

• 类型：preference（偏好）、decision（决策）、entity（实体）、open question（开放问题）、relation（关系）。
• 认识论状态：active（活跃）、inferred（推断）、exploratory（探索性）、superseded（被取代）。关键在于，superseded 信念会被保留以供审计，但绝不会注入，从而防止上下文腐烂。
• 范围：硬性隔离标签（例如 user:universal、domain:code、project:<slug>），它们作为结构性过滤器，而非概率权重。
• “为何重要”字段：一条将事实转化为行动的指令性说明（例如“将所有代码示例塑造为 TypeScript 风格……"）。该字段在写入时生成，此时模型拥有完整上下文，提供“结晶化的推理”，而非供模型重新推导的原始材料。

2.2 精度优先检索（基于 BM25 而非向量）

Tenure 在读取路径中拒绝使用嵌入相似性。相反，它在信念存储上利用带有别名加权提升的 BM25，其中别名被编写以匹配预期的查询表面形式。

• 索引 - 搜索不对称性：该系统利用了反向检索问题（长查询 vs. 短、结构化文档）。它使用自定义分析器将蛇形命名法的规范名称（例如 redis_cache）映射为分词形式，并应用 shingle 生成以进行短语匹配。
• 别名增强飞轮：系统持续索引在用户查询中观察到的新表面形式（别名），随时间推移提高精度。
• 反信号属性：别名包含被拒绝技术的术语（例如在 fastify 信念的别名列表中包含 express），允许系统在用户查询被拒绝的替代方案时，浮现出活跃的偏好。

2.3 提取与压缩

• 写入时提取：信念通过侧边栏块异步提取。层级门控确保只有具有高结构化输出可靠性的模型才执行提取。
• 压缩：为防止噪声积累，系统合并重叠的信念，去重偏好，并综合专业水平。这防止了非结构化记忆系统中观察到的“幻觉积累”故障模式。
• 范围隔离：硬性后搜索过滤器确保来自未授权范围（例如在 project:client-a 中时检索 project:client-b 的信念）的信念永远不会被检索，无论语义相似性如何。

3. 主要贡献

1. 形式化信念模式：一个带有认识论状态、版本化取代和指令性“为何重要”说明的类型化模式。
2. 精度优先检索设计：实证证明，在有限词汇上下文中，别名加权的 BM25 优于稠密向量搜索。
3. 压缩架构：用于别名增强、反信号索引和信念合并的机制，以防止噪声基底积累。
4. 72 案例评估套件：一个可重用的基准测试，涵盖别名解析、范围消歧、取代链和多轮主题漂移。

4. 结果

该论文在 72 个检索案例（60 个静态，12 个会话级）上进行了受控评估，将 Tenure 的 BM25 后端与标准向量后端（nomic-embed-text，768 维）进行了比较。

• 静态检索精度：

  • BM25：72/72 个案例通过（平均精度：1.0）。
  • 向量搜索：8/72 个案例通过（平均精度：0.12）。
  • 观察：向量搜索检索到了正确的信念，但伴随着来自语义邻近领域的 8–9 个噪声信念（例如，查询 Redis 时检索到了 MongoDB 信念）。

• 多轮主题漂移（会话评估）：

  • 在具有主题漂移的多轮积累下（例如从 Redis 切换到 Kubernetes/React），向量后端的漂移分数（检索到的噪声信念比例）攀升至0.43–0.50。
  • BM25 在所有轮次中保持了0.0的漂移分数，成功将重入查询与积累的会话噪声隔离开来。

• 范围与取代：

  • BM25 正确执行了硬性范围隔离和取代链（例如，当 ESLint 和 Biome 活跃时过滤掉 TSLint），而向量搜索未能基于这些结构性约束进行区分。

5. 意义与主张

该论文认为，跨会话 LLM 记忆是一个状态管理问题，而非搜索问题。

• 结构性保证 vs. 概率性检索：Tenure 提供了结构性保证，即“正确的信念会浮现，且仅在用户授权的边界内”。这与基于搜索的系统形成对比，后者要求模型在生成时区分相关性，从而重新引入了该系统旨在消除的认知开销。
• 可操作的推理：通过在写入时将事实转化为指令性说明（“为何重要”），Tenure 确保模型接收“结晶化的推理”，而非需要重新推导的原始转录。
• 适度的范围：作者明确指出，检索精度是响应质量的必要前提，而非充分条件。重定向税是一个观察性主张；该论文确立了 Tenure 解决了使上下文注入成为可行所需的精度差距，而最终响应质量的测量仍是一个开放问题。
• 适用性：虽然在单用户语料库上进行了演示，但该架构被声称可扩展至工程团队，其中共享的代码库和运行手册创造了“收敛的词汇”，满足了别名加权精度所需的相同结构条件。

该论文得出结论，Tenure 通过一种使信念状态可审计的模式、一种确保精度的检索设计以及一种随时间维护存储完整性的压缩架构，为重定向税提供了一个连贯的解决方案。