💬 NLP

Less Context, More Accuracy: A Bi-Temporal Memory Engine for LLM Agents Where a Lean Retrieved Context Beats the Full History

本論文は、ロスレスな書き込みパスと、バイテンポラル（二時制）知識グラフからプロベナンス（由来）が付与されたコンパクトなコンテキストを組み立てるハイブリッドな読み取り戦略を組み合わせることで、フルコンテキストのベースラインを精度と効率の両面で上回る、オープンソースのバイテンポラル・メモリエンジンであるEngramを紹介しており、これはより少ないトークン数を使用しながらLongMemEval_Sにおいて83.6%のスコアを達成している。

原著者： Liuyin Wang

公開日 2026-06-10

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Liuyin Wang

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

大きな問題：「荷物が重すぎるバックパック」

あなたはミステリーを解こうとしていますが、あなたの相棒である探偵（AI）は、会話をするたびに重くなるバックパックを背負っています。

従来の方法： 3日前の手がかりを思い出すために、バック明の「中身すべて」をテーブルの上にぶちまけます。そこには、火曜日の天気予報、先週訪れたレストランのメニュー、そして本当に必要な「手がかり」が混ざっています。
結果： 探偵は大量のゴミ（ディストラクター／邪魔な情報）に圧倒されてしまいます。ゴミをかき分けているうちに、手がかりを見逃したり、混乱したりしてしまいます。また、その重いバックパックを運ぶのは時間がかかり、コストも高くつきます。

解決策：Engram（「賢い司書」）

著者らは、Engramと呼ばれる新しいシステムを構築しました。Engramは、バックパックの中身を丸ごとぶちまける代わりに、完璧に整理されたアーカイブを管理する超スマートな司書のように振る舞います。あなたが質問をすると、司書は図書館全体を持ってくるのではなく、あなたが必要としている特定のページだけを、さらに「いつそのページが書かれたか」という明確なメモと共に持ってきます。

仕組みは、以下の3つのシンプルな部分に分けられます。

1. 二段階の書き込みプロセス（システム1 & システム2）

Engramは、人間の脳のように、2つの異なる方法で記憶を書き込みます。

高速書き込み（システム1）： あなたがチャットをしているとき、Engramは会話の生のコピー（情報の欠落がない状態）を即座に保存します（セキュリティカメラの録画のようなものです）。これはミリ秒単位で行われ、あなたの作業を遅らせることはありません。
低速思考（システム2）： 後でシステムがアイドル状態（待機状態）になったとき、Engramはその録画を読み取り、それをアトミックな事実（「XはYで働いている」といった単純な記述）へと変換します。そして、これらの事実のタイムラインを構築します。
- 魔法のトリック： もしある事実が変化した場合（例：「XはYで働いている」が「XはZで働いている」に変わった場合）、Engramは古い事実を削除しません。代わりに、古いものを「期限切れ」としてマークし、新しい事実とリンクさせます。これにより、「上書きの連鎖（supersession chain）」が生まれます。「ああ、午後2時の時点ではXはYで働いていると思っていたが、午後3時にはZに更新されたのだな」と、いつでも振り返ることができるのです。

2. 「〜時点での（As-Of）」フィルター（タイムトラベル）

Engramは、いつその事実が真実であったかのタイムラインを保持しているため、「いつの時点について」質問しているかに基づいて回答できます。

例え： もしあなたが「Xはどこで働いていましたか？」と尋ねた場合、Engramはタイムラインを確認します。もしあなたが「先月」について聞いているなら、古い職場を表示します。もし「今日」について聞いているなら、新しい職場を表示します。Engramは、それぞれのバージョンがいつ有効であったかを正確に把握しているため、矛盾によって混乱することはありません。

3. ハイブリッド・リード（両方の良いとこ取り）

質問を受けたとき、Engramはただ推測するだけではありません。「ハイブリッド」な検索を行います。

まず、事実（整理された綺麗なノート）を探します。
同時に、生のチャンク（元の会話の断片）も取得し、細かい詳細を見落とさないようにします。
これらを混ぜ合わせ、不要な情報を削ぎ落とし、探偵に対して「図書館全体（79,000語）」ではなく、「極めて小さく完璧な書類の束（約9,600語）」を手渡します。

結果：少ないことは、より豊かなこと

著者らは、500問の試験である LongMemEvalS を用いてテストを行いました。

フルコンテキスト・チーム： 毎回、全履歴を読み込んで答えようとしました。正答率は 73.2% でした。
Engramチーム： フィルタリングされた小さな書類の束のみを使用して答えました。正答率は 83.6% でした。

驚きの事実： テキストの87%を捨て去ったことで、Engramはむしろ精度が向上しました。履歴に含まれる「ノイズ」が、実はAIのパフォーマンスを低下させていたのです。

なぜこれが重要なのか（論文による説明）

コストよりも精度： 通常、人々はメモリを節約するために、より少ないメモリを使おうとします。しかしEngramは、メモリを少なく使うことが、AIの注意力をそらす原因（ディストラクション）を排除できるため、結果としてAIをより賢くできることを証明しています。
「偽の数字」の排除： 著者らは誠実さに対して非常に厳格です。誰でも同じ結果を確認できるよう、公開された再現可能なテストツール（ハーネス）を構築しました。他の研究者が、意図せず自分たちに有利な状況を作ってしまうような一般的なバグ（例：フルコンテキストの中に答えが含まれてしまっているケース）を修正しました。
プライバシーとコントロール： Engramは「何がいつ信じられていたか」の明確な履歴を保持しているため、ユーザーが「忘れられる権利」を求めた場合、特定の記憶を削除することが容易です。また、ローカルで動作するため、データがコンピュータの外に出ることはありません。

まとめ

Engramは、AIエージェントにとって、記憶の量よりも質が重要であることを示しています。単純な質問に答えるためにAIに人生の全記録を読ませるのではなく、関連性があり、検証済みの事実だけを呼び出す、時間を意識したスマートなシステムを使うことで、より速く、より安く、より正確に問題を解決できるのです。

技術要約：Engram – LLMエージェントのための二時制（Bi-Temporal）メモリエンジン

1. 問題提起

長期記憶は、LLMエージェントにとって本質的な課題である「セッションをまたいだステートレス性」に起因する決定的なギャップとして残っています。現在主流となっている回避策は、会話履歴全体をプロンプトに結合することですが、これは以下の3つの複合的な問題を引き起こします。

コストとレイテンシ： トークンコストと推論レイテンシが履歴の長さに比例して増大します。
精度の低下： 無関係なターン（ディストラクター）が蓄積されるにつれ、モデルが関連する証拠を見つけることが困難になります。これは「Lost in the middle（中だるみ）」として知られる現象です。
再現性の危機： 既存のメモリベンチマークは、不整合な評価ハーネス（取り込み方法、回答プロンプト、判定器の差異）に苦しんでおり、同じシステムがソースによって全く異なるスコアを示すという矛盾した報告を招いています。

現在のメモリシステムは、多くの場合コストや速度の最適化に注力していますが、フルコンテキスト（全文脈）のベースラインの精度を上回ることはできていません。本論文は、精密に検索された「引き締まった（lean）」コンテキストのスライスは、ノイズの多いフルウィンドウよりも安価であるだけでなく、より正確であるはずだと提唱しています。

2. 手法：Engramシステム

Engramは、二時制（Bi-temporal）データモデルに基づいた、デュアルプロセス型のメモリエンジンであり、オープンソースで提供されます。これは、メモリ操作を「高速な書き込みパス」と「非同期の統合パス」に分離し、ハイブリッドな読み取りパスへと供給します。

2.1 二時制データモデル

本システムは、時間を第一級の市民として扱い、以下の2つの軸を使用します。

イベント時間（有効時間 / Valid Time）： 事実が世界において真であった時点。
トランザクション時間（Transaction Time）： システムがその事実を学習、または撤回した時点。
データ構造：
- エピソード（Episodes）： 両方の時間軸が付与された、損失のない生のターン/イベント。
- 事実（Facts）： 表層テキスト、埋め込み、サリエンス（顕著性）スコア、およびプロベナンス（由来）を持つ、原子的な（主語、述語、目的語）形式の主張。事実は valid_at/invalid_at および created_at/expired_at のタイムスタンプを保持します。
- グラフ（Graph）： 二時制のエッジを持つエンティティとリレーション。
不変条件： 事実は決してハードデリート（完全削除）されません。矛盾した事実は無効化（invalid_at を付与）され、新しい事実によって上書きされることで、完全な監査証跡とプロベナンスが保持されます。

2.2 デュアルプロセス・アーキテクチャ

System-1（ホット・ライトパス / Hot Write Path）：
- 操作： 損失のないエピソードを追記し、セッションをまたいでアイデンティティを解決し、軽量な埋め込みを計算して、統合用にキューイングします。
- 制約： クリティカルパス上でLLM呼び出しを行わず、レイテンシを50ms未満に抑えます。
System-2（非同期統合 / Async Consolidation）：
- 操作： 原子的な事実（ルールベースまたはLLMベース）を抽出し、二時制知識グラフを構築し、衝突を検出し、上書きされた事実を無効化します。
- 衝突解決： 「安価な手法から段階的にエスカレーションする」ポリシーを採用します。正確なスロットの一致や明確な時間的矛盾は、LLM呼び出しなしで解決されます。曖昧なケースは、LLMによる判定へとエスカレートされます。
- サリエンス（顕著性）： 再強化されないメモリを減衰させるための、減衰/強化スコアリングを適用します。
ハイブリッド・リードパス（Hybrid Read Path）：
- 検索： クエリを分解し、4つの並行チャネル（高密度セマンティック（BGE埋め込み）、レキシカル（BM25）、グラフ・トラバーサル（n-hop）、および新近性/サリエンス）を通じて検索します。
- 融合： 相補ランク融合（RRF）とオプションのクロスエンコーダー・リランキングを使用して、ランク付けされたリストを結合します。
- フィルタリング： 二時制の「as-of（～時点）」フィルタ（特定の時点において有効な事実を検索）と、棄権ゲート（証拠が欠如している場合に回答を拒否する機能）を適用します。
- コンテキスト組み立て： 衝突解決済みの事実、関連する生のセッションチャンク、およびセッション要約を含む、コンパクトなコンテキストを構築します。

2.3 再現可能な評価ハーネス

著者らは、測定の完全性を損なう問題を排除するために設計された、中立的なインレポ（リポジトリ内）評価ハーネスを提供しています。

公式判定器： 自作の判定器を避け、LongMemEvalSの公式カテゴリ別判定プロンプトを使用します。
フルコンテキスト・ベースライン： すべての比較において、フル履歴のベースラインを含めます。
完全性の修正： フルコンテキストの切り捨て問題（ベースラインが全 haystack を見られるようにすること）や、「フル履歴の前に事実を付加する」問題（テストが単なるメモリ拡張ではなく、検索を測定するようにすること）を修正しています。
決定論： ユニットテスト用に依存関係ゼロのオフライン・フォールバックを実行します。すべてのメトリックについて、生の質問ごとのログを公開しています。

3. 主な貢献

デュアルプロセス・エンジン： 非破壊的な衝突解決（上書きではなく無効化）を備え、ほとんどの衝突をLLM呼び出しなしで解決するメモリシステム。
経験的な精度の向上： 引き締まったコンテキスト（~~9.6k トークン）が、フルコンテキスト・ベースライン（~~79k トークン）よりも高い精度を実現することを実証。
中立的なハーネス： 公式判定器、フルコンテキスト・ベースライン、および公開された生ログを備えた、再現可能な評価パイプラインを提供することで、分野の再現性の危機に対処。
ハイブリッド・リードパスの洞察： 「事実のみ」の検索パスでは再現率が失われることを特定。詳細を回復するには、衝突解決済みの事実と生のセッションチャンクを組み合わせることが必要であるという知見。

4. 結果

LongMemEvalS ベンチマーク（7つのカテゴリにわたる500の質問）において、公式の判定器を用いて評価を実施しました。

総合精度： Engramのリーン構成は 83.6% の精度を達成し、フルコンテキスト・ベースラインの 73.2% を上回りました（+10.4ポイント）。
効率性： リーン構成は、より高い精度を維持しながら、約8倍少ないトークン（79kに対し9.6k）を使用しました。
統計的有意性： この利得は統計的に決定的です（McNemarの正確検定、 $p < 10^{-6}$ ）。Engramは、ベースラインが見逃した81問に対して正解し、逆のケース（ベースラインが正解しEngramが誤ったケース）は29問でした。
エラー率： 両システムとも500問中0エラー（システム失敗なし）。
カテゴリ別パフォーマンス：
- 知識更新（Knowledge-Update）： 87.5%（無効化/上書きの恩恵）。
  理性的推論（Temporal Reasoning）： 81.1%（"as-of" フィルタリングの恩恵）。
- 棄権（Abstention）： 86.7%（メモリに答えがない場合にシステムが正しく拒否）。
- マルチセッション集計および嗜好（Multi-session Aggregation & Preference）： 低いスコア（79.3% および 73.3%）を記録し、これらが改善の余地がある領域として特定されました。
アブレーション観察： 事実をフル履歴の前に付加したバリアント（engram_full）は、83.4%を記録し、リーン版と同等のスコアとなりました。これは、構造化された事実が精度の向上を駆動しており、フル履歴は正当性を高めることなくトークンを追加していることを示唆しています。

5. 意義と主張

本論文は、主に2つの貢献を主張しています。

コスト最適化を超えた品質向上： Engramは、長期記憶が単なるコスト削減メカニズムではなく、品質向上のメカニズムになり得ることを示しています。ディストラクターをフィルタリングすることで、引き締まった検索スライスは、フルコンテキスト・ウィンドウよりも正確になります。
測定の完全性： 論文は、一貫性のないハーネスにより、分野のベンチマーク数値がしばしば議論の対象となっていると主張しています。公式の判定器とフルコンテキスト・ベースラインを備えた中立で再現可能なハーネスを提供することで、著者らは「信頼できるスコアボード」自体がシステムと同様に価値があるものであると断言しています。

著者らは限界についても謙虚であり、結果が単一のベンチマークと単一の回答バックボーンに基づいていることを認めています。彼らは、マルチセッションの集計および嗜好の処理を未解決の課題として特定し、複数のバックボーンや制御されたコンポーネントのアブレーションを含む今後の研究を求めています。システムは、外部APIへの依存なしに、データのプライバシーと再現性を確保するためのオフライン・フォールバックを備えた、自己ホスティング可能な設計となっています。