Nous: A Predictive World Model for Long-Term Agent Memory
ouは、従来の事実の保存に代わり、カテゴリカル確率分布による予測的世界モデルを用いて、情報が信念の更新（デルタ）として保持され、エントロピーの減衰を通じて自然に忘却が発生する新しいエージェントメモリアーキテクチャを導入し、外部のベクトルデータベースやグラフエンジンを必要とせずに、長期的な会話ベンチマークにおいて競争力のある性能を実現します。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは、友人と交わした会話を思い出そうとしていると想像してください。こうした試みを行うほとんどのコンピュータプログラムは、**「ファイルキャビネット」**のように振る舞います。彼らは、あなたが言ったあらゆる事実（「私はピザが好きです」「Googleで働いています」など）を取り込み、フォルダの中に押し込んでしまいます。もし後であなたが「実はピザは嫌いで、Amazonで働いているんだ」と言ったとしても、ファイルキャビネットは新しいメモを追加するだけです。それは矛盾を解決する方法を知らないため、結局、矛盾する書類が詰まった散らかった引き出しになってしまいます。
この論文は、AIエージェントに記憶させるための新しい手法である**「Nous」を紹介しています。ファイルキャビネットではなく、Nousは「生きている、呼吸する脳」**のように機能します。
その仕組みを、簡単な比喩を使って説明します。
1. コアとなる考え方：保存ではなく「予測」
著者たちは、人間の記憶とは過去の完璧な書き起こしを保存することではないと主張しています。記憶とは、次に何が起こるかを予測するための**「世界のモデル」**を持つことです。
- 従来の方法： 「『プラナブはGoogleで働いている』というデータベースの記録を持っている」
- Nousの方法： 「私はプラナブの仕事についてのメンタルイメージを持っている。今、私は彼がGoogleで働いている可能性が87%、Amazonである可能性が8%、そして分からない可能性が5%だと考えている」
2. 学習方法：「驚き」のメーター
AIが新しいことを耳にするたびに、AIは自分のメンタルイメージと、今聞いた内容を照らし合わせます。
- 驚きが低い場合： AIが「プラナブはコーヒーが好き」と考えていて、あなたが「プラナブはコーヒーが好き」と言った場合、AIは「なるほど、私の推測と一致している」と言います。これでは大きな変化はありません。
- 驚きが高い場合： AIが「プラナブはコーヒーが好き」と考えているのに、あなたが「プラナブはコーヒーが嫌いだ」と言った場合、AIはショックを受けます。論文では、これを「驚き（surprise）」と呼んでいます。
- 更新： 単に新しい事実を書き留めるのではなく、AIは数学的にメンタルイメージをシフトさせます。「コーヒー好き」の部分が縮小し、「コーヒー嫌い」の部分が拡大します。AIは単なる新しい事実ではなく、自分の心がどれほど変化したかを記憶するのです。
3. 忘却：「消えゆく残響」
データベースでは、古いファイルを手動で削除する必要があります。しかし、Nousにおける忘却は、広い部屋の中で音が消えていくように自然に起こります。
- もしAIがある特定の事実について長い間耳にすることがなければ、その事実に対する確信度は、ゆっくりと「全く分からない」という状態へと漂っていきます。
- 論文ではこれを**「エントロピー減衰（entropy decay）」**と呼んでいます。これは、もしゴムバンドを引っ張らなければ、次第に張力を失っていく様子に似ています。記憶を強化し続けなければ、それは自然にぼやけ、不確実なものになります。
4. 矛盾の解決：「デルタ（差分）」
AIが心を更新するとき、単に古いファイルを上書きするわけではありません。AIは**「デルタ（Delta）」**（変化を表す際によく使われるギリシャ文字）を保存します。
- デルタを、「火曜日、私はプラナブがGoogleで働いていると考えていた。その後、彼がAmazonに移ったと聞いたので、私の信念をシフトさせた」と記された日記の一節だと考えてください。
- これにより、AIは単なる静的な事実のリストではなく、どのように学んできたかという履歴を保持することができるのです。
5. リストの処理（「集約」のトリック）
一つ難しい部分があります。もしあなたが「プラナブはどこに行ったことがありますか？」と尋ねた場合、単純な「最善の推測」モデルは、最も可能性の高い答えである「パリ」だけを答えるかもしれません。しかし、あなたが必要としているのは、すべての場所のリストです。
- 解決策： Nousは、新しい場所によって「驚かされた」すべてのタイミングを特別なログとして保持しています。リストを求められたとき、AIはそのログを掘り下げて完全な履歴を提示しつつ、単純な質問に対しては「最善の推測」を維持します。
結果：どの程度うまく機能するか？
著者たちは、長時間の会話と多くの質問を含むベンチマークであるLoCoMoを用いて、Nousのテストを行いました。彼らは、GPT-4o-miniを使用した他のシステム（A-MEMやBeliefMemなど）と比較しました。
- スコア： Nousは、4つのカテゴリのうち3つ（Single-hop、Multi-hop、Open-domain questions）において、他のシステムよりも有意に高いスコアを記録しました。
- 比較： また、非常に似た「信念ベース」のアイデアを持つ別のチームが構築したシステムであるBeliefMemとも比較しました。両チームが報告した数値に基づくと、Nousが先行していました。
- 注意点： 著者たちは非常に正直です。質問の仕方や回答の採点方法が両チームでわずかに異なるため、BeliefMemとの比較は完全な「リンゴとリンゴの比較（公平な比較）」ではないと認めています。彼らは将来、より厳格なサイド・バイ・サイドのテストを実施する予定です。
まとめ
Nousは、知識を「事実（確定した記録）」としてではなく、「確率（良くなったり悪くなったりする推測）」として扱うAIメモリシステムです。
- 驚きを測定することで学習します。
- 不確実性が増大することで忘却します。
- ファイルを削除する代わりに確率をシフトさせることで、矛盾を解決します。
論文では、このアプローチにより、大規模な外部データベースを必要とすることなく、長い会話の記憶、矛盾の処理、および複雑な質問への回答において、AIがより優れた性能を発揮できると主張されています。これは、現在も改良が進められている新しいオープンソースツールとして提示されています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。