あなたの日常生活を、巨大で見えない物語の書物だと想像してみてください。学校へ歩いて行ったり、コーヒーを飲んだり、家へ帰ったりするたびに、あなたは自分にしか読めない新しい章を書き進めています。長い間、科学者たちは、あなたの過去の章に基づいて次に何をするかを推測できる「スーパー・リーダー（超・読書家）」、つまりコンピュータ・プログラムを構築しようとしてきました。これらのプログラムは、GPSが最短ルートを提案したり、アプリがオフィスの近くのレストランを推奨したりする背後にある「脳」です。しかし、ここにひねりがあります。教科書の内容を理解せずに、ただ丸暗記してしまう学生のように、これらのコンピュータ・プログラムは時として「覚えすぎて」しまうことがあるのです。彼らは人の動きの一般的なルールを学ぶだけでなく、あなたの正確な経路、秘密のたまり場、そして日々のルーチンまで、うっかり丸暗記してしまいます。これは「記憶（memorization）」と呼ばれます。もしコンピュータがあなたの特定の物語をあまりにも正確に覚えてしまうと、巧妙なハッカーがコンピュータに対して「仕事を出た後、何が起こる？」と尋ейしたとき、コンピュータは単に親切心から、あなたの正確な自宅住所を吐き出してしまうかもしれません。

「Secrets Everywhere（至る所に秘密がある）」と題されたこの論文は、著者たちがこれらのスーパー・リーダーを監査するために潜入捜査を行う探偵小説のようなものです。彼らは次を知りたかったのです。「これらのモデルは本当に私たちの秘密を記憶しているのか？ もしそうなら、それは誰の秘密を保持しているのか？」 研究者たちは、これらのモデルが実際に私たちのプライベートな動きを蓄積していることを発見しましたが、それは私たちが考えていた方法とは異なっていました。驚くべきことに、あなたの毎日が退屈でルーチン化されているほど、コンピュータはそれを記憶する可能性が高くなるのです。街中をあちこち歩き回る「スカウター（探索者）」であれば、コンピュータはあなたを忘れます。しかし、毎日決まった時間に同じジムへ行くような「ルーティナー（習慣保持者）」であれば、コンピュータはあなたのあらゆる足跡を、恐ろしいほどの精度で記憶します。著者らはまた、従来の秘密をチェックする方法では位置データには通用しないことを発見し、コンピュータがどれほどあなたの人生を盗んでいるかを正確に測定するための、新しい一連のツールを考案しました。

探偵の道具箱：なぜ古いルールは機能しなかったのか

この論文の大きな発見を理解するために、まず科学者が通常どのように記憶をチェックするかを見ておく必要があります。エッセイを書いたりチャットをしたりする言語モデル（LLM）の世界では、研究者は「エクスポージャー（露出）」と呼ばれるトリックを使います。訓練データの中に、架空のランダムな文章（例えば、作り物の電話番号など）をこっそり紛れ込ませます。もし後で、問いかけに対してコンピュータがその全く同じ偽の番号を吐き出したとしたら、それはコンピュータがそれを丸暗記したサインとなります。これは、偽の電話番号はデタラメなものだからです。コンピュータは、それを丸暗記していない限り、それを知っているはずがないからです。

しかし、著者らはこのトリックが人間の移動に関しては無残に失敗することに気づきました。なぜでしょうか？ 現実の世界には、「偽の」動きなど存在しないからです。人が通るすべての経路は現実であり、すべての経路がセンシティブなものです。モデルをテストするためにランダムな「秘密」の経路を捏造することはできません。なぜなら、ランダムな経路はコンピュータにとって意味不明なものに見える可能性があり、それによって区別が容易になってしまうからです。真の危険は、コンピュータが「極めて正常に見える、本物の経路」を丸暗記してしまうことにあります。著者らは、移動モデルにとっての「秘密」とは、モデルが予測に優れるために学ぶべきものそのものであると主張しています。それは、文法のルールを学ぶべき教師が、誤ってあなたの特定のダイアリーの記述を丸暗記してしまうようなものです。

新しいフレームワーク： 「メモリ・リーク（記憶漏洩）」を測定する

これを解決するために、著者らはこれらのモデルを監査するための新しいフレームワークを構築しました。偽の秘密を探す代わりに、彼らはモデルが、似たような他の経路よりも「あなたの」特定の経路を好むかどうかを確認するシステムを作りました。彼らはこれを3つのレベルの「リーク（漏洩）」に分類しました。

1. 場所の記憶（Location Memorization）: モデルはあなたの家の正確な座標を覚えているか？
2. アンカー・ペアの記憶（Anchor-Pair Memorization）: モデルはあなたの自宅と職場の間の特定のつながりを覚えているか？
3. セグメントの記憶（Segment Memorization）: モデルはバス停からコーヒーショップへ行くための、あの小さく具体的なルートを覚えているか？

これをテストするために、彼らは単に推測したわけではありません。「リファレンス・セット（参照集合）」を作成しました。あなたがモデルであると想像してください。そして、あなたの日常のルートの写真を見せられます。次に、他の人々のものである、見た目はほぼ同じ（距離も時間帯も同じ）だが異なる100個のルートの写真を見せられます。もし、あなた（モデル）が「ああ、これなら完璧に知っている！」と言い、他の99個よりもはるかに高い信頼度スコアをそのルートに与えたとしたら、あなたはそれを丸暗記しています。

判明した事実：退屈な人々が最も脆弱である

研究者たちは、上海、深圳、および日本からの数百万件の移動記録を含む3つの大規模なデータセットを用いて、新しいツールをテストしました。彼らは、単純なものから複雑なディープラーニング・システムに至るまで、いくつかの異なるタイプのモデルを訓練しました。以下に判明した内容を記します。

1. 記憶は至る所に存在する:
モデルは間違いなく記憶していました。いくつかのケースでは、最大で**85%の訓練経路が強い記憶の兆候を示していました。これは単なる例外的な事象ではなく、広範囲にわたる問題でした。次の場所を予測する能力が非常に高い（精度が時には90%**を超える）モデルであっても、学習した経路の正確な詳細を密かに保存していました。

2. 「ルーティナー」のパラドックス:
最も驚くべき発見は、誰が記憶されていたかということです。著者らはユーザーを3つのタイプに分類しました。

• ルーティナー（Routines）: 非常に予測可能で反復的な生活を送る人々（定常性が高く、多様性が低い）。
• レギュラー（Regulars）: ルーチンはあるものの、ある程度の変化がある人々。
• スカウター（Scouters）: 街中を徘徊し、予測不能な経路を持つ人々。

モデルはルーティナーを好みました。実際、あるデータセットでは**99.4%**の軌跡がポジティブな記憶信号を示しており、これらは主に予測可能なユーザーによるものでした。毎日同じ場所へ行く人のパターンを学習するのはモデルにとって容易であり、そのため正確な詳細を保存してしまったのです。逆に、スカウターを記憶するのははるかに困難でした。彼らの経路はあまりにも混沌としているため、モデルは詳細を丸暗記するのではなく、一般化（一般的な概念を学習すること）せざるを得なかったのです。

3. 「アンカー」効果:
モデルは特に「アンカー・ペア」、つまり自宅と職場のような主要な2地点間のつながりを覚えるのが得意でした。もし誰かの自宅を知っていれば、モデルはその人の職場を正確に予測できることが多く、それはモデルがその特定のペアを記憶していたためです。

4. 小さな変化が大きな違いを生む:
著者らはまた、モデルのデザインも重要であることを発見しました。例えば、非常に小さな「記憶（隠れ状態）」（わずか10ユニット）しか持たないGraph-Flashbackというモデルをテストしました。小さなモデルなら物事を忘れるだろうと考えるかもしれませんが、実際には膨大な「テイル（裾野）」の記憶を示し、露出スコアが469.15に達するものもありました。これは、注意深く設計されていなければ、単純なモデルであっても危険であることを示唆しています。

真の危険：秘密を盗むのは容易である

最後に、論文は恐ろしい問いを投げかけました。「もしモデルが記憶していたとしたら、ハッカーは実際にそれを盗めるのか？」 彼らは、ある人物の一日の断片的な知識（朝のルーチンなど）を知っている攻撃者をシミュレートし、残りの部分を推測させました。その結果、明確な関連性が見つかりました。モデルが経路をどれだけ記憶していたか（「マグニチュード」スコアで測定）が多いほど、攻撃者が一日の行程全体を再構成するのが容易になるのです。

ある実験では、記憶スコアが高いユーザーの場合、攻撃者が一日の残りの行程を特定するために必要な推測回数が大幅に少なくなることが分かりました。それは、泥棒が「あなたはいつも午前8時に家を出て、同じベーカリーへ歩いていく」と知っているようなものです。泥棒は、あなたが次にどこへ向かっているのかを推測する必要はありません。モデルの「記憶」が、泥棒に答えを与えてしまうのです。

結論

この論文は単に「プライバシーは重要だ」と言っているだけではありません。モビリティ・アプリにおいて、どれほどのプライバシーが失われているかを測定する、最初かつ体系的な方法を提示しています。著者らは、記憶はバグではなく、これらのモデルが学習する際の「機能（フィーチャー）」の一部であり、そしてそれは最も予測可能な生活を送る人々に最も多く起こると結論付けています。彼らは、これらのモデルを実世界に展開する前に、どのユーザーがリスクにさらされているかを確認するために、これら新しい「プライバシー監査」を実行すべきであると提言しています。もし行わなければ、私たちは日々の秘密を、あまりにも熱心に覚えようとするコンピュータに手渡してしまうことになるかもしれません。