Exploring Geographic Relative Space in Large Language Models through Activation Patching

超賢いロボットが物語を書いたり、質問に答えたり、ほぼ何でも話せると想像してみてください。これらを**大規模言語モデル（LLM）**と呼びます。しかし、問題があります。私たちが本当にそのロボットが「どのように」考えているのかはわからないのです。質問を入力し、答えが出力されるブラックボックスのようなもので、内部の歯車は隠されています。

この論文は、そのブラックボックスの中を覗き込み、特にロボットが地理（「近い」と「遠い」の違いなど）をどのように理解しているかを確認しようとする探偵チームのようなものです。

探偵の道具：「アクティベーションパッチング」

ロボットがどのように機能するかを解明するために、研究者たちはアクティベーションパッチングという道具を使用します。ロボットの世界を、何百もの作業者（層）がメッセージをラインを下に渡していく巨大な工場の組立ラインだと考えてみてください。

研究者たちのトリックは、組立ラインの特定の地点でメッセージを差し替えることです。

1. クリーンなシナリオ: ロボットに「ロンドンはどこにありますか？」と尋ねると、「ロンドンは都市の近くにあります」と答えます（これが「クリーン」な思考です）。
2. 汚染されたシナリオ: 「ロンドンはどこにありますか？」と尋ねますが、今回はロボットに距離について考えさせます。例えば、「ロンドンは都市から500 マイル離れています」と考えさせます（これが「汚染」された思考です）。
3. 差し替え: ここで、ステップ 1 の「クリーン」な思考を取り出し、ステップ 2 の「汚染」された質問を処理している最中に、それをロボットの世界に密かに差し込みます。

もしロボットが突然「500 マイル」ではなく再び「近く」について話し始めたら、研究者たちは「近い」という概念を理解しているのが工場のどの作業者（または層）なのかを正確に特定できます。差し替えが何の効果ももたらさない場合、その作業者は地理には関心がないということです。

実験：「近い」対「遠い」

チームは、249 の異なるイギリスの都市を使用して、特定のロボットモデル（Gemma 2 2B）でこれをテストしました。彼らは、ロボットが「5 マイル」「10 マイル」「1000 マイル」といった具体的な距離と比較して、「近く」という言葉をどのように処理するかを確認したかったのです。

彼らは小さなつまずきに気づきました。「近く」は 1 つの単語ですが、「500 マイル」は 3 つの単語です。レゴのブロック 1 個をレゴの塔全体と差し替えようとしているようなものです。研究者たちは追加の単語を加えてこれを修正しようと試みましたが、それではあまりにも混乱してしまうため、単純な差し替えを行い、わずかな不一致を受け入れることにしました。

彼らが発見したもの

これらの差し替えの間、ロボットの世界が光る様子を観察することで、彼らはいくつかの興味深いパターンを発見しました。

• 「数字」ゾーン: ロボットが数字（「200 マイル」の「200」という単語など）を読み終わった直後の脳活動を入れ替えると、ロボットは距離のことを完全に忘れ、「近く」について考え始めました。どうやらロボットには、数字を処理するために専ら割り当てられた特定の場所があるようです。
• 「距離」ゾーン: 「〜からマイル」という言葉の活動を入れ替えると、その効果はより散漫でした。これは、「相対的な空間」（物同士がどれくらい離れているか）という考え方が、ロボットの脳内の単一の場所ではなく、多くの異なる部分に広がっていることを示唆しています。
• 大きな距離ほど重要: ロボットは、小さな距離に比べて、数百マイルといった巨大な距離に対してはるかに強く反応しました。どうやらロボットは「1000 マイル」と「5 マイル」を非常に異なって扱っているようです。
• 「100」と「1000」の癖: 興味深いことに、ロボットは「100 マイル」と「1000 マイル」という表現に少し混乱していました。これらの場合、差し替えはあまりうまく機能しませんでした。研究者たちは、これがロボットがこれらの大きな丸い数字を正確な測定値というよりは、曖昧な概念として扱っているか、それらに対しては異なるメンタルマップを使用しているからではないかと考えています。

結論

この論文は、まだこれらのロボットをナビゲーションや都市計画にどのように使用するかを教えているわけではありません。代わりに、これは基礎的な研究です。それは大規模言語モデルが地理を理解する方法を持っていることを示していますが、それは脳の異なる部分が協力して機能する複雑なネットワークです。

この「手術」（アクティベーションパッチング）を使用することで、研究者たちは、ロボットがどこで混乱するか、あるいは「近い」と「遠い」の違いをどこで理解するかを正確に特定できることを証明しました。これは、これらの AI ツールを実世界の地理的タスクに任せる前に、それらが安全で信頼できるものであることを確認するための重要な第一歩です。