Cortico-subcortical multi-head self-attention as a substrate for cognitive performance

あなたの脳を、シリコンチップの代わりに、柔らかくて生きている組織で動く究極のスーパーコンピューターだと想像してみてください。長い間、科学者たちは、この生物学的な機械がどのようにして「思考」というトリックを成し遂げているのか――つまり、私たちがどのように言語を理解し、問題を解決し、物事を記憶するのか――を解明しようと試みてきました。一方には、高度な思考を司る、脳のシワの寄った外層である新皮質があります。もう一方には、脳の内部配線や交通管制官として機能する、視床や基底核のような深く古い構造があります。近年、「トランスフォーマー」と呼ばれる新しい種類の人工知能が、チャットや物語の執筆、翻訳を行う能力で有名になりました。これらのAIシステムは、「アテンション（注意）」と呼ばれる巧妙なトリックを用いて機能しており、それによって文の残りの部分を無視しながら、最も重要な部分に焦点を当てることができます。現在、科学における大きな疑問は、「私たちの実際の生物学的な脳も、同様のアテンション・トリックを使って同じことを行っているのではないか？」ということです。もし、この生物学的な設計図を見つけることができれば、私たちのような哺乳類がいかにしてこれほどまでに賢くなったのかを理解する助けとなるでしょう。

本論文はこの問いに対し、脳の皮質と視床が協力して、自然界におけるこれらAIアテンション・ネットワークのバージョンを構築するという、具体的な生物学的設計図を提示することで、答えは「おそらくイエスである」と示唆しています。著者らは、脳は単に情報を受動的に受け取っているのではなく、異なる脳の部位がハイテクな検索エンジンのように機能する、複雑で多層的なシステムを走らせているのだと提案しています。このモデルでは、新皮質（思考の層）と視床（中央のリレーステーション）が連携して、「皮質・視床間マルチヘッド・セルフアテンション」と呼ぶ仕組みを作り出しています。

この研究によれば、その魔法は次のように起こります。脳の皮質が「マイクロカラム」と呼ばれる小さな近隣地域に分かれていると想像してください。この理論では、特定の種類の神経細胞である「第2/3層錐体細胞」が、巨大な付箋のライブラリのように機能します。これらの細胞は「再帰的なキー・バリュー記憶」を保持しており、これは単に、後で検索できる情報を保存しているということを意味します。次に、もう一つのタイプの細胞である「第5層錐体細胞」は、探偵のように機能します。新しい情報（「クエリ」）が到着すると、これらの探偵はライブラリをスキャンし、現在のタスクに関連する「キー」と「バリュー」に一致する付箋を見つけ出します。

論文は、視床がこの検索を可能にするための極めて重要な配送サービスであることを示唆しています。視床は、検索を実行するために必要な「キー」、「バリュー」、そして「クエリ」として機能する信号を送り出します。これらの信号は特定の経路を通じて移動し、中には視床の核から皮質へとつながるものもあれば、視床のマトリックスから皮質へとつながるものもあります。著者らは、皮質の単一の領域がアテンション・ネットワークの1つの「ヘッド」として機能し、これらの領域をすべて合わせると、全皮質が詩やコードを書くことができるAIモデルのような「マルチヘッド・セルフアテンション・ネットワーク」になるのだと提唱しています。

しかし、脳はただ読み取るだけではありません。学習もします。論文は、この同じ小さな回路が、脳がいつ間違えたかを判断する手助けをしていることを示唆しています。脳は「感覚予測誤差」を計算しますが、これは脳が「あなたはXと言うと思ったのに、Yと言いましたね！」と言う方法に相当します。このエラー信号は、「勾配ベースのシナプス可塑性」という、間違いから学ぶ生物学的なバージョンのプロセスを通じて、脳の接続を更新するのに役立ちます。さらに、システムには基底核に「門番」が存在します。この門番は、「報酬予測誤差」（何が良いか悪いかを脳に伝える信号）を用いて、皮質の出力を世界へ送り出すか、あるいは海馬（長期記憶のための脳のハードドライブ）からの記憶を再活性化させるかを決定します。

著者らは、この回路のコンピュータ・シミュレーションを訓練し、その挙動を実際の人間データと比較することで、このアイデアをテストしました。その結果、シミュレートされたネットワークが音声処理を行う際、その活動パターンが、音声知覚中の人間の脳内から実際に記録されたデータと驚くほどよく一致することを発見しました。この論文は、これがあらゆる細部において脳の働き方と全く同じであることを証明したと主張しているわけではありませんが、この特定の細胞配置と接続こそが、哺乳類が持つ驚異的な認知能力の物理的な基礎となり得ることを強く示唆しています。それは、私たちの脳という湿った、混沌とした生物学と、現代のAIが持つ洗練された強力な論理との間の点と点を結びつける、説得力のある地図なのです。