🧬 biology

The Variance Brain Foundation Models Forgot: Third-Order Statistics Predict Cognition Where Billion-Parameter Models Fail

現在の脳基盤モデルは、その規模にもかかわらず、事前学習の目的が重要な三次統計構造（共歪度）を破棄しているために認知パフォーマンスを予測できていないが、この限界は、これらの高次特徴を明示的に保持することで、既存のモデルや標準的な機能的結合のベースラインを凌駕する、事前学習を必要としない単純な線形パイプラインによって克服可能である。

原著者： Giovanni Marraffini, Gabriel Mahuas, Trinidad Borrell, Victoria Shevchenko, Demian Wassermann

公開日 2026-06-04

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Giovanni Marraffini, Gabriel Mahuas, Trinidad Borrell, Victoria Shevchenko, Demian Wassermann

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ⚕️ これは査読を受けていないプレプリントのAI生成解説です。医学的助言ではありません。この内容に基づいて健康上の判断をしないでください。免責事項の全文を読む

ビッグピクチャー：「本質を見失った」スマートな脳モデル

想像してみてください。あなたは、脳の仕組みに関するあらゆる教科書を読み込んだ、超天才的な学生（脳基盤モデル）を雇いました。あなたは彼にテストを出します。「この脳スキャンを見て、この人の知能がどれくらいかを答えなさい」。

この学生は、巨大で複雑、かつ膨大なデータで訓練されているため、テストで満点を取るはずだとあなたは期待します。しかし、実際には彼は惨敗します。ただ生の脳スキャンデータを眺めるだけの、古臭くて単純な電卓（線形回帰）の方が、実はずっと高いスコアを出してしまうのです。

さらに奇妙なことに、研究者たちがこの「スマートな学生」をより大きく、より強力にすればするほど、テストの結果はさらに悪化してしまいました。

この論文は、なぜそうなったのか、そして彼らがどのようにそれを解決したのかを説明しています。

1. 問題点：間違った「ノイズ」に耳を傾けている

脳スキャン（fMRI）を、賑やかな街路の録音だと考えてみてください。

ノイズ： 録音には、バスの走行音（心拍）、風の音（呼吸）、足音（頭部の動き）といった、大きく分かりやすい音が支配的です。これらが「支配的な」音です。
信号（シグナル）： 実際の会話（認知的な思考）は、静かで微細なものです。それは、3人以上の人々が同時に話し合う際の、複雑でリズムのあるパターンの中に隠れています。

AIがやったこと： AIモデルは、録音を「再構成」するように訓練されました。彼らの目標は、出力が入力と全く同じ音になるようにすることでした。バスの走行音（心拍や呼吸）があまりにも大きく、静かな会話よりもずっと大きかったため、AIはノイズをコピーすることに特化してしまいました。AIはバスの走行音を完璧に予測するエキスパートになりましたが、静かな会話については完全に無視してしまったのです。

結果： AIモデルは「ノイズ」をコピーすることに熱中しすぎて、「信号」を忘れてしまいました。彼らは、データの派手で退屈な部分に集中しすぎたために、人間の認知を予測することに失敗したのです。

2. 「逆スケーリング」のパラドックス

通常、AIの世界では、モデルを大きくする（脳のパワーを与える）ほど、賢くなります。

論文の発見： ここでは、その逆が起きました。研究者たちは、「小さな」AI（1億1100万パラメータ）と「巨大な」AI（6億5000万パラメータ）をテストしました。
ひねり： 巨大なAIの方が、認知の予測において小さなAIよりも成績が悪かったのです。
なぜか？： 巨大なAIは、うるさいノイズをコピーすることにおいて、さらに「優秀」になってしまったからです。心拍や呼吸を記憶するための容量が増えたことで、それらが微細な認知信号をより効果的にかき消してしまったのです。それはまるで、交通騒音だけを増幅し、会話をかき消してしまう、超高精度な巨大マイクを雇ったようなものです。

3. 解決策：「高次（第3次）パターン」を見る

研究者たちは、人間の思考は単に2つの脳領域が互いに話し合っているだけ（標準的な脳スキャンが通常測定するもの）ではなく、3つの領域が特定の複雑な方法で同時に相互作用しているものであることに気づきました。

比喩：
- 2次（標準的）： アリスとボブという2人の友人が話している。二人がどれくらい話すかを測定できます。
- 3次（秘訣）： アリス、ボブ、チャーリーの3人が部屋にいます。面白いのは、単にアリスがボブに話しかけていることではありません。アリス、ボブ、チャーリーの3人が同時にジョークに対して反応する、その特定の瞬間なのです。この複雑な「三者間の相互作用」の中にこそ、「思考」が宿っています。

標準的なAIモデルは、この「3次」の相互作用に対して盲目でした。なぜなら、彼らの訓練方法（生の音をコピーしようとすること）が、この相互作用を破壊してしまうからです。

4. 修正案：「デノイジング・フィルター（除去フィルター）」

研究者たちは、より大きなAIを作る代わりに、シンプルで巧妙なフィルターを作ることにしました。

手法： 彼らは**タッカー分解（Tucker decomposition）**と呼ばれる数学的手法を用いました。これは、うるさいバスの音や風の音をフィルタリングして、複雑な「三者間の会話」だけを残してくれる、特別なメガネのようなものです。
結果：
1. 生の脳データを取り出した。
2. この「3次フィルター」を通した。
3. このフィルター内の空間における「つながり」を測定した。
4. ドカン： このシンプルな非AI的手法が、あらゆる巨大な事前学習済みAIモデルよりも、人間の認知を正確に予測しました。スーパーコンピュータや高価な訓練を必要とせず、この手法は分野におけるこれまでの最高記録を塗り替えたのです。

5. 「ファインチューニング（微調整）」の奇跡

研究者たちはこう問いかけました。「この『見える』ように、巨大なAIを教え込むことはできるだろうか？」

彼らは巨大なAIを取り上げ、新しい宿題を与えました。単に「音をコピーしろ」と言うのではなく、「音をコピーしろ。ただし、複雑な三者間の会話を壊さないように注意せよ」と命じたのです。

結果： これを行ったところ、AIは突如として、あのシンプルなフィルターと同じくらい優秀になりました。AIはテストに失敗する状態から、満点を取るレベルへと進化しました。
教訓： AIは「バカ」だったわけでも、「小さすぎた」わけでもありません。単に、間違った目的で訓練されていたのです。問題はアーキテクチャ（モデルの脳）ではなく、**目的（何を学ぶべきかという指示）**にありました。

主な要点のまとめ

大きいことは必ずしも良いとは限らない： 脳モデリングにおいては、AIを大きくすることは、単に「ノイズ（心拍や動き）」をコピーする能力を高め、「信号（思考）」を見つける能力を低下させることにつながりました。
信号は複雑さの中に隠れている： 人間の認知は、複雑な三者間の相互作用（3次統計量）の中に存在しており、標準的なAIの訓練方法は、それを誤って削除してしまいます。
シンプルさは強力である： これらの複雑な相互作用に焦点を当てたシンプルな数学的フィルターは、数十億のパラメータを持つAIモデルよりも優れた結果を出します。
目的が最も重要である： もし、AIに対して「何を見るべきか」という正しい教え方（これらの複雑な相互作用を保持すること）をすれば、標準的なモデルであっても、最先端の巨大なモデルを凌駕することができるのです。

一言で言えば： 研究者たちは、スマートなAIモデルたちが、会話を聞く代わりに交通騒音に耳を奪われすぎていることを発見しました。交通騒音を消音し、複雑なグループ会話を増幅させるフィルターを作ることで、彼らは、いかなる巨大なAIモデルよりも正確に人間の思考を予測する方法を見つけ出したのです。

技術要約：脳基盤モデルが忘却した分散

問題提起
脳基盤モデル（Brain Foundation Models; BFMs）は、認知パフォーマンスを予測するために、脳活動の豊かな表現を学習することを目的として、fMRIデータを用いて自己教師あり学習を行ったTransformerである。支配的な仮説では、ペアワイズな相関を超えた複雑な相互作用をモデリングする能力を持つ深層Transformerは、古典的な機能的結合（Functional Connectivity; FC）のベースラインを上回るはずであるとされている。しかし、本論文は、現在の最先端のBFM（具体的にはBrainLM、Brain-JEPA、BrainMass）が、認知予測に必要な分散を捉えることに失敗していることを示している。むしろ、これらは単純な生のFC行列に対する線形回帰（約8万パラメータ）よりも性能が低い。さらに、本論文は「逆スケーリング」現象を特定しており、より大きなモデル（例：BrainLMの650Mパラメータ）は、より小さなモデル（111Mパラメータ）よりも性能が悪化している。これは、容量の増加が、タスクに関連する構造ではなく、支配的な非認知的ノイズを適合させることに浪費されていることを示唆している。

手法
著者らは、Ooiら[2022]に基づく厳格な評価プロトコルを採用し、2つのデータセット（AOMIC-ID1000 [N=876] および HCP [N=955]）に対して、反復ネストされた交差検証（20回の反復 × 10分割）を用いている。

累積モーメントによる統計分析： 本論文は、解析を結合累積量展開を用いて構成している。
- $\kappa_2$ （2次）： ペアワイズの共分散を表す（標準的なFC）。
- $\kappa_3$ （3次）： 三次の共歪度（co-skewness）を表し、FCでは不可視な非ガウス構造を捉える。
  著者らは、どの統計的次数が保持されているかを判断するために、BFMの再構成を分析している。その結果、 $\kappa_2$ は部分的に保持されているものの、 $\kappa_3$ は平均二乗誤差（MSE）による事前学習目的関数によって大きく破壊されていることが判明した。この目的関数は、シナジー的な認知信号よりも、高分散な生理学的ノイズ（心拍、呼吸、体動）を優先してしまう。
提案される線形パイプライン（Tucker分解）： 深層学習を用いずに失われた $\kappa_3$ 構造を回収するために、著者らは以下の線形パイプラインを提案する。
- 学習データから経験的な三次の共歪量テンソル（ $S \in \mathbb{R}^{P \times P \times P}$ ）を計算する。
- Tucker分解（高次SVD）を実行し、三次構造を最大化する低ランク空間部分集合（ $U$ ）を抽出する。
- 生のROIタイムシリーズをこの部分空間に投影する。
- この $\kappa_3$ に情報に基づいた部分空間内でFCを計算する。
- これらの特徴量をカーネルリッジ回帰（KRR）予測器に投入する。
ファインチューニング戦略： ボトルネックがBFMのアーキテクチャ自体にあるのか、それとも単に事前学習の目的関数にあるのかをテストするため、著者らは「デュアルモーメント（dual-moment）」損失を用いてBrainLMをファインチューニングしている。この損失は、生の信号だけでなく、最適な $\kappa_3$ -Tucker部分空間内で計算されたFCとも整合させるものであり（Log-Cholesky距離指標を使用）、再構成を一致させる。

主な結果

BFMの性能不足： Ooiらのプロトコル下では、3つのBFMすべてが無視できる程度の認知予測スコア（ピアソン $r \approx 0.00$ ～ $0.18$）を示し、生のFCベースライン（ $r \approx 0.31$ ～ $0.39$）よりも大幅に劣っている。
逆スケーリング： BrainLMファミリーにおいて、650Mモデルは111Mモデルよりも認知予測の性能が悪く、パラメータをスケールアップしても目的関数を変更しなければ、失敗（認知的な分散の捕捉失敗）が悪化することを裏付けている。
累積量保持の失敗： BFMの再構成分析によれば、 $\kappa_2$ の誤差は中程度（相対誤差29–47%）であるが、 $\kappa_3$ の誤差は壊滅的（NMSEが入力エネルギーの2.6–6.2倍）であり、モデルが認知に関連する情報が存在する特定の統計的次数を破棄していることを示している。
Tucker部分空間の優位性： 提案された線形パイプライン（ $\kappa_3$ $κ_{3}$ に最適なTucker部分空間内で計算されたFC）は、安静時fMRIの認知予測における新たな最先端（SOTA）を確立した。これは、事前学習やGPUを必要とせずに、生のFCやすべての事前学習済みBFMを上回る。
- HCP Schaefer-400において、この手法は $r = 0.571 \pm 0.089$ を達成し、従来のSOTA（例：主成分勾配の $r = 0.520$ ）を凌駕した。
ファインチューニングによる回復： 累積量に基づいた損失（デュアルモーメント）を用いてBrainLMをファインチューニングすると、再構成に基づくFC予測は、生のFCの天井値（HCPにおいて $r \approx 0.39$ 、ベースラインと一致）を回復した。これは、ボトルネックがアーキテクチャやモデルサイズではなく、事前学習の目的関数にあることを証明している。
埋め込みの失敗： 再構成出力の成功にもかかわらず、BFMのCLS埋め込みはファインチューニング後も予測力がほぼゼロのままであり、潜在的な幾何学構造が事前学習中に固定され、デコーダーレベルの損失によって再編成されていないことを示唆している。

意義と主張
脳基盤モデルの失敗は、容量の不足によるものではなく、再構成ベースの事前学習目的関数に固有の「分散割り当て問題」によるものであると本論文は主張している。これらの目的関数は、支配的な生理学的ノイズ（ $\kappa_2$ ）を優先し、認知を予測する高次のシナジー情報（ $\kappa_3$ ）を破棄してしまう。

著者らは以下の通り論じている：

評価基準： 基盤モデルは、さらなるスケーリングを行う前に、古典的なドメイン知識のベースライン（生のFCなど）に対して評価されなければならない。
明示的な分解： タスクに関連する部分空間が既知である場合（この場合は $\kappa_3$ に最適な部分空間）、明示的な線形分解（Tucker）は、自己教師あり学習を通じて潜在表現を学習することよりも、より簡潔かつ効果的である。
目的関数 vs アーキテクチャ： BFMの性能におけるボトルネックは、モデルのアーキテクチャではなく、事前学習の目的関数である。損失関数を特定の統計的構造（三次の共歪度）に整合させることで、モデル構造を変更することなく性能を回復できる。

本論文は、安静時fMRIにおける認知に関連する構造は、少なくとも三次の累積量に存在しており、この構造を利用した単純なGPU不要の線形パイプラインが、現在、数十億パラメータを持つ基盤モデルを上回っていると結論付けている。