技術的要約:初期視覚野におけるモデルと脳のRSAにおいて、評価解像度が学習ルールの比較を攪乱する
問題提起
NeuroAIにおいて、表現類似性解析(RSA)は、どの学習ルール(例:バックプロパゲーション、フィードバック・アライメント、予測符号化、STDP)が脳に似た視覚表現を生み出すかを判断するために頻繁に使用される。この分野における繰り返される観察結果は、未学習のランダム初期化ネットワークが、訓練されたネットワークと同等、あるいはそれ以上の性能で初期視覚野(V1)の神経応答に一致するというものである。しかし、生物学的に妥当な学習ルールは現在、大規模なデータセットでの訓練においてスケーラビリティに欠けている。そのため、これらのモデルを用いた研究では、通常、低解像度の画像(例:32×32 CIFAR-10)を用いて小さなネットワークを訓練し、その後、高解像度の自然な刺激(例:224 px)に対して記録された脳データと比較する。本論文は、決定的な方法論的混同(コンファウンド)を特定している。すなわち、「未学習ネットワークがV1において優れた性能を示す」という現象は、学習ルールの堅牢な特性ではなく、評価解像度の強い関数であるということである。
手法
本研究では、6つの入力解像度(32, 64, 96, 128, 160, 224 ピクセル)にわたる系統的な「解像度スイープ」を用いて、5つの異なる条件を評価する。
- 学習ルール: バックプロパゲーション(BP)、フィードバック・アライメント(FA)、予測符号化(PC)、スパイク・タイミング依存可塑性(STDP)、および未学習(ランダム)のベースライン。
- アーキテクチャ: 32×32 CIFAR-10で訓練されたカスタム小型畳み込みネットワーク。
- 追加のアーキテクチャ: アーキテクチャの独立性をテストするために、追加訓練なしで評価された事前学習済みImageNetモデル(ResNet-50およびSwin-Tiny)。
- 脳データ: ヒトのfMRI(THINGSデータセット)およびマカク猿の電気生理学データ(Brain-Scoreデータセット)を用いたV1、V2、LOC、IT。
核心となる実験操作は、固定された訓練済みモデルを、様々な解像度の脳刺激に対して評価することである。観察された効果を駆動するメカニズムを分離するため、著者はいくつかの制御実験を実施した。
- 正規化のキャリブレーション: 未学習ネットワークのバッチ正規化統計量を異なる解像度およびデータセットでキャリブレーションする2×2デザインを行い、初期化のアーティファクトを排除した。
- コンテンツとプーリングの分離: 「コンテンツ・コントロール」として、刺激を32 pxにリサイズしてから高解像度にアップサンプリングした。これにより、画像の詳細度は訓練解像度に制限されたまま、プーリングされる位置の数だけが増加し、画像の詳細度とプーリング統計量の効果を分離した。
- 低次制御: ガボールフィルタバンク、生のピクセルRDM、およびグローバルな輝度・色彩統計と比較し、低次レベルの説明を検証した。
- 部分的RSA: 低次リファレンスに対してモデルおよび脳のRDMを残差化し、グローバルな統計量が整合性を駆動しているかをテストした。
主な結果
- 解像度依存的なランキング: V1における学習ルールのランキングは固定されておらず、評価解像度とともに単調に変化する。
- 32 pxの訓練解像度では、未学習ネットワークとバックプロパゲーション訓練ネットワークの差は無視できる(Δρ ≈ 0.000 ± 0.005)。
- 224 px(標準的な評価)では、未学習ネットワークがバックプロパゲーションを大幅に上回る(Δρ = +0.044 ± 0.006)。
- 訓練されたネットワーク(BP, FA, PC, STDP)は、一般に解像度の増加とともに整合性が低下するが、未学習ネットワークの整合性は上昇する。
- 汎用性: この効果は以下において保持される:
- 5つの異なる学習ルール条件。
- 2つの種(ヒトfMRIおよびマカク猿の電気生理学)。
- 全訓練軌跡(224 pxにおける「訓練がV1を劣化させる」という観察は、32 pxで評価すると消失する)。
- 3つのアーキテクチャファミリー(カスタムCNN、ResNet-50、Swin-Tiny。これらは224 pxで訓練されたモデルであっても、低解像度でピークに達する)。
- メカニズムの排除:
- 正規化: 未学習ネットワークのバッチ正規化統計量を調整しても、この効果は排除されなかった。
- 訓練/評価のミスマッチ: 224 pxで訓練されたモデル(ResNet-50, Swin-Tiny)も低解像度で最も高い整合性を示したため、この効果が単に訓練解像度から外れて評価されることによるペナルティではないことが示された。
- 低次統計量: グローバルな輝度類似性はV1の整合性と相関するが、この効果を完全には説明しない。画像あたりの単一のスカラー輝度値(ρ = 0.075)は未学習ネットワークの性能(ρ = 0.076)と一致しており、この特定のV1におけるRSA比較には天井が存在することを示唆している。
- 効果の局在化: 「コンテンツ・コントロール」実験により、この効果はプーリングされる位置の数ではなく、画像の詳細度が訓練解像度を超えたことによって駆動されていることが明らかになった。画像の詳細度を32 pxに制限(アップサンプリング経由)した場合、訓練済みネットワークと未学習ネットワークの性能差は崩壊し、訓練済みネットワークの低下も消失した。
- 安定した学習効果: V1のランキングは解像度に依存するが、より高次の視覚領域では真の学習効果が持続する。LOCにおいて、バックプロパゲーション訓練ネットワークは、すべての解像度において未学習ネットワークを一貫して上回る(Δρ ≈ +0.019)。
意義と主張
本論文は、「未学習ネットワークが初期視覚野においてバックプロパゲーションに匹敵する」という主張は、主に低解像度で訓練されたモデルを高解像度の刺激で評価することによるアーティファクトであると論じている。著者は32 pxが「正しい」解像度であると主張しているのではなく、評価解像度が**効果修飾因子(effect modifier)**として機能し、学習ルールの測定される差異を根本的に変えてしまうことを指摘している。
本研究は、初期視覚野における学習ルールやアーキテクチャの比較においては、評価解像度を制御し、報告しなければならないと結論付けている。観察された依存性は、標準的なメカニズム(正規化、訓練/評価のミスマッチ、または単純な低次統計量)では説明できず、画像の詳細度がネットワークのフィルタとどのように相互作用するかに関連している。これらの知見は、V1における「未学習の優位性」が生物学的な学習に関する根本的な洞察ではなく、方法論的な混同であることを示唆している。また、これらのモデルにおける真の学習効果は、解像度の変化に対して頑健な、より高次の視覚領域(LOC)においてより確実に検出される。