技術要約：視覚言語モデルにおける表現の失敗の幾何学

1. 問題提起

視覚言語モデル（VLM）は、物体の数え間違い、属性と物体の結合の混乱（例：形状に対して誤った色を割り当てる）、および「錯覚結合（illusory conjunctions）」の生成といった、マルチオブジェクトの視覚タスクにおける系統的な失敗を示す。これらのエラーは、人間の認知における限界である「結合問題（Binding Problem）」を反映しているが、人工システムにおいてこれらを駆動する内部メカニズムは、依然として十分に理解されていない。

本論文は、これらの失敗が単なる振る舞いのアーティファクトではなく、**幾何学的表現の干渉（geometric representational interference）**に起因すると仮定している。VLMが共有する高次元の潜在空間において、異なる概念（例：「赤」と「正方形」）をエンコードするベクトルは、複数の物体が同時に処理される際に重なり合ったり、衝突したりする可能性がある。逐次的な注意を用いる生物学的視覚とは異なり、現在のVLMは単一のフィードフォワード・パスですべての概念を解決しなければならないため、表現が十分に直交していない場合、避けられない特徴量の混合が生じる。

2. 手法

著者らは、オープンウェイトVLM（具体的にはQwen2.5-VL、InternVL2.5、Gemma 3）の表現幾何学を抽出し、検証し、分析するためのフレームワークを提案している。

A. 概念ベクトルの抽出

本研究では、視覚的特徴（色、形状、およびそれらの結合）をエンコードする「概念ベクトル（$v_c$）」を蒸留するための2つの主要な手法を比較している。

1. プローブベースの手法（Probe-Based Method）: 特定の概念の存在または不在を区別するための線形分類器（アテンション・プローブ）を学習させる。学習されたアテンション・ベクトルが候補となる概念ベクトルとなる。
2. セントロイドベースの手法（Centroid-Based Method）: 特定の概念を含む画像からのトークン埋め込みのセントロイド（重心）を計算し、その後、このセントロイドをグローバルな活性化平均に対して直交する部分空間に投影することで、概念固有の信号を分離する。
3. 構造的正則化（PCA-Probe）: プローブが「識別的なショートカット」を学習する可能性に対処するため、著者らはプローブ・ベクトルに主成分分析（PCA）を適用する。これにより、ベクトルが想定される概念の因子構造（例：色と形状の軸の分離）に沿うよう強制し、幾何学的な正則化器として機能させる。

B. 活性化ステアリングによる因果的検証

抽出されたベクトルが単なる相関ではなく、因果的に活性化していることを検証するために、著者らは**活性化ステアリング（activation steering）**を採用している。

• メカニズム: 概念 $A$ を含む画像に対し、概念 $A$ に整列した活性化ベクトルの成分を減算し、概念 $B$ に整列した成分を注入する。
• 介入: $h'_t = h_t - (h_t^\top \hat{v}_A)\hat{v}_A + (h_t^\top \hat{v}_A)\hat{v}_B$
• 指標: 成功の判定は、無関係な視覚情報を破壊することなく、モデルの出力が $A$ の記述から $B$ の記述へとシフトするかどうか（例：赤い花を青いと認識させる）によって測定される。

C. 幾何学的分析

著者らは、概念ベクトル間のコサイン類似性を分析して、表現多様体（representational manifold）をマッピングしている。以下の事項を調査している：

• 構成的構造（Compositional Structure）: 色と形状の結合が、独立した色と形状の軸へと分解されるかどうか。
• 意味的構造（Semantic Structure）: 連続的な色の空間（100の色相）の幾何学を分析し、「アコーディオン効果」（カテゴリ内での圧縮とカテゴリ間での分離）を特定する。
• エラーとの相関: ターゲットとディストラクタ（妨害対象）のベクター間の幾何学的重なり（コサイン類似度）を、視覚探索および類似性推定タスクにおけるモデルの精度と結びつける。

3. 主な結果

A. 抽出手法の有効性

• セントロイドの優位性: セントロイドベースの抽出は、自然画像の色のステアリングタスクにおいて、素朴なプロービングを一貫して上回った。セントロイドはモデル間で84.7%〜95.7%の精度を達成したが、素朴なプローブはしばしば失敗した（Qwen/Gemmaでは4%未満）。
• 正則化の役割: PCA正則化は、一部のモデル（例：InternVLは92.0%に達した）においてプローブの性能を大幅に向上させたが、アーキテクチャ間で一貫性はなかった。
• 構成的結合: 色と形状の結合については、セントロイド・ベクトルが最も高いステアリング成功率（Qwenで78.1%、Gemmaで75.3%）を示した。これは、内部の結合メカニズムが加算的であり、活性化の算術平均と一致していることを示唆している。

B. 表現幾何学

• 構成的多様体: 色と形状のペアに関する概念ベクトルは、類似性が共有された特徴に厳密に依存する構造化された多様体を形成している。オブジェクトが同じ色または形状を持つ場合、明確にクラスター化されており、色と形状が独立した軸に沿ってエンコードされていることが確認された。
• 意味的歪み（Semantic Warping）: 連続的な色の空間は、忠実な物理的マップではなく、LLMの離散的なトークン空間によって歪められた意味的マップである。これは「カテゴリー知覚」を示しており、言語的カテゴリ（例：「緑」）内の色相は圧縮され、カテゴリ間の境界は拡大されている。
• 「メキシカンハット」プロファイル: 意味的類似性のプロファイルは、局所的な距離に対しては単調減少するが、遠方の色相に対しては類似性が上昇する（遠位干渉）ことを示しており、有限の表現解像度と非局所的な干渉の可能性を示唆している。
• 普遍性: 表現類似性分析（RSA）により、Qwen、InternVL、Gemmaの間でほぼ同一の幾何学的構造（$r > 0.93$）が明らかになった。これは、これらの制約がアーキテクチャ固有のアーティファクトではなく、VLMパラダイムに根本的なものであることを示唆している。

C. 行動的失敗との相関

• 視覚探索: ターゲットとディストラクタの概念ベクトルの間のコサイン類似度が増加するにつれて、視覚探索タスクにおけるモデルの精度は単調に低下する。幾何学的な重なりが大きいことは、高いエラー率（ターゲットが存在する場合の偽陰性、および不在の場合の偽陽性／錯覚結合）を予測する。
• 類似性判断: 色の類似性タスクにおけるモデルの確信度（ロジットの分離）は、知覚的なHSV距離よりも、概念ベクトルのコサイン類似度によってより良く予測される。これは、モデルの不確実性が知覚的距離ではなく、表現の幾何学によって支配されていることを示している。

4. 意義と主張

本論文は、VLMの失敗を、豊かで汎用的な表現へと視覚情報を圧縮する際の数学的なコストとして捉え、そのメカニズム的な洞察を提供することを主張している。

• 「汎用化の呪い」: 著者らは、柔軟な汎用化（例：様々な色合いの「赤」を連続的なスペクトルとして関連付けること）を可能にする幾何学的構造そのものが、概念間の干渉に対する脆弱性を導入していると論じている。このトレードオフは、生物学的視覚のような逐次的注意メカニズムを持たない、VLMのような並列処理システムにおいて特に深刻である。
• 予測力: 概念ベクターの幾何学は、単に記述的なだけでなく、予測的でもある。概念ベクター間のコサイン類似度は、モデルの確信度（$r > 0.77$）および精度（$|r| > 0.83$）と強く相関している。
• 因果的妥当性: 本研究は、合成データから導出された概念ベクトルが因果的に活性であり、自然画像におけるモデルの知覚を確実に操作できることを示している。
• 認知的パラレル: 知見は、VLMの失敗と人間の「錯覚結合」との間に類似性を見出しており、両システムが、逐次的注意なしに連続的なスペクトルを離散的なカテゴリにマッピングする際に同様の制約に直面していることを示唆している。

著者らは、これらの幾何学的シグネチャを理解することが、モデルの失敗を予測するための根拠に基づいた定量的な枠組みを提供し、より堅牢なシステムの開発や、安全性に敏感なアプリケーションにおけるモデルの信頼性のより良い較正に寄与すると結論付けている。