技術的概要：大規模視覚言語モデルにおける幻覚の軽減に向けた因果的経路ゲーティング

1. 問題定義

大規模視覚言語モデル（LVLM）は頻繁に幻覚に悩まされ、入力画像に根拠がないにもかかわらず流暢で説得力のある内容を生成します。この問題は、特に安全性が重要な領域や意思決定支援の場面における、LVLM の実世界への展開における信頼性を損ないます。

本論文は、経路競合という特定の失敗モードを特定しています。視覚トークンが注意を受け取っていても、最終的なトークンの決定はテキスト経路によって支配され得ます。その結果、デコーダは視覚的証拠（何が可視化されているか）ではなく、言語的先行知識（何が妥当か）に従って動作します。既存のトレーニング不要の軽減戦略は、しばしば注意に基づく代理指標（例：Visual Attention Ratio, VAR）や粗いヘッドのリスケーリングに依存しています。著者らは、以下の理由からこれらは不十分であると主張しています：

• 高い注意質量は、必ずしも出力への因果的貢献に変換されるわけではない。
• ソフトマックス正規化は、実際には決定を根拠づけることなくテキスト競合を弱めることで、視覚的注意の割合を人為的に過大評価する可能性がある。
• 粗いリスケーリングは、視覚経路とテキスト経路の両方を抑制し、真に根拠のある推論を損なう可能性がある。

2. 手法：因果的経路ゲーティング（CRG）

提案手法である因果的経路ゲーティング（CRG）は、トレーニング不要であり、推論時にトークンレベルで動作する介入手法であり、注意ヘッドを明確な視覚経路とテキスト経路に分解して動作します。

2.1. ヘッド内部経路分解

著者らは、Transformer 演算の線形性を利用して、層 $l$ における各注意ヘッド $h$ の出力を、2 つの加算成分に分解します：

• 視覚経路（$O^{vis}_{l,h}$）：視覚トークンから導出される寄与。
• テキスト経路（$O^{txt}_{l,h}$）：テキストトークンから導出される寄与。
  ヘッドの総出力は $O_{l,h} = O^{vis}_{l,h} + O^{txt}_{l,h}$ となります。

2.2. 決定整合的因果経路効果（CRE）

注意重みに依存するのではなく、CRG は現在のトークンの決定スコア $\ell$（生成トークンの対数確率または二値 QA の対数オッズマージンなど）に対する各経路の因果効果を測定します。do-介入を用いて、効果は以下のように定義されます：

• $\Delta^{vis}_{l,h} = \ell(1, 1) - \ell(0, 1)$：視覚経路を除去した際のスコアの変化。
• $\Delta^{txt}_{l,h} = \ell(1, 1) - \ell(1, 0)$：テキスト経路を除去した際のスコアの変化。

正の $\Delta$ はその経路が決定を支持していることを示し、負の $\Delta$ は決定に反対していることを示します。

2.3. 競合の特定と視覚依存インデックス（VRI）

本手法は、視覚経路とテキスト経路が決定を相反する方向に押し出す経路競合を特定します（$\Delta^{vis}$ と $\Delta^{txt}$ の符号が異なる場合）。

• 競合-A（+, -）：視覚が支持し、テキストが反対する。
• 競合-B（-, +）：視覚が反対し、テキストが支持する（言語的先行知識が視覚的証拠を上書きする幻覚の典型的な特徴）。

介入の優先順位を決定するために、著者らは**視覚依存インデックス（VRI）**を定義します：
$$VRI_{l,h} = \frac{|\Delta^{vis}_{l,h}|}{|\Delta^{vis}_{l,h}| + |\Delta^{txt}_{l,h}| + \epsilon}$$
低い VRI は、そのヘッドがテキスト駆動（先行知識優位）であることを示します。

2.4. 効率的な推定と介入

• 1 回前方伝搬・1 回勾配近似：正確な do-効果を計算するには複数の前方伝搬が必要ですが、CRG はトークンあたり1 回の前方伝搬と 1 回の勾配問い合わせのみを必要とする 1 次近似を使用します。推定値は、経路出力と決定スコアの勾配（$\nabla \ell$）との内積から導出されます。
• 競合認識型ゲーティング：
  1. 競合セット内で VRI が最も低いトップ-$k$ のヘッドを選択する。
  2. テキスト経路ゲート（$g^{txt}_{l,h}$）を適用してテキスト寄与を抑制し、視覚経路はそのまま維持する（$g^{vis}_{l,h} = 1$）。
  3. 差別化抑制：
     • 競合-A：ノイズを安定化させるため、軽度の抑制（ゲート範囲 [0.5, 1.0]）。
     • 競合-B：視覚的証拠と矛盾する言語的先行知識を遮断するため、強力な抑制（ゲート範囲 [0, 0.5]）。

3. 主要な貢献

1. 経路レベルの因果効果：注意ヘッド内の視覚経路とテキスト経路に対する決定整合的な因果効果の導入。相関的な注意代理指標を超えたアプローチ。
2. 視覚依存インデックス（VRI）：幻覚を駆動する先行知識優位のヘッドを特定するための正規化された指標。
3. 効率的な推定器：最小の計算オーバーヘッド（1 回前方伝搬、1 回勾配）でステップごとのヘッド選択を可能にする 1 次推定器。
4. 競合認識型介入：競合するヘッドにおいてテキスト経路のみを選択的に抑制し、視覚的根拠を維持する選択的ゲーティング機構。
5. 理論的解析：値の内容とソフトマックス競合効果により、注意質量（VAR）が決定に関連する視覚的根拠の十分な代理指標ではないことを示した。

4. 実験結果

本手法は、3 つのモデル（LLaVA-1.5-7B、Qwen-VL-Chat、Qwen2.5-VL-7B-Instruct）において、判別タスク（POPE、AMBER）と生成タスク（CHAIR、MMHal-Bench、MME）にわたる 5 つのベンチマークで評価されました。

• 幻覚の削減：CRG は幻覚に関連するエラーを一貫して削減しました。POPE ベンチマークでは、通常のデコーディングに対して**6.3% から 7.0%**の精度向上を達成し、VCD、OPERA、VTI などの強力なベースラインを上回りました。
• 生成性能：CHAIR において、CRG は最も低い幻覚率（CS/CI）を達成しつつ、高い再現率を維持し、生成長のわずかな増加のみで済みました。
• マルチモーダル能力：MME において、本手法は根拠に敏感なカテゴリ（存在、数、位置、色）および高次推論タスクにおける性能を向上させ、幻覚の削減が汎用的なマルチモーダル性能の犠牲を伴わないことを示しました。
• 効率性：CRG は、通常のデコーディングと比較して2.27 倍のレイテンシオーバーヘッド（約 139ms/ステップ）を発生させましたが、これは Visual Contrastive Decoding（VCD）と同程度であり、OPERA（7.12 倍）よりも著しく高速です。重要なのは、ピーク GPU メモリオーバーヘッドが追加されなかった（1.00 倍）ことです。

5. 意義と主張

本論文は、LVLM における幻覚は、言語的先行知識が視覚的証拠を上書きする不一致な経路競合の結果であることが多いと主張しています。これらの内部経路を露呈させ介入することで、CRG は以下の点において標的型の解決策を提供します：

• 視覚的根拠の回復：言語的先行知識が異なる答えを提案する場合でも、モデルが視覚的証拠に依存することを可能にする。
• 無差別な抑制の回避：ヘッド全体をリスケーリングする手法とは異なり、CRG は競合するヘッドにおいてテキスト経路のみを選択的に抑制し、視覚経路を維持する。
• 解釈性の提供：因果効果と VRI の使用は、注意質量代理指標と比較して、モデルがなぜ幻覚を起こすのか（すなわち、テキスト先行知識が視覚的証拠を支配する特定のヘッド）をより明確に診断する。

6. 限界

著者らは明示的にいくつかの限界を指摘しています：

• 範囲：CRG は競合媒介型の幻覚を標的にします。視覚経路とテキスト経路の両方が同じバイアスを共有する場合（例：視覚エンコーダ自体がバイアスがかかっている「ピンクのバナナ」）や、知覚/OCR 失敗が支配的なエラーは修正できません。
• 弱い証拠：視覚的証拠が曖昧な場合、本手法は過度に保守的になり、推測を助ける可能性のある有用な言語的先行知識を抑制する可能性があります。
• ホワイトボックス要件：本手法は内部活性化と勾配へのアクセスを必要とするため、修正なしではクローズドソース API には不向きです。
• オーバーヘッド：軽微ではあるものの、トークンごとの勾配計算はレイテンシを追加し、非常に長い形式の生成においては無視できない可能性があります。