Mitigating Multimodal LLMs Hallucinations via Relevance Propagation at Inference Time

技術概要：推論時の関連性伝播によるマルチモーダル LLM の幻覚抑制

問題定義
マルチモーダル大規模言語モデル（MLLM）は、言語を画像や音声などの知覚入力と統合する能力において顕著な成果を上げています。しかし、決定的な限界が依然として存在します。すなわち、これらのモデルは頻繁に幻覚（ハルシネーション）に陥り、提供された知覚的証拠と矛盾するか、あるいはそれによって裏付けられない出力を生成してしまうという点です。著者らは、この現象が推論時のモダリティ利用における構造的な不均衡に起因すると仮説を立てています。具体的には、テキストトークンが生成プロセスを支配する傾向があり、視覚的または聴覚的トークンへの注意が不十分であるということです。その結果、モデルは根拠ある知覚的証拠ではなく、強力なテキスト言語の事前知識に依存しがちとなり、存在しない物体や出来事に対する、もっともらしいが事実誤認の記述を生み出します。

手法：推論時モダリティ強化の学習（LIME）
この不均衡に対処するため、基盤モデルのパラメータを変更したり、追加の訓練データを必要としたりすることなく、著者らはLIMEを提案しました。これは推論時に動作する、訓練不要のフレームワークです。この手法は、**層別関連性伝播（LRP）**を用いた解釈可能性分析に基づいています。

1. LRP 分析: 著者らは LRP を用いて、モデルの予測を個々の入力トークンの加法的な寄与に分解しました。その分析により、知覚入力に決定的に依存するタスクであっても、テキストトークンがモダリティトークンよりも著しく高い関連性スコアを割り当てられるという体系的なバイアスが明らかになりました。
2. 推論時最適化: LIME は、デコーディングプロセス中にモデルのキー・バリュー（KV）表現に直接介入します。重みの微調整を行う代わりに、各デコーディングステップにおいてキーおよびバリューテンソルへの加法的更新（$\Delta K, \Delta V$）を反復的に最適化します。
3. 目的関数: この最適化は、モデルの注意をモダリティトークンへシフトさせつつ、元のモデルの言語的事前知識を保持することを目的としています。これは、複合損失関数の最小化によって達成されます。
   • 関連性目的関数（$\mathcal{L}_{rel}$）: ノイズ対照推定（NCE）および対照学習に触発されたこの項は、モダリティトークンを肯定的証拠として、テキストトークンを競合する代替案として扱います。すべてのトークンの総関連性に対する、モダリティトークンに割り当てられる関連性を最大化します。
   • KL 発散正則化項（$\mathcal{L}_{KL}$）: この項は、更新された分布が元のモデルの分布に近くなるように制約を課し、モデルが事前学習された動作から過度に逸脱することを防ぎ、デコーディングの安定性を確保します。
4. 実行: 更新は、各デコーディングステップで少量のステップに対して勾配ベースの最適化（Adam 使用）によって計算され、その後破棄されます。これにより、介入は局所的に留まり、時間とともに蓄積しないことが保証されます。

主な貢献
本論文は、以下の 3 つの主要な貢献を概説しています。

1. 解釈可能性分析: LRP ベースの分析により、MLLM における幻覚が、推論中のモダリティ固有トークンの未利用と直接関連していることを実証しました。
2. LIME フレームワーク: KV 表現の調整を通じて、テキスト入力に対するモダリティトークンの寄与を明示的に増加させることで幻覚を抑制する、新規かつ訓練不要の、関連性ガイド型の推論時フレームワークです。
3. 実証的検証: 視覚および音声の両分野における複数の最先端マルチモーダルモデル（LLaVA、Qwen-VL、SALMONN、Qwen2-Audio など）およびベンチマークにおいて、本手法の有効性と汎用性を示しました。

結果
著者らは LIME を複数のベンチマークで評価し、グラウンディングの改善と幻覚の減少において一貫した改善を報告しました。

• 視覚ベンチマーク: POPEベンチマーク（MSCOCO および A-OKVQA）において、LIME は訓練不要のベースライン（OPERA、VCD、ICD、MemVR、V-ITI など）の中で最高の平均精度および F1 スコアを達成しました。特に敵対的分割において堅牢性を示しました。CHAIRベンチマークでは、LIME は幻覚的な物体言及の率を一貫して低下させ（CHAIRS および CHAIRI スコアの低下）、競争力のあるリコールを維持しました。
• 音声ベンチマーク: Audio Hallucination QAおよびAIR-Benchにおいて、LIME は音声、音響、音楽の各分野で精度および F1 スコアを向上させ、Audio-Aware Decoding（AAD）ベースラインを上回りました。
• 関連性分析: 定量的分析により、LIME がモダリティ依存度（知覚トークンに帰属される関連性の割合）を増加させ、空間的/時間的グラウンディング（真の物体領域への関連性の集中）を改善することが確認されました。定性的な可視化では、LIME 下において関連性ヒートマップがより局所化し、入力証拠と意味的に整合したものであることが示されました。
• 計算オーバーヘッド: 本手法は、ステップごとの最適化により追加のレイテンシ（約 9〜10 倍の遅延）および modest なメモリオーバーヘッドをもたらします。そのため、リアルタイム低遅延アプリケーションよりも、オフラインまたは高精度が求められる設定に適しています。

意義と主張
本論文は、推論時にモダリティ利用を直接制御することが、MLLM の信頼性を高めるための有効な戦略であると主張しています。LRP シグナルを活用してテキストトークンと知覚トークンの影響を再均衡させることで、LIME は再訓練や微調整の計算コストを必要としない、幻覚に対する汎用可能な解決策を提供します。著者らは、幻覚は単に訓練データの不足に起因するだけでなく、デコーディング中の最適ではない内部推論および情報統合に起因するものであり、これは推論時の介入によって修正可能であると結論付けています。本手法は、元のモデルの生成品質を維持しつつ、マルチモーダルグラウンディングを改善するための実用的なアプローチとして提示されています。