CounterCount: A Diagnostic Framework for Counting Bias in Vision Language Models

技術的サマリー：CounterCount 視覚言語モデルにおける数え上げバイアスの診断フレームワーク

問題定義
視覚言語モデル（VLM）は、大規模言語モデル（LLM）をテキストのバックボーンとして活用することで、マルチモーダル推論において強力な能力を示しています。しかし、重要な曖昧さが残っています。VLM が視覚的な質問に回答する際、その予測は特定の視覚的証拠に基づいているのか、それともテキストコーパスから学習された統計的規則性や「標準的な事前知識（canonical priors）」によって駆動されているのでしょうか。この問題は数え上げタスクにおいて特に顕著です。数え上げは単純に見えるものの、モデルがエンティティを特定し、それらを妨害要素から区別し、視覚的証拠を集約することを要求します。現在の VLM は数え上げでよく苦労しており、以前の分析では、関連するオブジェクトに注意が向けられていても、モデルがその証拠を正しく活用できず、代わりに典型的な知識（例えば、画像の内容に関係なくウサギには二つの耳があると仮定するなど）に依存してしまう可能性が示唆されています。既存のベンチマークでは、数え上げの誤りをプロンプトバイアスや意味的曖昧さなどの他の要因と混同しがちであり、視覚的証拠と言語的事前知識の間の衝突に起因する失敗を特定することが困難です。

手法
これに対処するため、著者らは視覚的証拠とオブジェクトレベルの数値事前知識の間の衝突を分離するように設計された診断フレームワーク「CounterCount」を導入します。

1. データセット構築:

   • 対照的ペア: データセットは、10 の意味カテゴリ（哺乳類、交通手段、通貨など）にまたがる 168 組の画像（合計 336 枚）で構成されます。各ペアには、標準的なオブジェクト属性を持つ「事実的（factual）」画像と、数え上げに関連する属性（耳の数、車輪の数、ブレードの数など）を画像編集モデル（Nano-Banana Pro）を用いて体系的に変更した「対照的（counterfactual; CF）」画像が含まれます。
   • 局所化: 標準的なベンチマークとは異なり、CounterCount は領域レベルのアノテーションを提供します。各 CF 画像について、著者らは変更された属性に対するセグメンテーションマスクとバウンディングボックス（BB）を生成します。これらはビジョナエンコーダの視覚トークングリッドにマッピングされ、「Mask-BB」領域を作成し、数え上げに必要な特定の視覚トークンを分離します。
   • 評価フォーマット: 各インスタンスは、一般的な数え上げミスと事前知識に起因する誤りを区別するために、バランスの取れた妨害要素を含むオープンエンド（OE）プロンプトと多肢選択問題（MCQ）を用いて評価されます。

2. 診断分析:

   • 著者らは、最近のオープンウェイト VLM（Qwen3-VL、Gemma3）とクローズドソースモデル（Claude-haiku-4.5）を評価します。
   • 失敗が局所化の欠如に起因するのか、それとも局所化された証拠の重み付けの失敗に起因するのかを判断するために、注意機構を分析します。結果、モデルはしばしば関連領域に注意を向けるものの、推論中にこれらのトークンを背景や無関係な文脈に対して過小評価していることが示されました。

3. 介入戦略:

   • 本論文は、統合推論時注意変調戦略を提案します。この手法は、ソフトマックス層以前の LLM バックボーンの生注意ログit（logits）に対して動作します。
   • これにより、特定の視覚トークンセット（ターゲット）の増幅（$\alpha > 1$）、抑制（$0 < \beta < 1$）、またはマスク（$\beta = 0$）を可能にし、同時に背景トークンを減衰させることができます。
   • この定式化は、増幅、抑制、マスクといった様々な介入を単一の連続的なログit変調空間に統合し、再学習なしでモダリティ寄与のターゲットを絞った再バランスを可能にします。

主要な貢献

• CounterCount データセット: 標準的な事前知識に対する視覚的グラウンディングをテストするように特別に設計された、局所化アノテーション（マスクとバウンディングボックス）を備えた対照的な事実的および対照的画像ペアを含む制御された診断データセット。
• 診断的洞察: VLM が事実的画像では高い性能を示す一方で、対照的画像では一貫して精度が低下することを示す実証的証拠。これは、矛盾する視覚的証拠が存在する場合でも、オブジェクトレベルの事前知識への依存を確認するものです。
• 注意分析: 数え上げの失敗は、単に視覚的証拠の欠如や局所化の不良によるものではなく、モデルが関連領域に注意を向けつつも、言語的事前知識や背景ノイズに対してそれらを十分に重み付けできないことによるものであることを示す実証。
• 学習不要の介入: 推論時に数え上げに関連する視覚トークンを再重み付けすることで、複数の VLM において対照的数え上げの精度を最大 8% 向上させる統合された注意変調戦略。

結果

• 性能の低下: 事実的画像では、モデルは高い精度を達成します（例：Qwen3-VL-32B: 約 87%、Gemma3: 約 66–81%）。しかし、対照的画像では精度が大幅に低下します（例：Qwen3-VL-32B: 約 48%、Gemma3: 約 34–38%）、標準的な数値へのバイアス率が高いことが見られます。
• 変調の有効性: 注意変調（特にターゲットトークンの増幅と背景トークンの減衰/マスク）を適用することで、対照的精度が向上します。例えば、Qwen3-VL-32B はオープンエンド精度で 8.26% の改善を見せました。
• バイアスの低減: この介入は、予測を標準的な事前知識から視覚的証拠へとシフトさせることに成功し、いくつかの構成においてバイアス率を低減しました。
• 一般化: この知見は、異なるモデルスケール（4B から 32B）およびオープンウェイトとクローズドソースの両方のアーキテクチャにわたって成り立ち、現在の VLM 推論における体系的な問題を示唆しています。
• 事実的安定性: 変調戦略は一般的に事実的画像の性能を低下させず、場合によっては向上させます。これは、この手法が一般的な理解を害することなく意味的に関連するトークンへの焦点を強化することを示しています。

重要性
本論文は、CounterCount が、視覚的証拠が明示的かつ局所化されている場合でも、数え上げ予測が視覚的証拠ではなく事前知識によって駆動される、現在の VLM における持続的な推論失敗を露呈していると主張しています。その重要性は以下の点にあります：

1. 失敗モードの分離: 知覚的限界とモダリティの不均衡（言語的事前知識を優先する視覚的証拠の過少利用）を区別するための制御された環境の提供。
2. 機械的洞察: 失敗はモデルが数え上げを「見ることができない」からではなく、推論プロセス中に数え上げに関連する視覚トークンを優先できないために発生することを示すこと。
3. 設計指針: これらのバイアスを探求し軽減するための学習不要の推論時メカニズムを提供し、より強力な視覚的グラウンディングを持つ将来の VLM の設計への道筋を示すこと。著者らは、この介入が精度を向上させるものの、バイアスを完全に排除するわけではないと指摘しており、堅牢な視覚的グラウンディングのためには、より深いアーキテクチャの変更が必要である可能性を示唆しています。