技術的サマリー：UniVLR

問題定義

マルチモーダル大規模言語モデル（MLLM）は、幾何学問題の解決や高解像度の視覚理解など、知覚に依存するシナリオにおいて、「画像と共に思考する」ことがますます期待されています。現在の視覚推論アプローチは、いずれも限界を有する 2 つのカテゴリーに大別されます。

1. ツールベースの視覚推論: これらの手法は、明示的なテキストの思考連鎖（CoT）と、外部で生成された補助画像（切り抜き、スケッチなど）を交互に配置します。効果的ではあるものの、このパラダイムは、事前に定義されたツールの硬直性、外部呼び出しによる遅延、生成画像の不安定性という欠点に悩まされています。
2. 既存の視覚潜在推論: 外部ツールを回避するため、最近の手法は自己回帰的に潜在視覚トークンを生成します。しかし、ほとんどの既存手法は、明示的なテキスト CoT と潜在視覚トークンを交互に配置するインターリーブ設計を採用しています。著者らは、この設計に 2 つの決定的な欠陥があることを特定しました。
   • 非効率性: インターリーブパラダイムは、視覚潜在ステップの間に完全な明示的テキストセグメントを依然として必要とし、標準的なテキストベースの CoT と比較して生成コストを実質的に削減できていません。
   • 断片化された注意: テキストと潜在トークンが異質な形式で現れるため、モデルは近くのテキストトークンに依存し、以前の補助画像に一貫して注意を向けることができません。分析によると、後続の CoT トークンは補助画像に対して疎で拡散的な注意を示しており、視覚的証拠が推論プロセスに完全に統合されていないことを意味します。

提起されている核心的な問いは、明示的なテキスト CoT が別個の推論チャネルとして残る必要があるのか、それとも補助画像と共に共有された知覚ワークスペース内で視覚化され、組織化され得るのか、という点です。

手法：UniVLR

著者らは、テキスト推論と補助視覚証拠を共有された視覚ワークスペースとして扱うフレームワーク、UniVLR（Unified Visual Latent Reasoning）を提案します。UniVLR は、推論時の独立したパスとしてテキスト CoT を維持するのではなく、推論痕跡と補助画像を統合された視覚キャンバスにレンダリングし、この表現をコンパクトな視覚潜在トークンに圧縮して、推論時にはこれらの潜在変数のみを通じて推論を行います。

1. 統合視覚キャンバスのレンダリング

UniVLR は、レンダリング関数 $\Phi(\cdot)$ を用いて、異質な推論痕跡を単一の視覚表現に変換します。

• 構築: テキスト推論 $R$ と補助画像 $U$ を持つトレーニングインスタンスについて、関数はこれらを統合されたキャンバス $c = \Phi(R, U)$ に構成します。
• 適応的レンダリング: システムは、コンパクトさと可読性を確保するための軽量な戦略を適用します。テキストは適応的なフォントサイズと折り返しでレンダリングされ、補助画像はリサイズされ、視覚的合図（ボックス、矢印など）で強調されます。
• ターゲット抽出: 統合されたキャンバスは、ベース MLLM のビジョンエンコーダによって処理され、2 次元特徴マップが抽出されます。このマップは、アスペクト比を考慮した 2 次元プーリングを用いて適応的にプーリングされ、固定長の潜在ターゲット系列 $\tilde{Z} = [\tilde{z}_1, \dots, \tilde{z}_K]$ に変換されます。

2. 2 段階の潜在アライメント

モデルは、内部状態をこれらの統合された視覚表現とアライメントさせるために、2 段階のカリキュラムを通じて訓練されます。

• ステージ I: 視覚潜在グラウンディング: モデルは、補助視覚画像のみをアライメントターゲットとして使用し、連続的な潜在トークンを自己回帰的に生成するように訓練されます。これにより、MLLM と視覚埋め込み空間の間の基本的な連続推論インターフェースが確立されます。
• ステージ II: テキスト - ビジョン統合アライメント: モデルは、統合キャンバスターゲット（レンダリングされたテキストと補助画像の両方を含む）を用いてファインチューニングされます。このステージは、明示的な推論痕跡と視覚的証拠を同じ潜在視覚チャネルを通じて表現することをモデルに教えます。
• 目的: 訓練目的は、最終的な回答と制御トークンに対する標準的な言語モデル化と、予測された潜在トークンをターゲット視覚埋め込みとアライメントさせる正規化された回帰損失（$L_{align}$）を組み合わせます。損失には MSE とコサイン類似度の両方の成分が含まれます。

3. 連続的自己回帰推論

推論時には、レンダリング関数、ビジョンエンコーダ、および教師ターゲットは破棄されます。モデルは以下のように動作します。

1. 元のマルチモーダルプロンプト $(Q, I)$ を受け取ります。
2. <|univlr_start|> トークンを生成すると、潜在推論モードに切り替わります。
3. $K$ 個の連続的な視覚潜在トークンを自己回帰的に生成し、各予測トークンを次のステップの入力としてフィードバックします。
4. <|univlr_end|> を生成すると、離散語彙に戻り、最終的な自然言語回答をデコードします。
   重要なのは、推論段階において明示的な中間テキスト CoT が生成されないことです。

主要な貢献

1. 統合パラダイム: UniVLR は、テキスト推論と補助視覚証拠を単一の視覚潜在チャネルに統合し、テキストと潜在トークンのインターリーブを不要にするパラダイムを導入します。
2. 効率性: 推論中の明示的なテキスト生成を排除することで、UniVLR は推論精度を維持または向上させながら、生成されるトークンの数を大幅に削減します。
3. 改善された注意: 統合設計は、モデルがすべての推論証拠を同じ視覚経路を通じて処理するため、インターリーブ設計と比較して補助画像に対するより密で焦点の絞られた注意を誘発します。
4. 2 段階訓練: 提案されたカリキュラム（グラウンディングに続く統合）は、連続的な潜在推論の学習を安定させ、表現の崩壊を防ぎます。

実験結果

実験は、ベースモデルとして Qwen2.5-VL-7B を使用し、実世界の知覚および推論ベンチマーク（V*, HRBench4K/8K, MME-RealWorld-Lite）で行われました。

• 性能: UniVLR は、以前の視覚潜在推論手法（Monet, LVR, SkiLa, CoVT）およびテキスト推論ベースラインを上回ります。平均して、最良のベースラインと比較して推論精度が**5.4%**向上します。
• 効率性: UniVLR は、生成されるトークンを大幅に削減しながらこれらの向上を達成します。インターリーブ手法と比較して、生成される推論トークンの数を15.2 倍削減します（190〜270 のテキストトークンの代わりに、12 の潜在トークンのみを使用）。
• 潜在表現分析:
  • 視覚グラウンディング: UniVLR の潜在トークンの隠れ状態分布は、テキストトークン表現よりも画像トークン表現とより密に一致しており、モデルが視覚的にグラウンディングされたチャネルを使用していることを確認します。
  • 情報内容: 潜在状態をゼロにする、またはノイズを追加する摂動分析は、有意な精度の低下を引き起こし、潜在トークンがタスクに関連する推論情報を担っており、単なるプレースホルダーではないことを証明します。
• アブレーション研究:
  • レンダリング戦略: 複雑なロジックの処理には、垂直レイアウトレンダリングと適応的折り返しが重要であることが判明しました。
  • データフィルタリング: 視覚推論なしで解決可能なサンプルやノイズの多いターゲットを持つサンプルを除去する厳格なトレーニングデータフィルタリングは、ステージ II の安定した訓練に不可欠でした。
  • 教師強制: 訓練中の完全な潜在教師強制は、スケジュールドサンプリングよりも良い結果をもたらしました。これは、この連続的な設定において、露出バイアスを削減することよりも、潜在多様体を安定させることが重要であることを示唆しています。
• 一般化: UniVLR は、一般的なマルチモーダルタスク（TextVQA, POPE, MME-translation）において破滅的な忘却を示さず、むしろオブジェクトの幻覚（POPE）やテキストの多い画像理解（TextVQA）の性能を向上させます。

意義と主張

本論文は、UniVLR がマルチモーダル思考のためのより統合され効率的なパラダイムへと視覚潜在推論を押し進めると主張しています。明示的なテキスト CoT が統合された視覚潜在チャネルに吸収され得ることを実証することで、この研究は、MLLM が冗長なテキスト生成や外部ツールの呼び出しのオーバーヘッドなしに、複雑で多段階の推論を実行し得ることを示唆しています。

著者らは、この手法が効率性と性能を向上させる一方で、トレードオフを伴うことを強調しています。すなわち、潜在推論プロセスは明示的なテキスト CoT よりも直接的に検査しにくく、デバッグや監査がより困難になる可能性があります。さらに、この手法はビジョンエンコーダの OCR およびレイアウト理解能力に依存しています。この研究は、正確な測定や網羅的な探索を必要とするタスクにおけるツールベースの推論の代替として UniVLR を位置づけるのではなく、コンパクトで統合された潜在空間内で視覚的熟考を内部化するための重要な一歩として位置づけています。