技術要約：正しい教師を信じる：GUIグラウンディングのための品質意識型自己蒸留

1. 問題提起

グラフィカルユーザーインターフェース（GUI）グラウンディングには、高解像度のスクリーンショットから特定のインターフェース要素を特定し、正確な画面座標を予測する視覚言語モデル（VLM）の能力が求められます。このタスクは、ターゲットとなる要素のサイズが小さいこと、視覚的に類似していること、そして密集して配置されていることにより、特に困難を伴います。

既存のポストトレーニング手法は、この座標に敏感な領域において重大な限界に直面しています：

• 教師あり微調整（SFT）： 座標をハードターゲットとして扱うため、最終的な答え以外の情報を提供できず、教師の不確実性や、妥当な座標トークンに関する「ダークナレッジ（暗黙的な知識）」を活用することができません。
• 強化学習（例：GRPO）： タスクの成果を最適化しますが、報酬が疎（スパース）であり、ロールアウトに依存するため、きめ細かなローカライゼーションのための強力なガイダンスとしては不十分です。
• ナイーブなオンポリシー自己蒸留（Naive OPSD）： 教師から密なトークンレベルの信号を提供できるという点では有望ですが、ナイーブなOPSDはGUIグラウンディングには適していません。OPSDでは、教師は生徒（学生モデル）が生成したプレフィックスに対してクエリを投げられます。もし生徒が誤ったプレフィックス（誤った空間的仮説）を生成した場合、その後の教師のロジットは、真のターゲットへの信号ではなく、その「誤った」座標の妥当な継続として機能してしまう可能性があります。これにより、信頼性の低い教師信号が生じ、性能を低下させます。

2. 手法：品質意識型自己蒸留（Quality-Aware Self-Distillation）

著者らは、GUIグラウンディングの空間的な検証可能性を活用することで、座標トークンの監督を校正する手法である品質意識型自己蒸留を提案しています。このアプローチは、**ソフトな正当性認識ゲート（Soft Correctness-Aware Gating）と教師確率スケーリング（Teacher-Probability Scaling）**という2つの補完的なメカニズムを組み合わせたものです。

2.1 特権情報の構築

先行研究（GUI-SD）に従い、ターゲット領域が視覚的に強調され、タスクに無関係な領域がレイアウトを維持したままマスキングによって抑制された特権的な教師入力 $(x^+, I^+)$ を構築します。生徒は元の入力 $(x, I)$ に条件付けられ、教師は信号を生成するために特権的な入力 $(x^+, I^+)$ に条件付けられます。

2.2 ソフトな正当性認識ゲート

このメカニズムは、欠陥のある生徒のプレフィックスに基づいて、教師が妥当ではあるが誤った継続を提供してしまう問題に対処します。

• 検証： 座標トークンの位置 $t$ において、教師のトップ予測座標トークン ($d^*_t$) が、現在の生徒生成プレフィックスを考慮した上で、グラウンドトゥルース（正解）のバウンディングボックス区間 ($B_{a(t)}$) 内に有効な座標として完成させることが可能かどうかをチェックします。
• バイナリ指標： 完成が可能（互換性がある）な場合は指標 $h_t$ を1とし、不可能な場合は0とします。
• ソフトゲート： 互換性のない信号を完全に破棄（ハードゲート）するのではなく、ソフトゲート $g_t = \alpha + (1-\alpha)h_t$ を適用します。
  • 互換性がある場合 ($h_t=1$)、$g_t = 1$ となります。
  • 互換性がない場合 ($h_t=0$)、$g_t = \alpha$ （実験では0.5に設定）となります。
  • これは、不正確な信号を完全に排除するのではなく、重みを下げることで、負の影響を抑えつつ、潜在的に有用な修正情報を保持するように設計されています。

2.3 教師確率スケーリング

正当性ゲートだけでは、教師の確信度を考慮できません。2つの信号が共にゲートを通過したとしても、一方が非常に高い確信度を持ち、もう一方が決定境界付近にある場合があります。

• スケーリング係数： 本手法では、教師のトップ座標トークン予測の確率 $p_t = P^T_t(d^*_t)$ をスケーリング係数として使用します。
• メカニズム： $p_t$ が高い（確信度が高い）ほど蒸留の重みが強くなり、$p_t$ が低い（不確実性が高い）ほど信号が弱まります。これにより、空間的に互換性のある信号であっても、その信頼性に応じて重み付けが行われます。

2.4 重み付き逆KLダイバージェンス目的関数

最終的な損失関数は、これらの要素をトークンレベルの重み $w_t$ に統合します：
$$w_t = (1 - r_t) + r_t \cdot g_t \cdot \lambda \cdot p_t$$
ここで、$r_t$ は座標トークンのインジケーターであり、$\lambda$ はスケーリング係数（3に設定）、$g_t$ はソフトゲートです。

• 非座標トークンは重み1で蒸留されます。
• 互換性のある座標トークンは $\lambda p_t$ で重み付けされます。
• 互換性のない座標トークンは $\alpha \lambda p_t$ で重み付けされます。

3. 主な貢献

1. 品質意識型自己蒸留： すべての教師信号を等しく信頼できるものとして扱うのではなく、その信頼性（空間的互換性）と確信度（確率）に基づいて教師信号を校正する、GUIグラウンディングのための新しい手法。
2. 信号の信頼性に関する実証的研究： 本論文は、GUIグラウンディングの空間的に検証可能な性質を利用して、オンポリシー自己蒸留において信頼性の低い教師信号をどのように扱うべきかを実証的に研究し、ソフトな重み下げ戦略がハードな破棄や盲目的な模倣よりも優れていることを示しています。
3. 相補的なメカニズム： 著者らは、ソフトゲートも確率スケーリングも単独では性能を向上させないことを示しており、両者の組み合わせが必要であることを証明しています。ゲートは信頼性の低い信号を抑制し、スケーリングは残された信頼できる信号の強度を調整します。

4. 実験結果

Qwen3.5-9Bをバックボーンとして、6つのGUIグラウンディングベンチマーク（ScreenSpot-Pro, ScreenSpot-v2, UIEG, OSWorld-G, OSWorld-G-R, MMG）を用いて実験を行いました。

• 性能： 提案手法はマクロ平均精度 72.23 を達成し、最強のベースラインであるGUI-SDを 2.16ポイント 上回りました。
• 比較： SFT（+4.14ポイント）およびGRPO（+6.37ポイント）を大幅に上回り、さらにNaive-OPSDおよびVision-PV-Onlyベースラインをも凌駕しました。
• アブレーション研究：
  • コンポーネントの相乗効果： ゲートのみ、あるいはスケーリングのみを使用した場合、ベースラインよりも低い性能となり、両者の相補的な役割が確認されました。
  • ゲートの強度： ソフトゲート（$\alpha=0.5$）はハードゲート（$\alpha=0$）よりも優れた性能を示し、ゲート失敗の信号を完全に破棄すると、貴重な修正ガイダンスが失われることが示唆されました。
  • スケーリング係数： スケーリング係数 $\lambda=3$ が最適な結果をもたらし、信頼性の低い信号の抑制と、信頼できるトークンに対する十分な監督の必要性のバランスを最適化しました。

5. 意義と主張

本論文は、空間的な検証可能性が、自己蒸留における教師信号の信頼性を向上させるための、未利用の重要な信号であることを主張しています。間接的なプロキシ（エントロピーやパープレキシティ）を通じて信頼性が推論される一般的なトークン予測タスクとは異なり、GUIグラウンディングでは、予測がグラウンドトゥルースの制約に対して依然として実行可能かどうかを直接検証できます。

著者らは、彼らの手法が「盲目的な模 imitation（模倣）」から「信頼できる模倣」への転換を象徴していると述べています。ターゲット領域との互換性と教師の確信度に基づいて教師信号をソフトに重み下げし、スケーリングすることで、誤った空間的仮説を強化するリスクを軽減しつつ、自己蒸留を効果的にする密で微細な学習信号を保持します。この研究は、検証可能な制約を持つタスクにおいて、信頼性重視の蒸留戦略が、複雑な強化学習の設定を必要とせずにモデルの性能を大幅に向上させ得ることを示唆しています。