Take It or Leave It: Intent-Controlled Partial Optimal Transport

本論文は、正解・未ラベル学習やマルチモーダル衛星データ分析などの応用において、より構造化され信頼性の高いマッチングを可能にするため、側情報に基づく点ごとの意図駆動型拒否コストにグローバルな質量拒否を置き換えることで部分最適輸送を一般化する新たな枠組みである意図制御部分最適輸送（IC-POT）を導入する。

要約

2 つの異なるグループの人々をダンスのパートナーにマッチングさせようとしている状況を想像してください。一方のグループは「ソース」（例えば、ニューヨーク出身のダンサーたち）で、もう一方は「ターゲット」（ロンドン出身のダンサーたち）です。

従来の方法（標準的最適輸送）：
従来、ルールは厳格でした。すべてのダンサーがパートナーを見つけなければならないのです。たとえニューヨークのダンサーがコウモリ鼻をつけていて、ロンドンのダンサーがチュチュを着ていても、数を合わせるためにアルゴリズムは彼らを無理やりペアにします。これはしばしば、意味をなさないばかげた、強引なマッチングにつながります。

「部分的」な方法（以前の解決策）：
その後、研究者たちは「いいえ、いくつかの人をマッチングさせずに残すこともできる」と言いました。しかし、彼らはグローバルな予算でそれを行いました。まるで、「10% のダンサーをサイドラインに残すことができる」と言うマネージャーのようです。マネージャーは誰が除外されるかには関心を持たず、単に総数が10% であることだけを必要とします。もし除外された10% が最高のダンサーたちだった場合、マッチングは台無しになります。このシステムにはニュアンスが欠けています。

新しい方法（IC-POT - 「取るか捨てるか」）：
この論文は、意図制御部分最適輸送（IC-POT） を導入します。グローバルな予算の代わりに、それはすべてのダンサーに個人的な「拒絶価格タグ」 を与えます。

まるでクラブのボーダーのようですが、しかしそのボーダーは人によって異なります：

• 「取る」ルール： ダンサーが信頼でき、服装が整い、雰囲気に合っていれば、その「拒絶価格」は高くなります。アルゴリズムは、「この人を追い出すにはコストがかかりすぎるので、パートナーを見つけるよう試さなければならない」と考えます。
• 「捨てる」ルール： ダンサーが明らかに場違いな場合（例えば、フォーマルな舞踏会で道化師である、あるいはデータにノイズがある場合）、その「拒絶価格」は低くなります。アルゴリズムは、「この人をサイドラインに残すのは安上がりなので、そうする」と考えます。

実生活での仕組み（論文の例）

著者らは、これが 3 つの具体的なシナリオで機能することを示しています。

1. 「推測ゲーム」（正解・未ラベル学習）
写真内のすべての猫を見つけようとしているが、ラベル付きの猫の写真は数枚しかなく、ラベルなしの写真（猫も犬も混在）の山しかない状況を想像してください。

• 問題： 一部の猫は影に隠れていて（見えにくい）、他の猫は明るくはっきりしています。標準的な「部分的」な方法は、効率化を図ろうとして、影に隠れた猫を捨ててしまうかもしれません。
• IC-POT の解決策： システムは、「影」の部分は単に見えにくいだけで、必ずしも「猫ではない」わけではないと知っています。影に隠れた猫を拒絶することには高い価格タグを付けます。それをマッチングに残します。明らかな犬には低い価格タグを付けます。結果として？犬に混乱することなく、より多くの猫を見つけることができます。

2. 「言語の壁」（オープン部分ドメイン適応）
新しい国の写真から物体を認識するようコンピュータに教える状況を想像してください。ある物体は両国に存在しますが（車、木など）、ある物体は新しい国にのみ存在します（固有の地元の動物など）。

• 問題： コンピュータは、全員をペアにしようとして必死になっているため、地元の動物と車の間で無理やりマッチングさせようとするかもしれません。
• IC-POT の解決策： システムはマッチングの「信頼性」を見ます。地元の動物が自身のアイデンティティに対して非常に自信を持っているが、古い国のリストには一致するものがない場合、システムはその動物に低い拒絶価格を与えます。「この動物をマッチングさせずに残そう。それは古いリストに属さない」と言うのです。しかし、車が明らかに車である場合、それを拒絶する価格は高くなるため、マッチングされます。

3. 「海の眺め」（地球物理データ）
これが最も視覚的な例です。著者らは、海流の波を見る 2 つの異なる衛星カメラを比較しました。

• 問題： あるカメラ（SWIM）は波を明確に見えますが、特定の方向では「ノイズ（静電ノイズ）」が発生します。もう一方のカメラ（SAR）は波を良く見えますが、物理的な理由により他の方向では「ぼやけて」います。
• IC-POT の解決策： システムは物理的な知識を価格タグとして使用します。
  • ある波がカメラ A ではぼやけていますが、カメラ B では明確である場合、システムは言います。「これは本物の波ですが、カメラ A は単に調子が悪いだけです。これを拒絶しないでください。」（拒絶するコストは高い）
  • ある波がカメラ A では明確ですが、カメラ B では「ノイズ」のように見える場合、システムは言います。「カメラ B は単にノイズを見ています。このマッチングを拒絶してください。」（拒絶するコストは低い）
  • 結果： 本物の波とノイズの間のマッチングを無理やり行おうとするのではなく、各カメラ固有の「不具合」を無視することで、波の完璧なマップを取得します。

大きな教訓

この論文は、すべての不一致が等しく生み出されるわけではないと主張します。

• 古い方法： 「データを 10% 無作為に、あるいは単純なルールに基づいて拒絶しよう。」
• IC-POT： 「各データ片を個別に見てみよう。それが信頼できるなら、残す。信頼できないかノイズがあるなら、除外する。これは、その特定のデータ片に対して利用可能な特定の手がかり（影、信頼性スコア、またはセンサーの物理的特性など）に基づいて決定する。」

それは、「何を捨てるか」という決定を、鈍い道具から、精密で知的なツールへと変えるのです。

技術概要

技術的サマリー：意図制御部分最適輸送（IC-POT）

問題定義

古典的な最適輸送（OT）は、すべてのソース質量が輸送され、すべてのターゲット質量が説明されなければならないという硬直的な制約を課します。この「完全参加」の仮定は、質量の一部のみが関連性または信頼性を持つ分布を比較する際に、人工的な対応付けやネガティブ転移を引き起こすことがよくあります。

部分最適輸送（POT）は、質量が未マッチングのまま残ることを許容することでこの制約を緩和しますが、既存の定式化は通常、大域的制御メカニズムに依存しています。これには、輸送される質量の予算を規定するスカラー、均一なスカラーリベート、または大域的な周辺ペナルティが含まれます。これらのメカニズムは、どの程度の質量を棄却するかを制御しますが、どの特定の点を保護または破棄すべきかを制御するものではありません。その結果、質量を未マッチングにするという決定が、側面ごとの信頼性、サポート幾何学、または外部情報（例えば、ポジティブ・アンラベルド学習におけるサンプリングバイアス、ドメイン適応における信頼性、または地球物理学におけるセンサー固有のアーティファクト）に依存するアプリケーションには対応できません。

手法：IC-POT

著者らは、ソースとターゲットの両方の測度に対してポイントごとの棄却コストを導入し、大域的棄却パラダイムを置き換える、POT のターゲット化された一般化である**意図制御部分最適輸送（IC-POT）**を提案します。

定式化

質量 $\mu$ と $\nu$ を持つ離散サポート $X = \{x_i\}$ および $Y = \{y_j\}$ と、輸送コスト行列 $C$ が与えられたとき、IC-POT は、未マッチングのソース質量 $u$ と未マッチングのターゲット質量 $v$ に対応するスラック変数を導入します。最適化問題は以下の通りです：

$$\min_{P, u, v} \langle C, P \rangle + \langle c_s, u \rangle + \langle c_t, v \rangle$$

以下の制約条件の下で：
$$P\mathbf{1} + u = \mu, \quad P^\top\mathbf{1} + v = \nu, \quad P, u, v \geq 0$$

ここで、$c_s \in \mathbb{R}^n_+$ および $c_t \in \mathbb{R}^m_+$ はポイントごとの未マッチングコストです。大域的リベートとは異なり、これらのコストは、元のサポート上で特定の質量を未マッチングに留めるという局所的な代替案に直接価格を付けます。

構造的性質

本論文は、いくつかの重要な理論的性質を確立しています：

1. 削減されたラグランジュ形式：この問題は、部分結合（sub-couplings）上で $\sum_{i,j} (C_{ij} - c_s(i) - c_t(j))P_{ij}$ を最小化することと同等であり、古典的 POT のスカラーリベートを、分離可能なポイントごとのリベートに効果的に置き換えます。
2. 双対解釈：双対定式化は、$c_s(i)$ と $c_t(j)$ が双対変数のための**局所受入閾値（上限）**として機能することを明らかにします。ある点の双対変数がこの上限に達した場合、その点は棄却されます。
3. 許容性と疎性：エッジ $(i, j)$ が最適輸送計画でアクティブになるためには、$C_{ij} \leq c_s(i) + c_t(j)$ である必要があります。これにより、輸送グラフの剪定のための正確な事前計算ルールが提供され、特定の棄却コストに基づいて疎性が保証されます。
4. 拡張サポート等価性：IC-POT は、各周辺にダミー点を追加した拡張サポート上の標準的なバランスの取れたカンタロビッチ OT 問題として再定式化可能であり、離散 OT の枠組み内での適切性を証明します。

主要な貢献

本論文は、3 つの主要な貢献を主張しています：

1. 未マッチング行動の明示的モデリング：大域的制約の暗黙的な結果ではなく、元のサポート上のスラック変数を通じて、未マッチングポリシーを定式化における明示的な対象とします。
2. 理論的特徴付け：この問題を、分離可能なポイントごとのリベート一般化されたラグランジュ部分輸送として特徴付け、双対上限、疎な許容ルール、および一定コスト部分 OT からの厳密な分離を確立します（均一ルールによって保持される対称性をポイントごとのコストが破る反例を通じて実証）。
3. 実証的検証：棄却が構造化されているタスクにおいて、側面情報によって駆動されるポイントごとの棄却ルールを組み込むことがパフォーマンスを向上させることを実証します。具体的には、ポジティブ・アンラベルド（PU）学習、オープン・パートiaal ドメイン適応（OPDA）、および地球物理学的信号比較において示されました。

実験結果

1. ポジティブ・アンラベルド（PU）学習

PU 学習では、ラベル付けされたポジティブを、潜在的なポジティブとネガティブの両方を含むアンラベルドプールにマッチングさせることが目的です。

• 設定：著者らは、共変量依存の選択バイアスにより、ポジティブサンプルが特定の領域（フリンジ）で過少観測される「ランダム選択（SAR）」シナリオをシミュレートしました。
• 結果：一定コスト部分 OT ベースライン（均一棄却）は、これらの過少観測されたフリンジ領域をネガティブとして扱うことで、保護することに失敗しました。選択バイアスをエンコードするソース側コストプロファイル（低観測フリンジでの棄却を高コストにする）を使用する IC-POT は、ベースラインを大幅に上回る性能を示しました。
• 指標：不均一なレジームにおいて、IC-POT は F1 スコア 0.86 を達成し、一定コストベースラインの 0.52 と比較して大幅に優れていました。

2. オープン・パートiaal ドメイン適応（OPDA）

OPDA では、ターゲットドメインには棄却すべき未知のクラスが含まれています。

• 設定：固定された CLIP 蒸留バックボーンを使用し、著者らは最終的な棄却層のみを変更しました。均一な部分-W ベースラインと、2 つの IC-POT 変種（事後エントロピーを使用して低エントロピーサンプルを保護するもの、およびプロトタイプサポートを使用して一貫した局所近傍合意を持つサンプルを保護するもの）を比較しました。
• 結果：両方の IC-POT 変種は、複数のデータセット（Office-31, Office-Home, VisDA, DomainNet）において均一ベースラインを上回りました。プロトタイプサポート変種は、局所的に一貫したデータセットで最大の改善を達成しました（例：Office-31 において部分-W の 94.08 に対し、95.12 H スコア）。
• 知見：結果は、表現が固定された後、パフォーマンスの向上は、均一なスカラールールではなく、構造依存ポリシーとして棄却をモデル化することにかかっていることを示唆しています。

3. 地球物理学的ケーススタディ：SWIM/SAR 海洋波スペクトル

この実験は、異なるアーティファクトを持つ 2 つの異なるセンサー（SWIM と SAR）から取得された海洋波スペクトルの比較を対象としています。

• 文脈：SAR スペクトルは「アジマスカットオフ」（エネルギーを移動させる）に苦しむ一方、SWIM スペクトルは「スペクル」（信頼性の低い方向セクター）に苦しみます。目的は、物理的に一貫した波システムのみを比較することです。
• 手法：IC-POT は、物理的事前知識に由来する側面固有のコストを使用します：SWIM によって支持される場合、カットオフによって移動された SAR 質量を保護しつつ、スペクル優位または支持されていない質量を棄却に晒します。
• 結果：IC-POT は、高価格の大域的ベースラインと同等の波エネルギー（0.993）を回復しましたが、偽の輸送を 7 倍削減しました（0.031 対 0.236）。
• 重要性：共通システムの回復とアーティファクトの棄却の間でトレードオフを強制するスカラールールとは異なり、IC-POT は、棄却ポリシーをデータ自体の物理的性質によって定義することを可能にします。

意義と限界

本論文は、IC-POT が「どの程度棄却するか」から「何を棄却するか」へと、部分輸送のパラダイムを転換させる点で重要であると主張しています。未マッチングポリシーを明示的なポイントごとの変数とすることで、ドメイン固有の知識（サンプリングバイアス、信頼性、物理的事前知識）を輸送計画に直接反映させることを可能にします。

著者らが認める限界：

• 仕様：未マッチング関数（$c_s, c_t$）は、利用可能な側面情報または診断に基づいてユーザーによって指定されなければなりません。本論文は、これらの関数をデータから自動的に学習する方法を提案していませんが、将来の方向性として（例えば、バイレベル最適化を通じて）提案しています。
• スケーラビリティ：疎ソルバーは正確ですが、大規模なアプリケーションにはさらなる近似が必要となる可能性があります。
• 正則化：著者らは、標準的なエントロピー正則化（Sinkhorn）が、目的関数を変更すること（輸送される総質量へのバイアスの導入）やダミー点と実点の間のスケール不整合を生み出すことなく、拡張サポート定式化に直接適用できないと指摘しています。したがって、IC-POT は標準的なエントロピー OT ソルバーのドロップイン代替品ではありません。

結論として、IC-POT は、最適輸送における構造化された棄却のための柔軟なフレームワークを提供し、側面情報をポイントごとの棄却コストにエンコードすることが、「未マッチング」の決定が本質的に均一でないタスクにおいて優れたパフォーマンスをもたらすことを実証しています。