技術概要：大腸内視鏡検査動画におけるノイズを含む時間的自己教師あり学習による対照学習

問題定義

ポリープトラケル（同一のポリープの連続した検出の系列）の堅牢な表現学習は、ポリープの特性評価、自動報告、病変検索など、さまざまな AI 支援大腸内視鏡検査アプリケーションにとって不可欠である。教師あり対照学習は有効であることが証明されているが、これは動画全体を通じて同一の根底にあるポリープに検出を結びつける「ポリープ実体」の注釈に依存している。これらのラベルを生成するにはコストと時間がかかり、専門的な臨床知識が必要となるため、教師ありアプローチのスケーラビリティが制限されている。

既存の自己教師あり手法は、トラケルを分割した不交なセグメントに分割したり、クラスタリングしたりすることでこれを回避しようとする。しかし、これらのアプローチは、動画全体にわたるポリープ実体の完全な意味的一貫性を捉えられないことが多い。一方、明示的な実体注釈を利用する最近の教師あり手法は優れた性能を達成しており、教師あり学習と自己教師あり学習の間に大きな隔たりがあることを浮き彫りにしている。課題は、大腸内視鏡検査の視覚環境が極めて多様である（視点、スケール、照明、モーションブラー、遮蔽の変化）にもかかわらず、手動による実体注釈に依存することなく、この隔たりを狭めることである。

手法

提案されるフレームワークは、大腸内視鏡検査の手順に固有の逐次的ワークフローを活用し、時間的構造から自己教師あり関連性を導き出す。核心的な仮定は、時間的に近い観測は同一のポリープ実体を描写する可能性が高いというものである。

1. 自己教師ありとしての時間的構造

この手法は、グランドトゥルースのポリープ検出からトラケルのデータセット $\{x_i\}$ を構築する。動画 $v_i$ 内の各アンカートラケル $i$ に対して、同じ動画内の他のトラケル（$v_j = v_i$）から、候補となる正のトラケルの「バッグ」を構築する。

• ランキング: トラケルをアンカーからの時間的距離でソートする。
• バッグ構築: 時間的に最も近いトラケルのみを選択する（これは冗長なビューをもたらす）のではなく、指数分布 $P_\tau(r) \propto \exp(-r/\tau)$ から $K$ 個の異なるランクをサンプリングする。温度パラメータ $\tau$ はバッグの多様性を制御する：低い $\tau$ は近い近隣（高い類似性、低いノイズ）を選択し、高い $\tau$ は遠い近隣（高い多様性、誤った関連性のリスク増大）を選択する。
• カリキュラム学習: ビューの多様性と関連性の正確さの間のトレードオフをバランスさせるため、カリキュラム変数 $c \in [0, 1]$ を導入する。温度 $\tau$ は、トレーニングの過程で、余弦スケジュールを使用して最小値から最大値へと徐々に増加する。これにより、モデルは安全で非常に類似した関連性から始め、より多様で潜在的にノイズの多い時間的関連性から段階的に学習することを可能にする。

2. ノイズ感知対照損失

時間的近接性は、2 つのトラケルが同一のポリープに属することを保証するものではない（例：2 つの異なるポリープが連続して現れる場合）ため、生成される「バッグ」には「不純な」サンプル（異なるポリープからのトラケル）が含まれる可能性がある。バッグ内のすべてのサンプルを正として扱うと、表現学習が劣化する可能性がある。

著者は、標準的な対照制約を緩和するノイズ感知対照損失を提案する。バッグ内のすべての正のサンプルをアンカーと類似させることを要求するのではなく、この損失は、少なくとも 1 つのトラケルが、バッグ内のどのトラケルが他のどのアンカーとも類似するよりも、アンカーとより類似していることを強制する。

• 数式定式化: 損失関数は、max 演算子の log-sum-exp 近似を利用する。バッグ内のベストマッチングの正とアンカー間の類似性を最大化し、アンカーと他のアンカーからの負のサンプル間の類似性を最小化する。
• 効果: この定式化により、モデルはバッグ内のノイズのある（誤った）時間的関連性を効果的に「無視」し、それらが学習された埋め込み空間を劣化させるのを防ぐことができる。

3. アーキテクチャ

このフレームワークは、フレーム埋め込み抽出のための ResNet-50 で構成される軽量エンコーダを使用し、その後、グローバルなトラケル表現を集約するための 3 層のトランスフォーマーエンコーダのスタックが続く。損失は、最終的なトラケル埋め込み、フレームごとの埋め込み、またはその両方に適用できる。

主な貢献

1. 自己教師ありフレームワーク: 大腸内視鏡検査の逐次的ワークフローを活用して時間的構造から自己教師信号を構築し、手動によるポリープ実体注釈の必要性を排除する新規アプローチ。
2. ノイズ感知対照損失: バッグ内の最も一貫性のある正のサンプルのみが学習プロセスを駆動することを保証することで、ノイズのある時間的関連性の影響を軽減するように設計された損失関数。
3. 包括的な評価: 複数のダウンストリームタスクにおいて、4 つの公開データセット（REAL-Colon、SUN、PolypSize、PolypsSet）で実施された広範な評価により、最近の基盤モデルと同等かそれ以上の性能を実証。

結果

この手法は、REAL-Colon データセットからの 27 本の動画（85 個のポリープ）のみでトレーニングされ、4 つのダウンストリームタスクで評価された。

• ポリープ検索: 平均平均精度（mAP）とヒット率で測定。
• 再識別（ReID）: AUROC と AUPR で測定。
• サイズ推定: 非線形プロービングによる二値分類（微小 vs 微小でない）。
• 組織学分類: 非線形プロービングによる二値分類（腺腫 vs 非腺腫）。

性能ハイライト:

• 自己教師ありベースラインとの比較: 提案手法は、TPC、MVE、SFE などの先行する自己教師ありアプローチを有意な差で上回った。具体的には、検索 mAP で 23.69%、組織学精度で 24.4% の相対的改善を達成した。
• 完全教師ありベースラインとの比較: この手法は、高価な実体注釈に依存する完全教師ありベースラインと一貫して同等かそれ以上の性能を達成した。例えば、ReID において、最良の教師ありベースラインに対して AUPR を 18.56% 改善した。
• 基盤モデルとの比較: 27 本の動画でトレーニングされた軽量エンコーダ（2560 万パラメータ）は、11 億 3600 万パラメータの DinoV2-giant などの大規模な汎用基盤モデルや、すべてのタスクにおいて内視鏡固有の基盤モデルと同等かそれ以上の性能を発揮した。
• アブレーション研究: 指数分布に基づくランクサンプリングとカリキュラム学習戦略の両方が性能向上に寄与することを確認した。フレームとトラケルの両方の埋め込みに対して損失を適用することが、全体的に最良の結果をもたらした。

意義と主張

本論文は、この研究が手動注釈への依存を大幅に軽減しつつ、臨床アプリケーションにおける高い性能を維持することで、大腸内視鏡検査におけるスケーラブルな表現学習を可能にすると主張している。大腸内視鏡検査動画の手順構造を活用し、時間的自己教師あり学習に固有のノイズを処理するメカニズムを導入することで、著者らは、堅牢なポリープトラケル表現を効率的に学習できることを実証している。小規模なデータセットでトレーニングされた軽量アーキテクチャを用いて、大規模な基盤モデルの性能と同等かそれ以上を達成できる能力は、データ注釈リソースが限られている臨床現場において AI 支援ツールを配備するための実用的な道筋を示唆している。