テクニカルサマリー：DisMix – 医療画像における順序および非順序特徴量の解きほぐしによる、順序を考慮したMixup

問題提起

標準的な画像Mixup（画像間の補間的なサンプルを生成することで汎化性能を向上させる、ディープラーニングで広く用いられる手法）は、医療画像において頻出する順序分類タスク（例：疾患の重症度評価）に対して、根本的に不適切である。これらの領域では、ラベルは離散的かつ独立したカテゴリではなく、重症度の進行（例：Kellgren–Lawrenceスケール 0–4）を表している。

従来のMixup戦略は、以下の2種類の異なる特徴量を無差別に混合してしまう：

1. 順序特徴量（Ordinal features）： ランクや重症度を定義する手がかり（例：病変の大きさ、関節裂隙の狭小化）。
2. 非順序特徴量（Non-ordinal features）： 重症度とは無関係な外観レベルの変動（例：撮像アーチファクト、背景、染色性の違い）。

この絡み合った混合は、基礎となる順序構造を破壊する。本論文で示されているように、標準的な混合は、生物学的に不自然な構造（例：方向が崩れた膝関節の隙間や、複数の視神経乳頭）を生成し、特徴量分布を歪ませ、異なるランクのサンプル同士を絡み合わせてしまう。この失敗モードは、特にグレーディングのばらつき（アノテータ間の不一致）が存在する場合において、堅牢な順序分類器の学習を阻害する。

手法：DisMix

順序学習と従来のMixupとの間の不適合性を解決するために、著者らは「DisMix」と呼ばれる順序を考慮したMixupフレームワークを提案する。その核心となる革新は、混合が行われる前に、順序特徴量と非順序特徴量を個別の潜在空間へと明示的に解きほぐす（disentangle）ことにある。

1. 解きほぐされた表現学習

DisMixは、入力画像を2つの異なる潜在成分に分解するために、**デュアルコードブック式ベクトル量子化変分オートエンコーダ（dual-codebook VQ-VAE）**を採用している。

• 順序潜在変数 ($z_o$)： ランクを定義する構造を捉える。
• 非順序潜在変数 ($z_n$)： ランクに依存しない変動（外観）をエンコードする。

このアーキテクチャは、以下のメカニズムを用いて最適化される：

• 順序ブランチ： エンコーダの特徴量は、ランクのセマンティクスへとバイアスをかけるために、複数のアノテータから得られた順序ソフトラベルによって条件付けられる。アテンションベースの量子化器が、順序コードブック ($M_o$) から離散コードを選択する。補助的な線形分類器が、Soft Ordinal Regression (SOR) 損失を通じて、$z_o$ が順序情報を保持することを強制する。
• 非順序ブランチ： 順序情報を抑制するために、このブランチは敵対的な目的関数を利用する。線形分類器が $z_n$ からランクを予測しようとするが、その勾配は**勾配反転層（GRL）**を介して反転される。これにより、非順序量子化器がランクに敏感な信号を破棄するように強制される。
• 解きほぐし正則化： 2つの潜在表現間のコサイン類似度を最小化し、それぞれの部分空間が明確に分離されるようにする。
• 敵対的学習： マルチタスク識別器が、再構成された画像の知覚的なリアリズムと順序の一貫性を保証する。

2. 順序を考慮したMixupポリシー

VQ-VAEの学習および凍結後、DisMixは潜在コードを独立して操作することで拡張サンプルを生成する。論文では4つの混合ポリシー（表1）を定義している：

• Ordinal Mix（順序混合）： 非順序コードを固定したまま、順序コードを補間する ($\tilde{z}_o = \lambda z_o^i + (1-\lambda)z_o^j$)。これにより、ソフトラベルを持つ中間的なランクが生成される。
• Non-Ordinal Mix（非順序混合）： 順序コード（およびそれに伴うランクラベル）を固定したまま、非順序コードを補間する。これにより、重症度を変えることなく外観の多様性が導入される。
• Order Swap（順序入れ替え）： 2つのサンプルの間で順序コードと非順序コードを入れ替える。
• Generate & Mix（生成および混合）： アンカー画像の順序コードを新しいランクに基づいて条件付けすることで、隣接するランクのバリアントを生成し、その後にOrdinal Mixを適用する。

これらのポリシーにより、順序のマニフォールド（多様体）を維持しながら、外観の多様性を豊かにする制御された拡張が可能となる。

主な貢献

1. DisMixフレームワーク： 順序および非順序の特徴量を個別の潜在空間へと解きほぐし、順序一貫性のある拡張サンプルを合成することを可能にする、順序を考慮したMixup手法の導入。
2. 解きほぐされた潜在ポリシー： 順序信号の破壊を防ぐために、解きほぐされた部分空間上で個別に動作する特定の混合戦略（Ordinal Mix, Non-Ordinal Mix, Order Swap, Generate & Mix）の提案。
3. 包括的な評価： 4つの医療画像データセット（膝変形性関節症、糖尿病網膜症、大腸組織病理、前立腺組織病理）を用い、6つの最先端のMixupベースラインおよび6つの順序分類器に対して広範なベンチマークを実施。

実験結果

著者らは、24通りのMixup手法と順序分類器の組み合わせにわたってDisMixを評価した。主な知見は以下の通りである：

• 総合的な性能： DisMixは、24設定中20設定で最高の精度を達成し、24設定中15設定で最高の平均絶対誤差（MAE）を達成した。
• 統計的有意性： 最も強力なベースラインと比較して、DisMixは統計的に有意な総体的な精度の向上（片側ウィルコクソン符号付き順位検定、$p = 0.0075$）を示し、MAEを**4〜6%**減少させた。
• データ不足時： データ不足（クラスあたりのサンプル数が10%のみの訓練）においても、DisMixはベースラインを上回り、最小限の訓練データでIDRIDデータセットにおいて精度を約1.5%向上させた。
• グレーディングのばらつきに対する堅牢性： DisMixは、高いグレーディングのばらつき（最大70%の不一致）の下でも効果を維持したが、他の手法は、特に混合確率が高い場合に性能低下が見られた。
• 境界エラーの減少： DisMixは、一貫して最も低い境界レベルの分類エラーを達成した（例：IDRIDにおいて、最良のベースラインと比較してC2↔C3のエラーを9%削減）。
• 定性的分析： 可視化により、DisMixは（非順序属性を維持しながら）生物学的に妥当な遷移（例：病変の暗色化、関節隙の狭小化）を生成する一方で、他の手法はしばしば解剖学的に矛盾したアーチファクトを生成することが確認された。

意義と主張

本論文は、従来のMixupと順序学習との間の根本的な不適合性は、ランクを定義する特徴量と無関係な外観の変動が絡み合っていることに起因すると論じている。これらの要因を解きほぐすことで、DisMixは順序の幾何学的構造を尊重した制御された混合を可能にする。

著者らは、DisMixが順序データに対して順序を考慮した混合の必要性を実証していると主張する。ラベルを破壊するか、あるいは外観の手がかりを無視することで拡張を十分に活用できない既存の手法とは異なり、DisMixはラベルの忠実度を維持しながら意味的な多様性を高めるメカニズムを提供する。結果は、解きほぐしベースの手法が、特にグレーディングのばらつきや限られたデータが存在する医療画像における堅牢な順序学習において、有望な方向であることを強調している。

論文は、生成された画像は臨床的な解釈のためではなく、あくまでデータ拡張を目的としたものであること、また補間されたランクは、新たに臨床的に定義されたグレードではなく、ソフトな教師信号として機能することについて、その範囲に関する控えめな立場を維持している。さらに、著者らは、解きほぐされた表現の学習に伴う計算コストを認めているが、これは各データセットに対して一度限りのコストであり、ダウンストリームのタスク全体で償却されるものであると述べている。