Effect of Demographic Bias on Skin Lesion Classification

技術要約：皮膚病変分類における人口統計学的バイアスの影響

問題提起
医療用画像におけるディープラーニングモデルは、全体的な診断性能において高い成果を上げている一方で、特定の人口統計学的グループに対してバイアスを示すことがよくあります。皮膚病変の分類においては、患者の性別や年齢といった保護属性に関する表現バイアス（学習データにおける系統的な不均衡）から、性能の格差が生じる可能性があります。これまでの研究では、これらの要因を単独で検討するか、あるいはデータ分布を系統的に制御することなく単一の撮像モダリティ内でのみ調査してきました。本研究は、制御された人口統計学的スキュー（偏り）がモデルの性能にどのように影響するか、また、特定のバイアス緩和戦略（シングルタスク、マルチタスク、および敵対的学習）が極端な分布不均衡に対してどの程度効果的であるかを包括的に評価する必要性に取り組むものです。

手法
著者らは、ISICアーカイブ（ダーモスコピー画像）から厳選されたサブセットを訓練および内部検証用として用い、外部データセットであるPAD-UFES-20（スマートフォン画像）とDERM7PT（ダーモスコピー画像）をクロスデータセット検証に使用するという、厳格な実験パイプラインを採用しました。

• 線形計画法（LP）によるデータセット構築： 人口統計学的分布を精密に制御するため、著者らはランダムサンプリングではなく、線形計画法を用いました。これにより、性別（100%男性から100%女性まで）および年齢（0–50、51–60、61–70、71–80、81+の5つの年齢区分）について、特定の事前定義された比率を持つ訓練および検証データセットを生成することが可能となりました。著者らは、7つの異なる性別分布シナリオと、3つの年齢分布スキーム（若年層偏重、バランス型、高齢層偏重）を作成しました。
• モデルアーキテクチャ： 以下の3つのResNet-50ベースのアーキテクチャを評価しました。
  1. シングルタスク・ベースライン： 良性対悪性の二値分類を行う標準的なモデル。
  2. 強化型マルチタスク・モデル： 主要な分類タスクと並行して、人口統計学的属性（性別または年齢）を予測する補助ヘッドを備えたモデル。著者らは、「強化（reinforcing）」という言葉が、強化学習ではなく、共有エンコーダを正則化するために人口統計学的信号の影響を強めることを指していると注記しています。
  3. 敵対的マルチタスク・モデル： エンコーダが学習された特徴から人口統計学的属性を予測することを禁止（相互情報量を最小化）するようにペナルティを与える、敵対的学習スキームを採用したモデル。ここでは、年齢に対しては負の二乗ピアソン相関損失を、性別に対してはバイナリクロスエントロピーを使用しています。
• 評価： モデルはスキューされたデータセットで訓練され、訓練バイアスの影響を分離するために、バランスの取れたホールドアウト・テストセットで評価されました。性能は、分類のためのAUC（曲線下面積）および、Brierスコア、平均絶対誤差（MAE）、ピアソン相関などの指標を用いて測定されました。クロスデータセット検証は、ファインチューニングを行わずに実施され、汎用性を評価しました。

主な貢献

1. 拡張された線形計画法による制御： 本研究は、従来の先行研究が主に性別に焦点を当てていたのに対し、5つの年齢グループと3つのスキューされた年齢分布を導入することで、性別と年齢のサブグループを同時に制御しており、先行研究を拡張しています。
2. 体系的な戦略評価： 著者らは、シングルタスク、強化型、および敵対的学習戦略を、極端な不均衡（例：男性95%/女性5%）を含む粒度の高い人口統計学的分布にわたって体系的に比較しています。
3. クロスデータセット検証： ダーモスコピー画像を用いた新しい外部データセットであるDERM7PTを、スマートフォンベースのPAD-UFES-20と共に導入し、ドメインシフト（ダーモスコピー vs スマートフォン）が人口統計学的バイアスとどのように相互作用するかを分析しています。
4. 補助ヘッドの分析： 著者らは、強化型モデルにおける補助予測ヘッドの性能（AUC、Brierスコア、MAE、相関）を、バイアス緩和メカニズムの成否を説明するための診断ツールとして用いる詳細な分析を提供しています。

結果

• 性別に基づくバイアス：
  • データの不均衡がバイアスを駆動： 性別特異的な訓練データセットは、その特定の性別に対して最良の性能を示しました。ベースラインモデルは顕著なバイアスを示し、スキューされたデータセットにおいて多数派の性別で高い性能を発揮しました。
  • 緩和の限界： 強化型および敵対的モデルは、バランス型および女性多数のデータセットにおいて、バイアスの格差を縮小または解消することに成功しました。しかし、男性多数の設定では、これらの戦略は効果が低く、モデルは引き続き女性よりも男性に対して高い性能を示しました。強化型モデルの補助ヘッドは、男性偏重のシナリオにおいて堅牢な識別器を学習できず（少数派である女性グループに対して高いBrierスコアを記録）、正則化効果の崩壊を招きました。
  • 非対称性： 男性優位の訓練が男性の性能を大幅に向上させた一方で、女性優位の訓練はISICデータセットにおける女性の性能に対して同等のブーストをもたらさなかったという、非対称性が観察されました。これは、モデルが男性特有の手がかりに過学習している可能性を示唆しています。
• 年齢に基づくバイアス：
  • 持続的な低下： データ不均衡によって主に引き起こされる性別バイアスとは異なり、年齢に関連する性能低下は、訓練がバランスされていても持続しました。若い年齢層（A1: 0–50）が一貫して最高の性能を達成した一方で、年齢が高くなるにつれて性能は段階的に低下しました。
  • ショートカットと相関： 補助的な年齢予測ヘッドは、バランス設定では中程度の相関を示しましたが、高齢者偏重の設定では最も若いコホートに対して強い相関を示しました。これは、分布が不均衡な場合、モデルが年齢特有の「ショートカット（近道）」に依存していたことを示唆しています。
  • バランス型の訓練の利点： バランス型の訓練は、若年層偏重の訓練と比較してA4年齢カテゴリーの性能を向上させましたが、年齢に伴う全体的な性能低下の傾向を排除するには至りませんでした。
• クロスデータセット検証：
  • ドメインシフトの影響： PAD-UFES-20（スマートフォン）およびDERM7PT（ダーモスコピー）を用いた外部検証では、内部検証と比較して大幅な性能低下が見られ、ドメインシフト（撮像モダリティおよび取得プロトコル）の影響が浮き彫りになりました。
  • バイアスパターンの変動： ISICデータセットで観察された人口統計学的バイアスのパターンは、外部データセットでは完全には再現されませんでした。例えば、PAD-UFES-20の女性優位コホートにおいて、敵対的モデルは女性患者に対する性能向上を示しており、これはISICの結果とは対照的です。

意義と主張
本論文は、皮膚病変分類における性別による性能格差は、主に訓練セットの不均衡によって引き起こされており、特に少数派クラスが補助ヘッドを訓練するのに十分な存在感を持っている場合には、マルチタスク学習や敵対的学習によって部分的に緩和できると主張しています。対照的に、年齢に関連する性能格差は、バランスサンプリングを行っても持続する、内在的な生物学的または生理学的な違い（例：肌の質感の変化、シワなど）に起因していると考えられ、データのリバランシングだけでは年齢に関する公平性を確保するには不十分であることを示唆しています。

著者らは、バイアスのメカニズムは複雑であり、データセットに依存すると強調しています。結論として、彼らの手法は、特定の格差の源泉を特定することで公平なAIの発展に寄与するものであるが、明示的な要因（データ分布、取得プロトコル）と暗示的な要因（生物学的変動、地理的差異）の相互作用を解明するには、さらなる分離が必要であるとしています。本研究は、異なる種類の人口統計学的バイアスに対しては異なる緩和戦略が必要であることを実証しており、より洗練されたヘルスケアAIシステムを開発するための基礎となるものです。