When high AUROC does not travel: internal-to-external performance differences in machine-learning models for antimicrobial resistance

スーパーバグとの戦いにおいて、医師や科学者は、どの細菌がどの抗生物質に耐性を持つかを予測するために、ますますコンピュータに頼るようになっています。機械学習を用いて構築されたこれらのコンピュータプログラムは、高度に訓練されたパターン認識のエキスパートのように機能します。これらは、患者の記録、検査結果、遺伝子配列といった膨大な医療データをスキャンし、特定の感染症が標準的な薬物治療を生き延级するかどうかを推測します。これらのプログラムが開発された病院内でテストされるとき、それらはしばしば現代医学の奇跡のように見え、高い精度で耐性菌を正しく特定します。この成功は、これらのツールが間もなく、命を救う治療決定を導くために世界的に展開できるという希望を研究者や臨床医に与えています。

しかし、ある病院のデータから学習したコンピュータプログラムは、別の病院のデータをどのように読み取ればよいかを自動的に知っているわけではありません。まるで、小さな町の静かな通りで運転を学んだ人が、大都市の混沌とした高速道路で苦労する可能性があるのと同様に、これらのモデルは、自身の開発環境を離れる際に隠れた課題に直面します。異なる国、異なる時代、あるいは隣接する都市のデータは、現地の細菌株、検査機器、または患者層の変動により、微妙に異なって見えることがあります。医療AIの未来における重要な問いは、これらのモデルが自国でどれほど優れた性能を示すかではなく、新しい場所で実社会の仕事に従事する際に、その精度がどれほど低下するかという点にあります。

ある新しい研究は、まさにこの性能の低下を測定することを目的としました。研究者のディプト・ロイ（Dripto Roy）は、モデルを2つの場所、つまりまずモデルが構築された病院で、次に完全に独立した病院またはデータセットでテストした、発表済みの機械学習研究のコレクションを集めました。目的は単純かつ極めて重要でした。それは、モデルの「地元での自信」と「海外での実際のパフォーマンス」の差を見ることです。これらのペアになったテストの結果を比較することで、本研究は、科学論文で報告されている高い成功率が将来の成功への信頼できる約束なのか、それとも旅に出ると消えてしまう幻なのかを判断することを目指しました。

この調査は、特定の研究グループに焦点を当てました。それらは、同じモデルおよび同じ予測タスクに対して、内部スコアと外部スコアの両方を報告したものです。合計で、研究者は8つの独立した研究論文から抽出された47の異なる比較を分析しました。これらの比較は、電子健康記録、全ゲノムシーケンシング、臨床検査報告書を用いたデータを使用し、MRSAや薬剤耐性肺炎のような危険な細菌の予測を含む、幅広いシナリオをカバーしていました。研究者は、モデルの性能がどのように変化するかを確認するために、すべての比較について内部スコアと外部スコアの差を算出しました。

結果は、明確ながらも微妙なニュアンスを含んだパターンを明らかにしました。47件の個別の比較のうち、大多数である36件において、モデルは学習に使用したデータよりも、新しい外部データでテストされたときの方が性能が悪化しました。平均して、精度の低下は顕著であり、外部スコアは内部スコアを下回る測定可能な差を示しました。これは、開発環境で見られる「楽観主義」が高いスコアを生み出すという現象が現実であることを裏付けました。つまり、モデルは自身の環境を離れると、鋭さを失う傾向があるのです。

しかし、より大きな視点で見たとき、物語はより複雑になります。研究者は、単にすべての比較を平等な証拠として数えることは誤解を招くと気づきました。ある研究論文は、同じ患者グループおよび同じデータ処理手順から派生した、数十もの異なるモデルのバタリエーションや抗生物質の標的を報告している場合があります。もし、一つの論文からのこれら多くの結果をすべて平等にカウントすれば、一つか二つの比較しか報告していない他の論文の結果を圧倒してしまうことになります。研究者が、各研究論文を一つの証拠ユニットとして扱い、含まれる数値の量に関わらず、すべての論文に平等な発言権を与えるように分析を調整したとき、その図式は大きく変わりました。

このよりバランスの取れた視点の下では、性能の平均的な低下は大幅に縮小しました。モデルは依然として、自身の開発環境の外では一般的に性能が低下するものの、その差は当初のカウントが示唆したものよりもはるかに小さくなりました。実際、8つの研究全体を見たとき、平均的な差は非常に小さく、ゼロである可能性も十分にありました。これは、一部のモデルは輸送されると大幅な精度低下に見舞われる一方で、他のモデルは驚くほど堅牢であり、分野全体が単一の普遍的なペナルティを被っているわけではないことを意味しています。低下の大きさは、特定の研究、使用されるデータ、および結果がどのようにカウントされるかに完全に依存します。

また、本研究は現在の医療AIの状況において何が欠けているかを浮き彫りにしました。レビューされたほとんどの論文は、モデルを新しい設定でテストしようと試みてはいたものの、モデルが適切に「較正（キャリブレーション）」されているかどうかまで踏み込んだものは極めて少数でした。較正は、単純な精度を超えた重要な概念です。それは、モデルが出力する確率の数値が、現実世界のリスクと実際に一致しているかを問うものです。例えば、モデルがある患者に20%の耐性確率があると予測した場合、その患者が実際に5回に1回の割合で耐性を持っているでしょうか。レビューの結果、この極めて重要なチェックはほとんど報告されていないことが分かりました。さらに、細菌が進化するにつれてモデルが正確性を維持できるかを検証するために時間を追ってテストしたり、患者が病院に到着する際の予測を行う前向きな（プロスペクティブな）方法でテストしたりした研究も、ごくわずかでした。

これらの知見は、私たちが医療AIの成功をどのように解釈すべきかについての警告として機能します。本研究は、論文の単なる高い精度スコアをそのまま受け取り、それがどこでも通用すると仮定することはできないと主張しています。パフォーマンスの差の大きさは、証拠をどのように数えるかに非常に敏感です。もし論文内の個々のモデルのバリエーションを別々の事実としてカウントすれば、問題は誇張されます。もし各論文を一つのストーリーとして扱えば、問題は小さく見えますが、依然として存在します。研究は、成功したコンピュータモデルから医師のための信頼できるツールへと至る道のりは、まだ進行中の作業であり、出版されたスコアに対して適用できる単純な数学的解決策や普遍的な補正係数は存在しないと結論付けています。

むしろ、進むべき道は、より高い透明性と厳格さを必要としています。研究者は、トレーニング段階からテスト段階へと情報が漏洩しないように、データの分割方法を明示する必要があります。彼らは、モデルが患者をどのようにランク付けするかだけでなく、その確率推定が現実とどれほど一致しているかも報告しなければなりません。最も重要なことは、モデルを真に独立した環境で検証し、ホーム環境と新しい設定の両方における患者数と耐性の有病率の具体的な数値を報告することです。これらの基準が常識となるまで、文献に報告される高いスコアは、まだ完全には果たされていない約束であり続け、成功したコンピュータモデルから信頼できるツールへの旅は、未完の作業であり続けるでしょう。