What Can Artificial Intelligence Learn from Medicine? Generative Analogies and Reliable Machine Learning Systems

技術的要約：人工知能は医学から何を学ぶことができるか？ 生成的類推と信頼できる機械学習システム

問題提起
本論文は、機械学習（ML）システムの展開を取り巻く認識論的および方法論的な課題、特に医学における課題を扱っている。MLシステムは、「非理論性」（因果理論ではなく統計的な関連性に依存すること）、「連想主義」（メカニズムではなくパターンを追跡すること）、および「不透明性」（内部の仕組みを完全に説明できないこと）という特徴を持つ。これらの特徴は、MLツールの信頼性と信頼性に関する重大な不確実性を生じさせる。London（2019）のような学者は、MLの評価基準を臨床へのトランスレーション（翻訳・実装）プロセスにモデル化することを提案してきたが、この並行関係は厳密な枠組みのないまま「魅力的な示唆」にとどまっていた。核心となる問題は、メカニズムの完全な理解なしに医薬品の不確実性を管理する方法と同様に、不透明で非理論的なMLシステムに対して、いかにして認識論的な正当性を確立するかである。

方法論
著者らは、メアリー・ヘッセ（1966）の類推推理の理論に基づいた哲学的分析を採用している。

1. 類推の再構成： 本論文は、医学とMLの関係を「予測的類推」（共有された特性に基づいてMLの特定の特性を推論すること）として捉える見方を超え、その並行関係を生成的類推として特徴づけている。この枠組みにおいて、類推は結果を予測するものではなく、研究戦略を生成するものである。
2. 臨床トランスレーションの解体： LondonおよびKimmelman（2015）に基づき、著者らは臨床トランスレーションのプロセスを、メカニズム的な真理の探求としてではなく、「介入アンサンブル（intervention ensembles）」の組み立てとして分析している。これらは、ある薬剤が治療として有用である境界を定義する、治療、集団、およびアウトカムに関する情報の構造化された集合である。
3. 信頼主義的解釈： 著者らは、臨床トランスレーションの正当性を信頼主義的な観点から解釈し、二種類の信頼性を区別している。
   • アンサンブル信頼性（Ensemble-reliability）： 特定の文脈において分子が治療の可能性を持つかどうかを正しく特定するプロセス。
   • 使用信頼性（Use-reliability）： 新しい文脈の条件が確立された介入アンサンブルと一致しているかどうかを判断し、その新しい設定において薬が機能することを保証する能力。
4. 生成的転移： 著者らは、この枠組みをMLに適用し、**学習アンサンブル（Learning Ensemble: LE）**と呼ばれる類似の構造を提案している。彼らは、臨床的介入アンサンブルの次元をMLの文脈に適応させ、既存の報告ガイドライン（SPIRIT-AI、CONSORT-AI、TRIPOD+AI）を利用して具体的な構成要素を特定している。

主な貢献と結果
主要な貢献は、MLの信頼性を評価するための構造化されたアプローチである**学習アンサンブル（LE）**の定式化である。これは、ML固有の不透明性と非理論性を排除するのではなく、管理するためのものである。LEは3つの次元で構成され、各次元には信頼性を付与するための「正」または「負」のメカニズムとして機能する特定の構成要素が含まれている。

1. 信頼性の境界（Boundaries of Reliability）次元：

   • 構成要素： ユーザーグループ、インフラストラクチャの仕様、および入力データの特性（プロベナンス、代表性、品質）。
   • 機能： MLシステムが構築され、テストされた特定の条件を確立する。
   • メカニズム： 正のメカニズム（例：多様なデータのプロベナンス）は、安定したパターン学習への自信を高める。負のメカニズム（例：データの不一致や「Garbage-in/Garbage-out」のリスクの特定）は、ショートカットや分布の変化といった既知の失敗を回避するのに役立つ。
   • 例： 本論文は、データのアライメントやデータベースの汚染に関する精査が欠如していたPooreら（2020）のがんマイクロバイオーム研究を引用している。堅牢なLEであれば、これらのデータの問題を負のメカニズムとしてフラグ立てしていたはずである。

2. パフォーマンス（Performance）次元：

   • 構成要素： 定量的指標（損失関数、不確実性の報告）、サブグループ性能分析、および指標選択の正当化（例：適合率-再現率対感度-特異度のトレードオフ）。
   • 機能： 定義された境界内において、適切な出力を提供してきた記録を評価する。
   • メカニズム： サブグループ分析は、アルゴリズムのバイアス（例：恵まれない集団における性能低下）を検出するための負のメカニズムとして機能する。指標の選択を正当化することは、システムがタスクの特定の目標（例：診断か検索か）に適合していることを確実にする。

3. 機能的（Functional）次元：

   • 構成要素： 「効果関数（effect functions）」（システムが行うこと、例：分類）と「目的関数（purpose functions）」（意図された現実世界への貢献、例：臨床的トリアージ）の区別。
   • 機能： システムの出力と、実装コンテキストのドメイン規範および知識との整合性を確保する。
   • メカニズム： 不整合を検出するための負のメカニズムとして機能する。
   • 例： 喘息患者における肺炎リスクに関するCaruanaら（2016）の研究は、効果関数（リスク分類）が目的関数（トリアージ）をサポートできなかった失敗例として引用されている。これは、モデルが喘息患者に対する積極的な治療という交絡変数を考慮できていなかったためである。

意義と主張
本論文は、既存の計算論的信頼主義（Duran 2026）とは異なるが、それと互換性のある、新しい形態のML信頼主義を提供すると主張している。

• 透明性との区別： 不透明性を解決するために完全な透明性を求めるアプローチとは異なり、LEフレームワークは、信頼性は不透明性にもかかわらず確立できると主張する。それは、メカニズム的な説明を要求するのではなく、構造化された情報収集（アンサンブル）を通じて、非理論性と連想主義のリスクを管理する。
• 生成的有用性： このフレームワークは具体的な研究戦略として機能する。それは「臨床トランスレーション」という抽象的な概念を、実践者が文書化し評価すべき構成要素（境界、パフォーマンス、機能）の具体的なチェックリストへと翻訳する。
• 限定的な範囲： 著者らは、これが予備的なフレームワークであることを認めている。彼らは、学習アンサンブルのあらゆる構成要素を網羅したと主張しているわけでも、完全に自動化された評価ツールを提案しているわけでもない。代わりに、彼らは、信頼性は単なる膨大な定量的指標ではなく、ドメイン知識、データのプロベナンス、および機能的整合性を伴うホリスティックな取り組みであることを強調しながら、MLシステムの構築と評価を導くための哲学的構造を提示している。

本論文は、臨床トランスレーションの生成的類推を採用することで、MLコミュニティは不透明性の行き詰まりを乗り越え、医学のようなハイステークスな領域において、機械学習システムに対する強固な認識論的正当性を開発できると結論付けている。