Scientific Explanations in Health Sciences: Causality, Trust, and Epistemic Adequacy

あなたは、医師を訪ねたところ、人間の代わりに超高性能なコンピュータ・プログラムがあなたの病気の診断を助けている場面を想像してみてください。このコンピュータは驚異的に正確で、ほとんどの場合、正解を導き出します。しかし、問題は、これが「ブラックボックス」であることです。コンピュータは結果を出してくれますが、なぜその選択をしたのかという理由を教えてくれません。それはまるで、手品師がウサギを取り出す魔法を見せているのに、その種明かしを拒んでいるようなものです。

マルティナ・マッティオリとマルチェロ・ペリッロによるこの論文は、医療において、私たちは単にこの「手品」を受け入れるだけではいけないと主張しています。私たちは、コンピュータの決定の背後にある「推論」を理解する必要があります。著者らは、現在の「説明可能なAI（XAI）」という分野には、決定的な要素である**「哲学」**が欠けていると示唆しています。

以下は、日常的な比喩を用いた、彼らの主要な論点の簡単な解説です。

1. 問題点：正確さ vs 理解

現在、医療AIの世界では大きな論争があります。

• 「正確さ第一」チーム： 「コンピュータが99%の確率で正解なら、どうやってそれが実現されたかなんて誰が気にするのか？ とにかく動かせばいい」と言う人々です。彼らは、説明を求めることがスピードを落としたり、コンピュータの正確さを損なったりすると主張します。
• 「説明可能性第一」チーム： 著者らは、医療においては**「信頼」**こそがすべてであると主張します。もし医師が命を救うためにコンピュータを信頼するのであれば、なぜコンピュータがそう判断したのかを知る必要があるのです。ブラックボックスをただ信じることはできません。その背後にある「論理」を信頼する必要があるのです。

2. 優れた説明の3つの柱

著者らは、これを解決するために、科学哲学の考え方を借りて、3つの具体的な要素を見る必要があると述べています。

A. 因果関係：「クモの巣」 vs 「ビリヤードの球」

• 古い見方（ビリヤードの球）： ビリヤードの球が並んでいる様子を想像してください。最初の球を打つと、それが最後の球を弾き飛ばします。原因と結果は単純で直線的です。一部のAIモデルはこのように機能します。「症状Xが見られたら、疾患Yである」といった具合です。
• 現実の医学的視点（クモの巣）： 著者らは、医学はもっと**「クモの巣」**に近いと主張しています。病気は通常、一つの事象が別の事象を叩いて起こるような単純なものではありません。遺伝、ライフスタイル、環境、そして運といった複雑な要素が、すべて絡み合っています。
• 教訓： 優れた医療AIの説明は、単に「これとこれが同時に起きている」と言うだけでは不十分です。それは**「つながりの網目」*を説明できなければなりません。もしAIが治療法を提案するなら、その治療がどのように結果を（予測するだけでなく）実際に変化させるのか（介入）*を示す必要があります。

B. 信頼：「受託者（フィデューシャリー）」の関係

• 比喩： 医師と患者の関係を、患者が脆弱な立場にあり、医師が彼を守る特別な義務を負っている「チーム」だと考えてください。これは「受託者（フィデューシャリー）」関係と呼ばれます。
• AIの問題： AIがチームに加わるとき、患者は医師を信頼し、医師はAIを信頼しなければなりません。もしAIがブラックボックスであれば、医師はなぜリスクのある手術を推奨するのかを説明することができません。これは信頼の連鎖を断ち切ってしまいます。
• 教訓： 信頼とは、単にAIが「信頼できる（リライアブル）」こと（例えば、常にソーダを出す自動販売機のようなもの）ではありません。医学における信頼とは、**「正当化」**です。AIは、医師の患者に対する義務に適合する理由を提供しなければなりません。もしAIが「もっともらしいが偽りの理由」を与えた場合、それは誤った自信を生んでしまうため、非常に危険です。

C. 適切な相手に対する適切な説明

• 比喩： 車のエンジンについて説明することを想像してください。
  • 整備士に対しては、ピストン、燃料噴射、トルクについて話します。
  • 乗客に対しては、「エンジンから音がしているので、安全のために停車する必要があります」と言います。
  • 規制当局に対しては、安全ログやコンプライアンス書類を見せます。
• 教訓： 医療において「万能な説明」は通用しません。
  • 医師は、治療を正当化するための詳細な因果的理由を必要とします。
  • 患者は、理解できる物語のような説明を必要とします。
  • 規制当局は、システムが公正で責任あるものであるという証拠を必要とします。
  • 現在のAIは、しばしば全員に同じ一般的な回答を与えることが多く、これは多様なニーズに応えられていません。

3. 解決策：AI設計のための3つの新しいルール

著者らは、医療AIが真に「説明可能」であるために従うべき、3つのシンプルなルール（原則）を提案しています。

1. 説明は行動をサポートしなければならない： 説明は単なる記述であってはなりません。それは医師が何をすべきかを決定する助けとなるべきです。AIが「これは肺炎のように見えます」と言うなら、治療を変えることがなぜ患者の回復につながるのかについても説明すべきです。
2. 説明はカスタマイズされなければならない： AIは「声」を切り替えられるべきです。医師には科学者のように、患者にはストーリーテラーのように、そして規制当局には弁護士のように話すべきです。
3. 信頼はテストされなければならない： 人々が「見た目がかっこいいから」あるいは「正確だから」という理由だけでAIを信頼していると決めつけてはいけません。説明が、（正しい方法＝事実に基づいた方法ではなく）「間違った方法＝見た目の美しさなどに惑わされた方法」に基づいて、医師に自信を与えてしまっていないかをテストする必要があります。

結論

この論文は、現在の医療AIは数学と統計に集中しすぎていると結論づけています。安全で有用なものにするためには、哲学を取り入れる必要があります。

優れた医療における説明とは、単なる技術的なレポートではありません。それは、機械、医師、そして患者の間の**「信頼の架け橋」**なのです。もし私たちが、適切な哲学的ツール（複雑な因果の網の理解、医師と患者の絆の尊重、そして適切な相手への対話）を用いてこの架け橋を築かなければ、私たちは真に理解できていない機械を信頼してしまうリスクを負うことになるのです。