Trust in, acceptance of, and responsibility for, artificial intelligence in healthcare: patient and healthcare practitioner considerations

オランダのErasmus Medical Centerで行われた質的研究により、人工知能（AI）の医療導入に関する医療従事者と患者の視点には、知識・倫理・臨床的実務という共通のテーマが存在するものの、前者が検証や業務効率を重視する一方、後者は人間性や信頼関係を重視するなど、責任の受け止め方において複雑な相違があることが明らかになった。

要約

この論文は、**「医療現場に AI（人工知能）がやってきたとき、お医者さんと患者さんはどう感じているのか？」**というテーマを、オランダの病院で実際にインタビューをして調べた研究です。

まるで**「新しい自動運転機能付きの車」が導入されるのを、「プロのドライバー（お医者さん）」と「乗客（患者さん）」**がどう受け止めているかを探るような物語です。

以下に、難しい専門用語を排し、日常の比喩を使ってわかりやすく解説します。

---

🏥 物語の舞台：新しい「ナビゲーター」の登場

病院には、手術後の退院時期を判断するのを助ける新しい AI システム（名前は「DESIRE」）が導入されました。これは、お医者さんの経験則に、AI が計算した「データに基づくアドバイス」を足すようなものです。

研究チームは、このシステムについて18 人の医療従事者（外科医と看護師）と12 人の患者さんにインタビューしました。

🔍 3 つの大きな発見

この研究では、お医者さんと患者さんの考え方に、**「3 つの大きな共通点」と「いくつかの面白いズレ」**が見つかりました。

1. 「AI の知識」について：魔法の箱か、道具か？

• お医者さんの視点：
  お医者さんたちは、AI を「魔法の箱」ではなく「道具」として見ています。「この道具は、どんなデータで訓練されたのか？どこで間違えやすいのか？」という**「限界」**を知ることが大切だと言います。
  • 比喩: 「新しいコンパスを買った。針がちゃんと動くか、どんな磁場なら狂うかを知っておかないと、海で遭難するよ」という感覚です。
• 患者さんの視点：
  患者さんたちは、AI がどう動いているか（技術的な仕組み）よりも、**「自分の話に耳を傾けてくれているか」**を気にしています。
  • 比喩: 「ナビが『左へ曲がって』と言っても、私が『でも、この道は狭くて怖いよ』と言ったら、運転手は私の話を聞いてくれるかな？」という不安です。

2. 「責任」について：誰がハンドルを握る？

• お医者さん：
  「最終的な責任は、あくまで人間のお医者さんにある」と強く主張しました。AI はあくまで「助言者」で、AI の言うことを無条件に信じてはいけないと警戒しています。
  • 比喩: 「AI は優秀な副操縦士だけど、最終的にパイロット（お医者さん）が『離陸する』と決めるんだ。もし AI が間違えても、私が責任を取る」というスタンスです。
• 患者さん：
  患者さんも「お医者さんが責任を持ってくれるなら安心」と思っていますが、**「AI が介入することで、自分の意見が軽んじられるのではないか？」**という懸念を持っていました。
  • 比喩: 「お医者さんが『AI がこう言うから退院してね』と言うと、私が『でも、まだ辛くて無理だよ』と言っても、AI の言うことが絶対みたいで、私の声が聞こえなくなるのが怖い」という気持ちです。

3. 「信頼」について：誰を信じる？

• お医者さん：
  「AI 自体を信じる」ことよりも、**「AI が正しく動いているかどうかをチェックし続けること」**を信頼の条件にしました。
  • 比喩: 「新しい自動運転機能は、毎日チェックして、本当に安全か確認しないと使えない」という慎重さです。
• 患者さん：
  患者さんは、AI 自体を直接信じるのではなく、**「自分の主治医を信じている」ので、その医師が使うなら AI も信じる、という「間接的な信頼」**を持っています。
  • 比喩: 「ナビゲーター（AI）がどんなに優秀でも、私が信頼している運転手（お医者さん）が『大丈夫だ』と言うなら、私は乗るよ」という感覚です。

⚠️ 見落としてはいけない「ズレ」

ここがこの研究の最も重要なポイントです。

• お医者さんの勘違い：
  「患者さんは AI の仕組みなんて興味ないだろうし、AI の説明なんて面倒くさがるだろう」と思っているお医者さんが多かったです。
• 患者さんの本音：
  実際には、**「AI が私の治療に使われているなら、そのことを知りたいし、どう判断されたのか聞きたい」**と答えた患者さんが多くいました。
  • 比喩: お医者さんが「乗客はエンジンの中身なんて気にしないから、ただ乗せておけばいい」と思っているのに、乗客は「この飛行機がどう飛んでいるか、少し教えてほしい」と言っているような状態です。

🌟 結論：どうすればうまくいく？

この研究からわかるのは、AI を医療に導入する成功のカギは、「技術の精度」だけではないということです。

1. お医者さんには： AI を盲目的に信じるのではなく、その限界を知り、常に人間が最終判断を下す「監視役」である意識を持つこと。
2. 患者さんには： AI が使われていることを隠さず、わかりやすく説明し、患者さんの「不安」や「体感」を AI のデータよりも優先して聞く姿勢を持つこと。
3. システムには： お医者さんの仕事が増えるような面倒な操作ではなく、スムーズに使えるようにすること。

まとめの比喩：
AI は、お医者さんと患者さんの間に立つ**「新しいパートナー」です。このパートナーがうまく機能するためには、お医者さんが「道具として使いこなす技術」を持ち、患者さんが「自分の声を届ける場」を確保し、お互いが「信頼関係」**を築きながら進まなければなりません。

技術がいくら進歩しても、**「人間同士の温かいつながり」**が医療の中心であることは、これからも変わりません。

技術概要

論文要約：医療における AI への信頼、受容、責任に関する患者と医療従事者の視点

1. 研究の背景と課題 (Problem)

人工知能（AI）は医療分野で急速に発展し、投資も増大していますが、臨床現場への実装（ベッドサイドへの導入）には依然として大きなギャップが存在します。一部の研究では、医療 AI モデルのわずか 2% しか臨床実用化に至っていないと報告されています。
この実装ギャップの要因として、技術的な性能だけでなく、医療従事者（HCP）と患者という主要なステークホルダーが AI をどのように認識し、信頼し、責任の所在をどう捉えているかという人間側・倫理側の要因が十分に理解されていないことが挙げられます。特に、患者の視点は実証研究において過小評価されており、両者の視点の比較分析を通じて、AI 導入の障壁と条件を解明することが本研究の目的です。

2. 研究方法 (Methodology)

本研究は、オランダのエルラズム・メディカルセンター（Erasmus MC）の外科腫瘍学・消化器外科部門において実施された探索的定性研究です。

• デザイン: 半構造化インタビューを用いた質的調査。
• 参加者: 目的抽出法（purposive sampling）により 30 名を募集。
  • 医療従事者 (18 名): 消化器外科専門の外科医 10 名、看護師 8 名。
  • 患者 (12 名): 過去 12 ヶ月以内に消化器外科手術を受けた患者。
• データ収集: 医療従事者は対面、患者はオンライン（Microsoft Teams）でインタビューを実施。インタビュー時間は 30〜45 分程度。
• 分析手法: 録音データを逐語転写し、ATLAS.ti を使用して分析。帰納的（データからテーマを抽出）および演繹的（既存の理論に基づいてコード化）なコーディングを組み合わせ、主題分析（thematic analysis）を行いました。
• 対象とした AI システム: 術後の退院判断を支援するために設計・検証された AI モデル「DESIRE」を具体的な文脈として議論しました。

3. 主要な貢献 (Key Contributions)

1. ステークホルダー間の直接的比較: 単一の質的デザインを用い、医療従事者と患者の両方の視点を比較することで、AI 受容における「合意点」と「相違点」を明確にしました。
2. 患者視点の重視: 患者が AI の「ブラックボックス」性や技術的詳細よりも、**「人間性のあるケア（human attention）」や「医師との信頼関係」**を重視していることを実証し、医療従事者の「患者は技術には関心がない」という仮定を覆しました。
3. 責任と信頼の複雑なダイナミクス: 責任の所在が単に医師にあるだけでなく、開発者や組織にも分散しているという認識、および「信頼」が AI 自体ではなく「医師」に向けられているという構造を明らかにしました。

4. 主要な結果 (Results)

分析により、3 つの主要なテーマと 10 のサブテーマが抽出されました。

A. AI 知識 (AI Knowledge)

• 認識の格差: 両者とも AI の存在は認識していますが、理解の深さは異なります。一部の医師は技術的詳細（検証、性能）を理解していますが、多くの医療従事者と患者は「表面的な知識」しか持っていません。
• 知識と信頼の関係: 知識不足は拒絶を意味せず、むしろ「適切な信頼」や「安全な使用」の条件として認識されています。医療従事者はモデルの限界やデータソースの理解を重視し、患者は説明の透明性を重視します。

B. 倫理的考慮事項 (Ethics)

• 自律性 (Autonomy):
  • 医療従事者: 専門的判断（直感や「臨床の目」）を維持し、AI への過度な依存（自動化バイアス）を避けることを重視。
  • 患者: 情報へのアクセスと、自分の意見が聞かれること（身体的自律性）を重視。「AI が医師の権威を強化し、患者の声を殺す」ことへの懸念があります。
• 説明可能性 (Explainability):
  • 医療従事者: 完全なアルゴリズムの透明性よりも、臨床判断を支援する「実用的な解釈性（アクション可能な推奨）」を重視。
  • 患者: 多くの患者は「ブラックボックス」技術の仕組みそのものには関心がないと医師は想定していましたが、実際には**「AI がどのように意思決定に関与しているか」についての透明性**を望む患者が多くいました。
• バイアスと公平性: 医療従事者はデータ代表性や一般化可能性の観点からバイアスを懸念しますが、患者は特定の社会的グループへの不利益という観点から懸念を示しました。
• 責任と説明責任: 最終的な臨床判断の責任は医師にあるという認識は共通していますが、医療従事者は組織的・階層的な文脈での責任の難しさを指摘し、患者は責任が医師、組織、開発者に分散している可能性を認識していました。

C. 運用および臨床的含意 (Operational and Clinical Implications)

• 臨床的インパクト: AI は大量のデータ処理やパターン認識を通じて意思決定を支援し、退院判断の安全性を高める可能性に期待されています。しかし、「待って見守る（wait-and-see）」姿勢も根強く、実証的な価値が明確になるまで慎重です。
• ワークフローへの統合: 成功の鍵は、既存の電子カルテシステムへのシームレスな統合です。追加の手間や行政負担を増やすツールは拒絶されます。
• 技術的懸念: データの質、モデルの検証、継続的なモニタリング、および異なる医療環境への一般化可能性が主要な懸念事項です。

信頼 (Trust) の構造の違い

• 医療従事者: 実証的な検証、透明性、継続的な監視に基づいて AI システム自体への信頼を構築しようとする。
• 患者: AI システム自体への信頼ではなく、「自分の担当医」への信頼を通じて AI を受け入れる。AI は医師のツールの一部と見なされます。

5. 意義と結論 (Significance and Conclusion)

本研究は、医療 AI の実装が単なる技術的な性能向上だけでなく、倫理的・認識論的（epistemic）な条件の整備に依存することを示しています。

• 患者の期待と医師の仮定のズレ: 医師は患者が技術的詳細に関心がないと想定しがちですが、患者は「自分の声が聞かれているか」「人間としてのケアが維持されるか」を強く意識しています。このギャップは、AI 導入時に患者が沈黙させられる（epistemic injustice）リスクを孕んでいます。
• 責任の再定義: AI 支援システムにおいて、責任は医師個人に帰属するだけでなく、開発者、組織、そしてシステム全体に分散されるべきであるという認識が必要です。
• 実装への示唆: 技術的な精度だけでなく、ワークフローへの統合、透明なコミュニケーション、継続的な監視体制、そして患者の自律性を尊重する対話が、AI の倫理的かつ効果的な導入には不可欠です。

結論として、医療 AI の責任ある展開には、技術的パフォーマンスの最適化と並行して、医療従事者の批判的関与を促しつつ、変化する患者の期待に応えるための関係性の構築が不可欠であるとしています。