Generative artificial intelligence in medical postgraduates: a qualitative study of perceived risks, benefits, and responsible use

医学の世界を、あらゆるページに癒やしの秘密が記された膨大な古代の図書館だと想像してみてください。何世紀もの間、医師や学生たちは、正しい答えを見つけるために、すべてのページを手作業で読み進めなければなりませんでした。しかし最近、新しい種類の魔法の助手が登場しました。それが生成AI（Generative Artificial Intelligence）です。これを、何百万もの本を一瞬で読み、要約し、さらにはあなたの代わりに物語さえも書いてしまう、超高速で超スマートなロボット司書だと考えてください。夢のような話に聞こえるでしょう？しかし、ここには落とし穴があります。このロボット司書は、時として作り話をしたり、事実確認を忘れたりすることがあり、もしあなたが物語を書くのを完全に任せてしまうと、自分自身で書く方法を忘れてしまうかもしれないのです。

この論文は、この魔法のロボットを使い始めたばかりの、非常に特定のグループの人々に焦に焦点を当てています。それは、中国の医学大学院生たちです。彼らは、専門家になるための訓練を受けている若い医師たちです。研究者たちは、次のような疑問を抱きました。これらの学生たちはロボットを愛しているのか？それとも恐れているのか？そして最も重要なのは、いつロボットに助けを求め、いつ自分自身で作業を行うべきかを、彼らはどのように判断しているのか？彼らは単に「はい」か「いいえ」の答えを求めたのではありません。学生たちの真の考え、恐怖、そして希望を理解するために、彼らと深く対話を重ねたのです。

調査：未来の医師たちの声を聞く

研究者たちは、神経学（脳の専門家）、精神医学（心の専門家）、放射線科（画像の専門家）など、5つの異なる医学専門分野の修士課程1年生18名にインタビューを行いました。これらの学生は全員、学習のためにChatGPTやDeepSeekといったAIツールをすでに使用した経験がありました。チームは彼らの話を注意深く聞き、その物語の中にパターンを探しました。その結果、学生たちが非常に明確でバランスの取れた見解を持っていることが分かりました。彼らは生成AIを「諸刃の剣」として捉えています。つまり、問題を素早く切り裂く鋭い側面がある一方で、注意を怠れば怪我をする危険な側面もあるということです。

良い側面：スーパーパワーを持つ相棒

学生たちは、AIがいかに時間を節約してくれるかに興奮していました。彼らはAIを、自分たちの脳のターボチャージャー（加速器）だと表現しました。

• 作業の高速化： ある学生は、AIが「必要な文献を迅速に見つける」助けになると述べ、別の学生は「レビュー論文を素早く分析できる」と指摘しました。それは、図書館の中で最高の本を数時間ではなく数秒で見つけ出してくれる友人がいるようなものです。
• 目に見えないものを見る力： 学生たちは、AIが人間が見逃してしまうような微細な詳細を特定できることに驚嘆しました。ある学生は、「肉眼では確認が難しい小さな狭窄（きょうさく）についても、AIは直接、狭窄率を算出できる」と説明しました。また別の学生は、膨大なタンパク質データの中から疾患マーカーを見つけ出すことができると述べました。それは、学生たちにデータのX線視力を与えるようなものです。
• ブレインストーミングの相棒： AIは、これまで気づかなかった点と点をつなげる手助けもしてくれます。ある学生は、AIが「4,000件の医学論文を10分間で分析できる」と述べ、一人では到底できないスピードで新しいアイデアを生み出す助けになると言いました。

恐ろしい側面：ロボットの悪い癖

しかし、学生たちは盲目的に信頼しているわけではありませんでした。実際、彼らの最大の懸念は、自分たちが怠慢になってしまうことでした。

• 「脳の錆び」への恐怖： これが最も一般的な懸念であり、18人中16人の学生が言及しました。彼らは、もしAIにすべての思考を任せてしまったら、自分たちの脳が働かなくなってしまうのではないかと恐れています。ある学生は、「AIを直接使いすぎると、自分自身の思考が欠如する」と率直に述べました。また別の学生は、「AIの長期的な使用は精神的な怠惰につながる可能性がある」と危惧しました。彼らは、計算機を使いすぎて基本的な数学ができなくなることに例えました。
• 「フェイクニュース」の問題： 学生たちは、AIが100％真実であるとは信じていませんでした。彼らは、AIが「作り話をしたり」「幻覚（ハルシネーション）を起こしたり」する傾向があると指摘しました。ある学生は、「AIが示す文献ソースのほとんどは偽物だ」と不満を漏らしました。それは、存在もしない本を自信満々に指し示す司書のようなものです。
• プライバシーと責任： 彼らは患者の秘密についても心配していました。もし患者のデータをAIに入力すれば、データの流出、差別、あるいはプライバシー侵害につながるのではないかと恐れています。さらに、AIが誤った答えを出した場合、誰が責任を負うのかについても混乱しています。ある学生が「AIは責任を取ることができない。開発者か、あるいは利用する機関が承認しなければならない」と述べたように、ロボット医師がミスをしたとき、誰が責任を問われるのでしょうか？人間でしょうか？機械でしょうか？その答えは現在、定まっていません。

ルール：公平にプレイする方法

恐怖はあるものの、学生たちはロボットを禁止したいと考えているわけではありませんでした。彼らは、自らのスタンスを説明するために、ある中国の諺を用いました。「喉に詰まることを恐れて、食べるのを止めるべきではない」。その代わりに、彼らは何が許され、何が許されないのかについて、非常に明確な一線を引いていました。

• グリーンライト（使用OK）： 彼らは、英語の推敲、コンピュータコードのチェック、あるいは論文の初稿を作成するためにAIを使用することには肯定的です。彼らはこれを、作業を速めるためのツールとしての使用だと考えています。
• レッドライト（使用NG）： 彼らは、AIが患者の診断を下したり、個人の患者データを扱ったり、研究のオリジナルのアイデアを生み出したりすることは決してあってはならないと断言しています。ある学生は、「初稿を作るためにAIを使うことはあるが、必ず手作業で修正し、検証する」と述べました。彼らは、AIを操縦士ではなく、あくまで航海士（ナビゲーター）として使い、自分たちが船長でありたいと考えているのです。

彼らが求めるもの：完璧なAIアシスタント

最後に、学生たちは、これらのツールを安心して使うために何が必要かを研究者に伝えました。彼らは、理由の説明なしに答えだけを出す「魔法のブラックボックス」を求めているのではありません。彼らが求めているのは、次のようなAIです。

1. ルールを知っていること： 回答は、単なるランダムな推測ではなく、実際の高品質な医学的エビデンスやガイドラインに基づいたものでなければなりません。
2. 秘密を守ること： 患者のデータを安全に保つために、銀行の金庫のように安全であり、厳格なプライバシー法（HIPAAやGDPRなど）に従わなければなりません。
3. プロセスを説明すること： 単に答えを出すだけでなく、なぜその答えに至ったのかという論理を説明できなければなりません。そうすることで、学生はその論理を理解することができます。
4. 謙虚であること： 自らを決して医師の代わりではなく、あくまで「助手」として位置づけなければなりません。

結論

この研究は、これらの未来の医師たちが、単にテクノロジーを受動的に使っているのではなく、それをどのように使うべきかを批判的に考えていることを示唆しています。彼らは効率性と発見におけるAIの多大なメリットを認めていますが、同時に、自身の創造的・批判的な思考能力を失うことに対して深い懸念を抱いています。彼らはロボットを投げ捨てることを求めているのではなく、正直で、安全で、明確に「助手」として定義されたロボットを求めているのです。彼らの声は、AIが医学において真に役立つためには、人間の判断を尊重し、人間が主導権を握り続けられるようなツールを構築する必要があることを物語っています。