AI versus Expert Feedback on Ethical Decision-Making in Medical Students: A Pilot Randomized Controlled Feasibility Trial with Exploratory Educational Outcomes

医学部の教室を、将来の医師たちが単に折れた骨の治し方だけでなく、人間の人生における複雑でグレーな領域をどのように切り抜けていくかを学ぶ、巨大でハイリスクな訓練場だと想像してみてください。そこは、学生がルール、感情、そして困難な選択肢（例えば、限られた資源を誰に割り当てるか、あるいは家族に悪い知らせをどのように伝えるかなど）のバランスを取る方法を学ばなければならない場所です。何十年もの間、これらの「倫理的筋肉」を教える最善の方法は、賢明なコーチのような人間の専門家が、学生の選択をレビューし、なぜその決定が良かったのか、あるいは悪かったのかを説明することでした。しかし、ここに落とし穴があります。すべての学生に対して十分な数の賢明なコーチを見つけることは非常に困難であり、彼らの膨大な時間を奪ってしまうのです。

ここでAI（人工知能）の登場です。AIは、チャット、執筆、パズル解決を電光石火の速さで行うデジタル・ブレインです。研究者たちが投げかけている大きな問いは、「このデジタル・ブレインは、人間のコーチの代わりを務めることができるのか？」ということです。具体的には、AIは人間の専門家パネルと同じくらい、学生がより良い倫理的選択を行えるよう助けるフィードバックを生成できるのでしょうか？これは人間を完全に置き換えることではなく、「人間がレビューしたAI」が、教員の燃え尽きを防ぎつつ、同様のガイダンスを提供するスケーラブルなサイドキック（相棒）になれるかどうかを確認することです。もしこれが成功すれば、クラスの規模がどれほど大きくなっても、すべての医学生がパーソナルな倫理チューターを得られることを意味します。

---

グレート・フィードバック・ショーダウン：人間のコーチ vs AIアシスタント

最近行われたパイロット研究において、研究者たちは、ロボットのアドバイスが、部屋に集まった人間の専門家たちに太刀打ちできるかどうかを確かめるための、非常に興味深い実験を設定しました。彼らは56人の医学部6年生（実質的には卒業を控えたインターン）を集め、彼らを2つのチームに分けました。両チームは、「コンコーダンス・オブ・ジャッジメント・ラーニング・ツール（CJLT）」と呼ばれる、同じ倫理ビデオゲームをプレイしました。このツールは、学生がトリッキーなシナリオに直面し、選択を行い、その後、自分の選択が専門家がすることとどのように比較されるかについてのフィードバックを受けるというシミュレーションのようなものです。

ひねりは、2つのチームが異なるソースからフィードバックを受け取ったことです。一方のグループは、25人の人間の専門家パネルによって書かれたノートを受け取りました。もう一方のグループは、AIによって生成されたノートを受け取りましたが、ここにはセーフティネットがありました。AIの出力は、ハルシネーション（幻覚）を起こしたり奇妙な挙動をしたりしていないかを確認するために、事前に人間の専門家によってチェックされ、承認されていたのです。目標は、AIグループが人間のグループと同じくらいよく学習できるかどうかを見極めることでした。

結果：AIによる驚くべき（しかし慎重な）リード

研究者たちが、ビデオ形式のクイズでシーンの中から正しい倫理的行動を見つけ出す「客観的構造化ビデオ試験（OSVE）」を実施したところ、結果は少しジェットコースターのようでした。

まず、スタートラインでのつまずきがありました。トレーニングが始まる前から、AIグループはすでに人間グループよりも高いスコアを出していました。それはまるで、一方のチームがすでに5メートル先を走っている状態でレースを開始したかのようでした。AIグループの平均開始スコアは23.32であったのに対し、人間グループは19.36でした。これは小さな差ではなく、有意な差でした。

トレーニング後、両グループともスコアを伸ばしました。AIグループの最終的な平均スコアは27.29となり、人間グループは23.32に着地しました。研究者がそのリード（ベースラインの差）を調整するために統計的なテクニックを用いたところ、AIグループは依然として勝っているように見えました。調整後の計算では、AIのフィードバックは人間のフィードバックと比較して、約4.50ポイントのブーストを与えた可能性があることが示唆されました。

しかし、研究者たちはまだお祝いの紙吹雪を飛ばす前に、非常に慎重になっています。彼らが各学生の「改善度」（最初から最後まででの変化）を見たとき、2つのグループは同一でした。両グループとも、正確に3.96ポイント向上したのです。これは互角の結果でした。このことは、AIグループが最終的に高いスコアを得たものの、彼らは単に最初から成績が良かっただけであり、AIが人間には教えられない何かを教えたわけではない可能性を示唆しています。

他のテストについてはどうだったのか？

研究では、不確実性をどの程度扱えるかを測定する「スクリプト・コンコーダンス・テスト（SCT）」と、学生に特定の思考のショートカットや偏見があるかどうかを見る「BIAS」というスケールについても確認しました。これらの分野において、AIと人間は肩を並べていました。全く差はありませんでした。AIは人間に勝ったわけではありませんが、人間に負けたわけでもありません。AIは、人間の専門家と同じくらい、あるいは単に「平均的」なレベルで機能しました。

学生たちの判定

3ヶ月後にフィードバックを提供したボランティアの学生たちは、その体験を気に入っていたようです。回答した21人のうち、実に**95.2%**が、このトレーニングを他の医学生に推奨すると答えました。彼らはシナリオが現実的であり、倫理的問題についてより速く考える助けになったと感じていました。しかし、彼らが指摘した大きな障壁は、現実の世界では、たとえ自分が倫理的に間違っていると分かっていても、上司やシニアの医師に異議を唱えることは難しい、ということでした。

結論

では、AIは勝利したのでしょうか？ この研究は、AI生成のフィードバックが実現可能であり、かつ受け入れ可能であることを示唆しています。AIは失敗しませんでした。実際、人間の専門家よりも劣っているという兆候も見られませんでした。データは、AIが学生が自らの決定を正当化するのを助けることにおいて、わずかに優れている可能性さえ示唆していますが、研究者たちはこれに注意深くあるよう警告しています。なぜなら、AIグループが最初から高いスコアであり、かつグループの規模が小さかったため、AIが優れた教師であると断定することはできないからです。

この研究を、成功した「ドレスリハーサル」と考えてください。それは、監視されたAIコーチが、システムをクラッシュさせることなくショーを運営できることを証明しました。しかし、AIが真のMVPであるかどうかを知るためには、より大きなスタジアム、より多くのプレイヤー、そしてより公平なスタートラインが必要です。今のところ、AIは有望なサイドキックであり、次世代の医師たちに「正しいことを行う方法」を教える人間の専門家をサポートする準備ができています。