Mastery Without a Master: Clinical Deskilling and the Post-Hegelian Paradox of Artificial Intelligence

現代の病院において、医師の仕事は常に、人間の判断と蓄積された知識との対話であった。何世紀もの間、この判断力は実践によって築かれてきた。医師は、多くの患者を診察し、不確かな手がかりを吟味し、問題を定式化し、代替案を検討し、選択肢を説明するという思考のステップを実践することによって、診断法を学ぶのである。このプロセスは、単に今日正しい答えを出すためのものではない。明日もまた正しい答えを出せるよう、精神を研ぎ澄ませておくためのものである。私たちは経験から、手術であれ推論であれ、スキルとは、それを維持するためには定期的な訓練が必要であることを知っている。もし人が複雑なタスクの練習をやめてしまえば、たとえその人が依然として専門家という肩書きを持っていたとしても、助けなしにそのタスクを遂行する能力は静かに衰えていく。こうした背景の中で、新たな問いが浮上している。すなわち、医師の思考を助けるために設計された道具そのものが、医師の思考のあり方を変えてしまうとしたらどうなるのか、という問いである。

アンドレア・マンジャメリによる最近の論文は、人工知能（AI）が臨床医学をどのように再形成しているかを探ることで、この問いを考察している。著者は、AIは多くのタスクを効率的に処理できる一方で、推論という核心的な作業をAIに頼りすぎることは、隠れた危険を生むと主張している。この危険とは、機械が間違いを犯すことではなく、人間の医師が自力で問題を考え抜く能力を徐々に失っていくことにある。論文は、医師が繰り返しAIシステムに症例の定式化や可能性のリスト作成、あるいは説明の草案作成を任せていると、医師はその特定の思考筋を鍛える機会を失うことを示唆している。これは、時間の経過とともに「放棄された習熟（abdicated mastery）」と呼ばれる状態へとつながる。この状態では、医師は依然として公式の肩書きを持ち、患者のケアに対する最終的な責任を負っているものの、その判断を独立して実行するための実際の能力は衰退している。システムは名目上は人間の制御下にあるが、それを真に制御するために必要な人間の能力が減退しているのである。

この論文は、スキルがいかに形成され、維持されるかを検証することで、この議論を構築している。著者は、専門的な知見とは、人が所有する静的なものではなく、継続的な実践に依存する生きた能力であるという考えに基づいている。医師が患者の履歴を要約したり、診断を提案させたりするためにAIを使用するとき、彼らは多くの場合、「創造」ではなく「評価」に従事している。彼らは箱を組み立てているのではなく、箱にチェックを入れているのである。著者は、支援されたケアは一見すると良好に見えるため、この変化は無害であるように思われると指摘する。AIはもっともらしい答えを提供し、事務作業は完了し、患者は治療を受ける。しかし、論文は、この円滑なパフォーマンスが長期的なコストを隠していると述べている。医師は、ゼロから始めること、不確実性と格闘すること、あるいは白紙の状態から新鮮な説明を構築するという、困難な作業をこなさなくなっているのである。

このプロセスは、「ポスト・ヘーゲル的パラドックス」と表現されている。これは、主人と召使いに関する古い哲学的な概念を、ここでは医師と機械に適用したものである。元の概念では、世界との関わりを完全に召使いに依存した主人は、最終的に自分自身の世界とのつながりを失ってしまう。医学におけるバージョンでは、医師が主人であり、AIが召使いである。パラドックスとは、医師は形式的な権威であり続けながら、AIが推論という重労働を行う一方で、医師自身の独立した推論能力がゆっくりと消失していくことである。論文は、これが突然の失敗ではなく、緩やかな漂流であることを示唆している。医師はある時は問題リストのために、次は鑑別診断のために、そして次は治療計画のためにAIを使うかもしれない。それぞれのステップは、合理的で賢明な近道のように見える。しかし、こうした小さな近道を数ヶ月、あるいは数年繰り返すと、医師は機械なしでは問題リストや治療計画を作成できなくなっていることに気づくかもしれない。権威は残っているが、スキルの実体は空洞化しているのである。

この研究は、この問題が経験豊富な医師と、訓練中の医師とでは異なることを強調している。経験豊富な医師にとってのリスクは、かつて持っていた能力を使わなくなることで失われる「脱技能化（deskilling）」である。一方、研修医にとってのリスクは、スキルを構築する機会を得られないまま習得を断念してしまう「習得の閉鎖（foreclosed mastery）」である。もし学生医師が常にAIが生成した要約から始めるならば、彼らは、漠然とした患者の話を構造化された医学的問題へと変える方法を学ぶ機会を逃すことになるだろう。彼らは正しい結論に到達することはできるかもしれないが、特異なケースや複雑なケースに対処するために必要な深い理解を築くための、あの「精神的な葛藤」をスキップしてしまうのである。論文は、これが危険な溝を生み出すと論じている。医師はAIの通った道を辿ることはできるが、もしその道が消滅したり、行き止まりに突き当たったりした場合、医師は新しい道を見つけ出すためのリソースを持っていない可能性がある。

著者は、これが医師を責めるためのものではないと強調している。論文は、医師が多忙であること、病院がそれを求めていること、あるいはそれが患者ケアの他の部分に集中する助けになることから、医師がテクノロジーを使用するのは当然であると認めている。問題は構造的なものである。病院の組織のあり方、電子カルテの設計、そして研修の実施方法のすべてが、このような委任を促している。論文は、現在の医学における成功の尺度は、しばしば即時的な結果のみを見るものであると指摘している。「患者は回復したか？」「AIは役に立ったか？」といった指標は、医師の能力における長期的な変化を見落としている。医師はAIの支援を受けて数年間優れたパフォーマンスを発揮し続けるかもしれないが、AIが失敗したり、ケースがあまりに独特であったりする場合に直面したとき、医師は自力で介入するための独立したスキルを欠いていることに気づくのである。

「意味のある人間による制御（meaningful human control）」という概念が、論文の結論の中心となっている。著者は、医師が真にコントロールするためには、AIの提案に対して疑問を呈し、変更し、あるいは拒否できる実際の能力を持っていなければならないと主張している。この能力は、単に書類に署名する法的権利ではなく、実践を通じて維持されなければならない実践的なスキルである。もし医師がAIの言うことを繰り返すことしかできないのであれば、彼らは意味のある制御を行っているとは言えない。彼らは単にメッセージを伝達しているに過ぎない。真の制御には、なぜその推奨事項が特定の患者に適しているのかを理解し、それが適さない場合にそれを見抜き、標準的な計画が失敗したときに別の計画を構築する能力が必要である。論文は、この能力は脆弱であることを示唆している。それは、医師がこれらの困難で、支援のないタスクを練習するためのスペースを意図的に創出しない限り、維持することはできない。

論文は、AIが悪であるとか、禁止すべきであると主張しているのではない。むしろ、完全な依存への道は罠であると警告している。将来の医学的判断の行方は、現在、支援と独立性のバランスをどのように管理するかにかかっていると示唆している。もしAIにすべての思考を任せてしまえば、私たちは、形式的には責任を負っているものの、実質的には自分自身で考えることができない世代の医師を生み出すリスクを負うことになる。解決策は、道具の使用をやめることではなく、その道具が、人間の精神を研ぎ澄ますための実践を置き換えてしまわないようにすることである。医師は、たとえAIが代行を申し出たとしても、症例を定式化し、代替案を生成し、自らの選択を正当化することを続けなければならない。これこそが、機械が沈黙したときにも、医師が権威を持って語れることを保証する唯一の方法である。

結局のところ、この論文は、人工知能の時代における専門性の本質について、静かではあるが緊急性の高い警告を発している。医師が持つ最も価値のあるものは、情報へのアクセス権ではなく、その情報を、唯一無二の人生に適合する判断へと統合する能力である。この能力は、ゆっくりとした、しばしば困難な実践を通じて築かれるものである。もしその実践が委譲されてしまえば、その能力は衰退する。論文は、人間の判断力を維持することは、単なる技術的な詳細ではなく、倫理的な必然性であると結論づけている。システムが、あらゆる決定に医師が署名することで、あたかも人間の制御下にあるかのように見せることはできる。しかし、もし医師がそれらの決定を独立して下す能力を失っているならば、その制御は幻想に過ぎない。医師が今日どのように道具を使うかによって、将来どのような医師が生まれるかが決まるのだ、と著者は示唆している。