The partial adoption trap: Coordination failure, trust, and cultural lock-in in health AI adoption

アリエル・コルによる論文「部分的な導入の罠」の解説を、日常言語と比喩を用いて翻訳したものです。

全体像：「半端な」問題

ある病院が、医師を支援するための新しい超スマートな AI システムを導入すると想像してください。その目的は、単に一人の医師の仕事を楽にすることではなく、患者の受診を迅速化し、コストを削減するために、病院全体の業務プロセスを根本から再編成することです。

この論文は、医師たちがタイピングのような小さく簡単なタスクには AI を喜んで使う一方で、システムが意図通りに機能するように自らの業務フロー全体を変更することを拒む傾向があると主張しています。その結果、AI は至る所に「導入」されるものの、病院は約束された大きな恩恵を実際には得られないのです。これが「部分的な導入の罠」です。

著者は、なぜこれが起こるのか、そしてボーナス支給のような標準的な解決策がなぜ状況を悪化させることが多いのかを示すために、数理モデル（ゲーム理論シミュレーションのようなもの）を用いています。

---

医師たちがゲームで選ぶ 3 つの道

このモデルは、新しいシステムが到来した際、医師には 3 つの選択肢があることを示唆しています。

1. 真の導入（「すべてを賭ける」プレイヤー）： 医師は新しい AI に適合するように自らの習慣を完全に変えます。患者の診察方法、予約のスケジュールの立て方、スタッフとのコミュニケーションの取り方など、すべてを変更します。
   • 欠点： これは当初、大変な労力を要し、混乱を招きます。
2. 部分的な導入（「賢い節約家」）： 医師は AI を使いますが、それは書類作業の時間を節約するなど、簡単な部分に限ります。それ以外のすべての業務は、古い習慣のまま維持します。
   • 欠点： システム全体を変える手間をかけずに時間を節約できるため、即座に心地よいと感じられます。
3. 拒絶（「ルダイト」）： 医師は道具を完全に無視します。

罠： 「部分的な導入」は短期的にはより簡単で報われるように感じられるため、多くの医師がこれを選びます。しかし、システムが機能するには、十分な数の人々が「真の導入」を選ぶ必要があります。全員が「部分的な導入」を選んでいる場合、そのシステムはエンジンは回っているがニュートラルに入っている車のようです。音は鳴っていますが、どこにも進んでいません。

---

罠が起きる 4 つの理由

この論文は、病院がこの「半端な」状態に陥ってしまう 4 つの具体的な理由を特定しています。

1. 「小さすぎて無意味」問題（閾値の失敗）

比喩： 焚き火を起こそうとしている想像してください。テント全体を暖める炎を作るには、一定数の薪を同時に燃やす必要があります。もし数本の薪しか点火しなければ、それらは煙を出して消えてしまいます。
現実： AI がシステム全体の利益（患者の流れの迅速化など）を生み出すのは、医師の一定数が業務フローを変更した場合に限られます。もしあなたが唯一の変更者であれば、あなたは単に潮流に逆らう異端者です。利益が現れるのは「転換点」を越えた後ですが、単独の医師がその点を超えることはできないため、彼らは他者を待ち、何も起こりません。

2. 「約束違反」問題（信頼の失敗）

比喩： 上司がチームに「もっと働き、会社の節約をすればボーナスをやる」と言っていると想像してください。チームは一生懸命働き、節約を実現しましたが、上司は「実はその節約分は会社で残すことにした。ボーナスはない」と言います。
現実： 医師たちは、自らが真に業務を再編成すれば病院が巨額の節約を実現することを理解しています。しかし、医師たちは病院がその節約分を自分たちと分け合うとは信じていません。もし彼らが困難な作業を行っても、病院はその功績と現金を独り占めするのではないかと恐れるのです。そのため、破られるかもしれない「真の導入」の約束をリスクとして避ける代わりに、自分たちの時間節約を維持できる「部分的な」道を選びます。

3. 「古い習慣は死なない」問題（文化的ロックイン）

比喩： 「あの新しいダンスはしない」という合意がある友人グループを想像してください。もし一人がそのダンスをしようとすれば、他の人々は彼をからかったり無視したりします。やがて、その人は仲間外れにされないよう、ダンスを止めてしまいます。
現実： 多くの医師が「部分的な導入」をしている場合、チームの文化は「道具は使うが、仕事のやり方は変えない」というものになります。もしある医師が「真の導入」を試みれば、賛同していない同僚からの社会的圧力や摩擦に直面します。集団の文化が、全員を中途半端な「部分的」な状態にロックインさせてしまいます。

4. 「価値のパラドックス」

比喩： 宝の価値が高ければ高いほど、人々を一緒に掘りに誘うのは難しくなります。
現実： この論文は残酷な皮肉を指摘しています。命とお金を救う可能性が「最大」の技術（システム変革型 AI）ほど、導入が「最も困難」なのです。導入が容易な技術（単純なスペルチェックのようなポイントソリューション型 AI）こそが、広まりやすいのです。変化の価値が高いほど、罠に陥る可能性が高まるのです。

---

「コスト・ラチェット」：希望の光

このモデルには「コスト・ラチェット」と呼ばれる興味深いひねりがあります。

比喩： 重い岩を丘の上に押し上げようとしている想像してください。最初は信じられないほど困難です。しかし、あるポイントを超えて少しだけ押し上げると、地面の状態が変わり、岩は永遠に押しやすくなります。もし押し上げるのをやめて岩が転がり落ちても、地面は「変化したまま」です。次に試みるとき、それは初めてよりも簡単になります。

現実： 病院が AI の導入を試みて失敗した場合（転換点に達しなかった場合）、時間を無駄にしたと思うかもしれません。しかし、この論文は、失敗した試行さえも「コストを減衰」させると主張しています。医師は少し学び、システムは少し慣れます。参入障壁は永続的に低下します。

• ただし： これは、医師たちが信頼を失いすぎない場合に限られます。病院が約束を破る速度が、学習が進む速度よりも速ければ、医師の信頼は崩壊し、罠はさらに深まります。

---

罠からの脱出（解決策）

この論文は、すべての医師にツール使用のための少額のボーナスを与えるような標準的な政策は、根本的な信頼や文化の問題を解決せずに「部分的な導入」を促すため、実際には罠を悪化させると主張しています。

脱出するには、病院は以下の特定の順序で行動する必要があります。

1. まず信頼を修復する： 医師に変更を求める前に、システムが節約を実現した場合、医師が「必ず」その一部を受け取れることを保証する契約を結ぶ必要があります。信頼がなければ、変化はありません。
2. 文化を準備する： 技術を紹介する前に、チームを準備させます。「集団の規範」が変化を支持するようにし、最初の導入者が現状維持派にいじめられないようにします。
3. 個人ではなくチームを種付けする： 変化を病院全体に薄く広げないでください。特定のチーム（「種」）を選び、そのチームの「全員」が同時に「真の導入」を行うようにします。これにより、局所的に転換点を越えるのを助け、最終的に広がる小さな火を作ります。
4. 「埋め込み」段階を支援する： チームが最終的に閾値を越えた瞬間、新しい働き方が定着するように、すべての支援リソースをその瞬間に注ぎ込みます。

結論

この論文は結論として、「システム変革型 AI」を単なるソフトウェアのアップデートのように扱うことはできないと述べています。信頼なしに個々のインセンティブで医師にそれを強制しようとするなら、医師たちがノート入力を速くするためにツールを使う病院はできあがりますが、病院は以前と同じように遅く、高価なままです。私たちは「変わったように見えて、実際には変わっていない」という罠に閉じ込められています。