Intelligence Preserves The System It Assists

現代の病院では、コンピュータが医療画像を読み取り、患者の経過を予測することを学習するという、静かな革命が進んでいます。長年、この分野における成功の尺度となる標準的な方法は、単純な競技でした。コンピュータのアルゴリズムと人間の医師を対決させ、どちらがより頻繁に正解を導き出すかを見るというものです。もし機械の方がスコアが高ければ、それは画期的な進歩として称賛され、もし医師が勝てば、その機械は失敗作とみなされてきました。このアプローチは、医師とコンピュータは同じ仕事を奪い合うライバルであり、目標は人間の判断に取って代わる単一の完璧な予測器を見つけることである、という前提に基づいています。しかし、この見解は医学の根本的な現実を見落としています。それは、「患者を治療するという行為が、患者を変えてしまう」という事実です。外科医が組織を切除し、看護師が点滴の速度を調整し、あるいは医師が新しい治療を開始するとき、彼らが観察している状況は、その一瞬前とはもはや異なるものになっています。患者を助けるために取られた行動そのものが疾患の経過を変えてしまうため、過去のデータに基づいた予測は、それが最も必要とされる瞬間に役に立たなくなる可能性があるのです。

モーリス・アントニー・ユーイングによる新しい研究は、コンピュータと医師がいかにして互いに抗うのではなく、いかにして協力できるかに注目することで、この競争的な考え方に異議を唱えています。研究は、「どちらの代理人が全体としてより正確か」と問う代わりに、別の問いを投げかけます。「彼らの強みと弱みは、いつ互いを補完し合うのか？」という問いです。この研究は、コンピュータは「何も変化しない場合に何が起こるか」を予測することには優れているものの、治療が患者の状態を能動的に作り変えてしまう場合には、しばしば躓くことを示唆しています。逆に、人間の医師は状況が予想された経路から逸脱していることに気づく能力に長けていますが、膨大なデータの中にある微細なパターンを見逃してしまうことがあります。核心となるアイデアは、病院におけるコンピュータの真の価値は、最高の予測器になることではなく、医療介入によって患者の状態が予期せぬ形で変化しているときに、ピンポイントで警報を鳴らす特化したセンサーとして機能することにある、という点です。

このアイデアを検証するため、研究者は、ロボット手術の腕の瞬間的な動きから、がん治療の数ヶ月に及ぶ緩やかな進行に至るまで、5つの異なる種類の医療データを調査しました。それぞれのケースにおいて、まず標準的なコンピュータモデルが、患者や処置が辿るべき「正常な」経路を学習するように訓練されました。例えば、ロボット手術においては、モデルは組織を通過する針の典型的な速度と方向を学習しました。集中治療室（ICU）においては、血圧が通常どのように薬剤に反応するかを学習しました。その後、研究では、単に未来を予測するのではなく、実際の出来事が予測された経路から大きく逸脱した瞬間を監視するように設計された、第二の「拡張」モデルを導入しました。研究者たちは、この第二のモデルを構築するために使用された具体的な数学的公式や正確なコードは開示せず、それらの詳細を保護された実装として保持しましたが、このシステムが人間の医師や標準的なコンピュータモデルと比較してどの程度の性能を発揮したかは測定しました。

結果は、これら5つの異なる医療設定すべてにおいて共通する、驚くべきパターンを明らかにしました。すべてが順調に進み、患者の状態が安定している状況では、拡張モデルは人間と標準的なコンピュータの両方よりも実際には劣っていました。例えば、ICUのデータでは、安定した状態において拡張モデルが正解したのはわずか25.6%であり、人間の医師は34.6%の正解率でした。しかし、物語は状況が予期せず変化し始めたときに完全に逆転しました。患者の生理状態や手術の手順が常態から逸脱したこれらの「離脱」の瞬間において、拡張モデルは明確なリーダーとなりました。同じICUのデータにおいて、患者の状態が不安定であったとき、拡張モデルの正解率は46.9%であり、人間の医師（20.5%）や標準的なコンピュータ（19.6%）を大きく上回りました。

このクロスオーバー効果は偶然の産物ではなく、異なる種類のデータ間で一貫して現れました。ロボット手術においては、システムは、結び目を作る作業から針を通す作業への切り替えなど、外科医が技術を変更する直前の瞬間を特定し、通常の動作のルールが適用されなくなる遷移時期をフラグ立てしました。腹腔鏡ビデオにおいては、外科医が胆嚢を牽引しているときのように、視覚的なシーンが混沌とし予測不可能になる手術の複雑なフェーズを強調しました。脳がん治療のケースでは、システムの有用性は、治療の全期間を俯瞰した場合にのみ認められました。なぜなら、疾患の軌道の「変形」は緩やかなプロセスであり、単一のスナップショットでは捉えられないからです。研究によれば、この拡張システムの価値は、初期の予測がいかに優れているかには依存しませんでした。標準的なコンピュータモデルが未来の予測において非常に正確であったとしても、拡張システムは、その予測が成立しなくなった瞬間を特定することに依然として価値を見出しました。

また、この有用性は完全にタイミングに依存することも明らかになりました。カメラが高速で動く物体をブレることなく捉えるために適切なシャッタースピードを必要とするように、このシステムも、変化を捉えるために適切な時間幅を見る必要がありました。がんの研究では、短く断片的な時間窓を見ることはシステムの効果を下げましたが、治療シリーズ全体を見ることで、疾患の軌道の変形を捉えることができました。これは、本システムが医師の普遍的な代替物ではなく、状況が流動的であるときにのみ不可欠となる特化したツールであることを示唆しています。研究では、本システムが自律型手術や治療の問題を解決したと主張しているわけではなく、病院にインストールするための既製のソフトウェア製品を提供しているわけでもないことが明記されています。システムがこれらの変化を検出する方法に関する具体的な手法は非公開であり、今回の知見は、ライブのオペ室でのテストではなく、過去のデータの振り返りに基づいています。

最終的に、本論文は、医療人工知能の未来は、人間よりも優れた医師になろうとする機械を構築することではなく、ゲームのルールが変わったことを理解するシステムを構築することにあると論じています。最も効果的なコラボレーションとは、標準的なコンピュータが症例の定型的で予測可能な部分を処理し、一方で、介入を意識した特化したシステムが、計画から外れる形で患者の状態が変化している瞬間を見守る、という形かもしれません。これらの離脱の決定的な瞬間において、システムは異なる種類のインテリジェンス、すなわち、予測の根拠となる土台が動いたことを認識するインテリジェンスを提供できるのです。研究は、この分野における正しい問いは、機械が医師に勝てるかどうかではなく、両者の情報がいかに補完的であるかであり、それによってテクノロジーが臨床医が予測不可能なケアの瞬間をナビゲートするのを助け、支援するシステムを維持することであると結論付けています。