Strategic Patient Involvement in Medical AI Co-Design: A Pilot Study in Heart Failure

世界中の病院の救急外来において、医師たちは毎日、困難かつ緊急性の高い問いに直面しています。心不全を抱えた患者が到着した際、その人は安全に帰宅できるのか、それとも入院が必要なのか。この決定は極めて重大です。病んでいる人を早すぎるタイミングで帰宅させれば、再受診や、さらには死に至る事態を招く可能性があり、一方で、安定している人を入院させ続けることは資源を浪費し、他の患者へのケアを遅らせることになります。こうした選択を支援するために、科学者たちは人工知能を用いて患者のリスクを予測するコンピュータープログラムを構築しています。これらのツールは、医療データを用いて、誰が容態を悪化させる可能性があるかを推測します。しかし、長い間、これらのツールは、どの情報が重要であり、結果をどのように表示すべきかを決定する医師やエンジニアによって設計されてきました。その疾患と共に生き、その決定の結果を負うことになる当事者たちが、ツール自体の形成に協力するよう求められることはほとんどありませんでした。

スペインとオランダの研究チームによる新しいパイロット研究は、そのシナリオを逆転させたらどうなるか、という問いを投げかけています。研究者たちは、患者に完成した製品を見せて「気に入ったかどうか」を尋ねるのではなく、心不全を抱える人々を招き、ゼロからツールを設計してもらったのです。目的は、患者にテクノロジーの仕組みを決定する実質的な権限を与えたとき、彼らが専門家が想像していたものとは異なるものを作り上げるのかどうかを確認することでした。研究の結果、患者が単なるテスターではなく戦略的なパートナーとして扱われたとき、彼らはツールを完全に再構築したことが分かりました。彼らは、ツールを「医師のための計算機」から、「患者のための支援ガイド」へと変貌させたのです。それは平易な言葉で語りかけ、感情的なニーズを尊重し、確信が持てない場合には回答を拒否するようなツールです。

研究者たちは、心不全の経験を持つ11人の人々をバルセロナでの2日間のワークショップに集めました。対面で会う前に、参加者は人工知能の基本を学ぶオンラインコースを受講し、全員が同じスタートラインに立てるようにしました。現地に到着した後、彼らはプロトタイプを批評することを求められたのではありません。代わりに、ツールが何であるべきか、誰に奉仕すべきか、そしてどのように振る舞うべきかを決定する自由を与えられました。ワークショップは「信頼できるテクノロジー」の原則に基づいて構成され、患者のジャーニー（過程）のマッピング、さまざまなタイプの人物像（ペルソナ）の作成、そしてツールが実際の診療にどのように適合するかをロールプレイングするなどの活動を通じて、グループを導きました。参加者は2つの別々のグループに分かれて作業を行いましたが、驚くべきことに、両グループは互いに話し合うことなく、ほぼ同じ設計案に到達しました。

参加者が行った最も劇的な変更は、ツールの「目的」そのものへの変更でした。プロジェクトは当初、「救急外来の医師が退院の判断を下すための画面」というアイデアから始まりました。しかし、患者たちは即座にこの考え方の欠陥を指摘しました。もしツールが医師のためだけに存在するのであれば、患者自身はそのツールを見ることができず、自分たちのリスクや計画を理解することもできないからです。彼らは、ツールは患者のためのモバイルアプリケーションであるべきだと主張しました。データを機械に収集されるだけでなく、自分自身で情報を入力したいと考えたのです。また、ツールは危機の一瞬における心機能のスナップショットを見るだけでなく、人間としての全体像を理解すべきだと彼らは主張しました。これには、食事、宗教的習慣、居住環境、移動能力といった生活の詳細を含める必要があります。なぜなら、これらの要因すべてが、リスク予測がその人に対してどのように適用されるかを変化させるからです。

ツールの結果の示し方についても、参加者は医療統計によく見られる冷徹で硬い数字を拒絶しました。彼らは、「6.4パーセント」といった具体的な死亡確率を見ることは、恐ろしくもあり、役に立たないものでもあると説明しました。代わりに、彼らはリスクを「低・中・高」といった、広く理解しやすいカテゴリーで表示することを望みました。さらに重要なのは、ツールが「次に何をすべきか」を伝える必要があるということです。リスクスコア単体ではただの数字に過ぎません。しかし、リスクスコアに「今日中に医師に電話してください」や「体重をチェックしてください」といった明確で実行可能なステップが組み合わさっていれば、人はそれを利用できます。また、彼らはツールが自身の限界について正直であることを求めました。もしコンピューターが特定の人物に対して信頼できる推測を行うための十分なデータを持っていない場合、ツールは誤った、あるいは誤解を招く数字を出すのではなく、単に「今は判断できません」と言うべきだと彼らは言いました。彼らは、この「沈黙」を、テクノロジーの失敗ではなく、一種の誠実さと信頼を築くための方法であると捉えました。

設計には、患者がどの程度の情報を知りたいかをコントロールする方法も含まれていました。参加者は、急性疾患の瞬間には、複雑な説明を読むエネルギーがない場合があることを認識していました。そこで、情報の詳細レベルを選択できるシステムを設計しました。簡単な要約だけを見ることもできれば、必要に応じてクリックすることで、予測がどのように行われたかについてのより技術的な詳細を確認することもできます。これにより、彼らはその時々の状況に応じて、どの程度の情報を処理できるかを自分で決定できるようになりました。また、彼らはツールが自分と医師との架け橋となり、個人のデータをケアチームと共有し、代わりに更新情報を受け取ることができる、一方的な情報の流れではなくパートナーシップを生み出すものであるべきだと強調しました。

ワークショップは成功しましたが、参加者たちは残された課題についても現実的でした。彼らは、これらのアイデアを実際の機能する製品に変えることは困難であると指摘しました。データプライバシーに関する法律、ソフトウェアの構築と維持にかかるコスト、そして病院の資金調達の方法が、優れたアイデアが最終製品に到達するのを阻む障壁となることがあると述べました。ある参加者は、一度のワークショップだけではこうした深い構造的な問題を解決することはできず、患者を関与させるプロセスを標準化し、適切な資金と時間を伴ってサポートする必要があると指摘しました。研究者たちもこれに同意し、患者たちが明確で一貫したビジョンを提示した一方で、そのビジョンから医師の手元にあるツールに至るまでの道のりは依然として不透明であると述べました。

この研究は、実体験を持つ人々が、自分たちの生活に影響を与えるテクノロジーを設計する場を与えられたとき、彼らは単にインターフェースを微調整するのではなく、問題そのものを再定義することを提案しています。彼らは、焦点を「医師が病院のベッドを管理するためのツール」から、「人が自分の人生を管理するためのツール」へと移しました。彼らは、高リスクのテクノロジー、特に死のリスクが関わる場合において、ユーザーの感情的・実用的なニーズがアルゴリズムの数学的な正確さと同様に重要であることを示しました。この研究は、患者が、単なる被験者ではなく戦略的なパートナーとして扱われる限り、複雑なシステムについての戦略的思考が可能であることを証明しています。この研究で記述されたツールはまだ使用されているわけではありませんが、グループによって作成された設計仕様は、医療用人工知能が、単に使用するシステムのためではなく、それが助けるべき人々のためにどのように構築されるべきかという、新たな設計図を提示しています。