User Interfaces in Machine Learning-Based Decision Support for Emergency Department Triage – A Systematic Review

あなたは、騒がしい救急外来に足を踏み入れたところを想像してみてください。そこは騒々しく、混沌としており、誰もが急いでいます。その嵐の真っ只中に、トリアージ・ナース（緊急度判定を行う看護師）が立っています。彼女たちは、誰が最初に診察を受けるべきかを決定する門番です。彼女たちの仕事は、患者が言葉を発する前に、その人が危険な状態にあるかどうかを見抜くことです。さて、ここで、その看護師に超高性能なコンピューターの相棒を与えたとしたらどうなるでしょうか。これは単なる計算機ではありません。何百万もの診療記録を読み込み、人間が見落とすかもしれないパターンを見つけ出すことができる人工知能（AI）です。これがヘルスケアにおける機械学習（ML）の約束です。医師がより速く、より安全な意思決定を行えるよう支援するツールなのです。

しかし、ここに落とし穴があります。たとえ超スマートな脳を持っていたとしても、その伝え方が分かりにくければ意味がありません。これをフォーミュラ1のマシンに例えてみましょう。世界で最も強力なエンジンを搭載していても、もしステアリングホイールがゼリーでできていて、ダッシュボードがノイズで覆われていたら、ドライバーはそれを使うことができません。医療の世界において、この「ステアリングホイール」はユーザーインターフェース（UI）と呼ばれます。それは、AIのアドバイスを看護師に示すための画面、色、ボタン、そしてアラートのことです。もしインターフェースが使いにくければ、看護師はイライラしたり、コンピューターを無視したり、あるいは情報過多によってミスを犯したりするかもしれません。この論文は、シンプルですが極めて重要な問いを投げかけています。私たちが作っている救急外来用のコンピューター画面は、本当に疲れ果て、ストレスを感じている看護師を助けるために設計されているのか、それとも単に邪魔になるだけの豪華なディスプレイなのか？

インターフェースの大捜索

この論文の著者であるドイツの研究チームは、探偵のような役割を果たすことにしました。彼らは、これらのAIトリアージツールの「ステアリングホイール」が現実の世界でどのような姿をしているのかを知りたいと考えました。彼らは、AIがいかに正確に病気を予測したか（これはこれまで多く研究されてきました）を見るのではなく、AIがどのように人間の前でその答えを「提示」しているのかに注目しました。彼らは5つの巨大なデータベースを徹底的に調べ、2015年以降に発表されたあらゆる論文を精査しました。2,678もの研究を、まるで干し草の中から針を探すようにふるい分け、最終的に完璧に一致する25の研究を見つけ出しました。これらは、救急外来で誰を優先的に助けるべきかを判断するのを支援するために設計されたAIツールに関する研究でした。

判明したこと：混在する画面の現状

チームは、AIの「脳」は賢くなっている一方で、提示される「画面」はいまだに整理されていない状態であることを発見しました。

• 「ブラックボックス」問題： 彼らが調査したシステムの80%において、コンピューターは単に数値や単純な「はい／いいえ」の回答を示すだけでした。例えば、「この患者には敗血症のリスクが85%あります」と表示するようなものです。しかし、それに対して「何をすべきか」までは教えていませんでした。それは、天気アプリが「降水確率90%です」と告げるだけで、「だから傘を持って行きましょう！」と言わないようなものです。著者らは、これら「サブ問題」（AIが特定の疾患を探るケース）の80%において、ツールは次のステップへのガイダンスを示さず、リスクスコアを表示するだけであることを見出しました。
• 視覚情報 vs ノイズ： 研究者たちは、音を使用しているシステムがほとんどないことに気づきました。騒がしい救急外来では、大きなアラーム音は混乱を増すだけかもしれないため、ほとんどのシステムは視覚的な情報に頼っています。約3分の2のツールは画像や色（危険を示す赤背景など）を使用していましたが、音声アラートを使用しているものは極めて少数でした。
• シンプル vs 複雑： チームは画面を3つのタイプに分類しました。
  • シンプル： テキストのみ、あるいは単一の色のみ。（8システム）
  • 中間的： テキストと画像の組み合わせ。（13システム）
  • 複雑： テキスト、画像、数字がすべて連動して機能するもの。（4システム）
    興味深いことに、「商用」ツール（企業が販売しているもの）は、研究者がラボで作ったものよりも、より豪華で複雑な画面を持つ傾向がありました。しかし、その豪華な商用ツールは、多くの場合、まだ病院のメインシステムに接続されていませんでした。つまり、看護師は急いでいる時に、別のウェブサイトにログインしなければならない可能性があるということです。これは、急いでいる時には非常に手間のかかる作業です。

欠けているピース：テストとトレーニング

ここから、物語は少し悲しい展開を迎えます。著者らは、これらのツールのほとんどが、構築される前に実際の看護師によるテストを受けていないことを発見しました。

• ユーザーに聞いたか？： 「この画面は使いやすいですか？」や「これはあなたのワークフローに合っていますか？」といった質問を看護師に投げかけた研究は、ごくわずかでした。
• スタッフを訓練したか？： 新しいツールを使う方法を教えることについて言及している研究は、ほとんどありませんでした。それは、新しいゲーム機を買ってきたのに、マニュアルもチュートリアルもなしにプレイヤーに投げつけるようなものです。遊び方は推測できるかもしれませんが、おそらくフラストレーションが溜まるでしょう。
• 誰が作ったのか？： ほとんどのチームは医師とコンピューター科学者で構成されていました。しかし、人間にとって自然に感じられる設計方法を知っている専門家、すなわち「ヒューマン・コンピュータ・インタラクション（HCI）」の専門家を含むチームは、ほとんど存在しませんでした。

結論：エンジンはあるが、優れたダッシュボードが必要である

論文は、病気の人を予測する素晴らしいAIは存在するものの、その情報を看護師が実際に「使える」ようにするための取り組みが不足していると結論付けています。著者らは、救急外来のような高圧的な環境において、悪いインターフェースは単に人をイライラさせるだけでなく、ストレスを引き起こし、疲労を招き、さらには誤った判断を導く原因にもなり得ると主張しています。

これを解決するために、私たちは単にAIを作るだけでなく、「体験」を設計する必要があると彼らは提案しています。これには以下が含まれます：

1. ユーザーの声を聞くこと： 設計プロセスの早い段階で看護師を関与させること。
2. 画面をテストすること： インターフェースが導入される前に、読みやすく使いやすいことを確認すること。
3. 明確であること： リスクだけでなく、次に何をすべきかを示し、コンピューターがどの程度確信を持っているのかを正直に伝えること。

著者らは、AIが失敗していると言っているわけではありません。AIが救急外来で真に命を救うためには、薬を扱うのと同じくらい丁寧に、画面（インターフェース）も扱わなければならないと言っているのです。私たちは、スマートなコンピューターと疲れた看護師との間の溝を埋め、AIが発信したとき、看護師がそれを明確に聞き取り、即座に行動できるようにしなければなりません。それが実現しない限り、これらの命を救うツールの真のポテンシャルは、混乱した扉の向こう側に閉じ込められたままなのです。