Public perceptions of AI-driven decision-making in healthcare: A structural equation modeling approach

医療システムを、巨大で賑やかな図書館だと想像してみてください。そこでは、医師たちがヘッドライブラリアン（主任司書）を務めています。長年、彼らだけが本を取り出し、棚を整理し、気分を良くするための物語を勧めることを許されてきました。しかし最近、新しい種類の助っ人がやってきました。AI（人工知能）によって動く、超高速で超スマートなロボット司書です。このロボットは、数百万冊の本を瞬時にスキャンし、人間が見落とすかもしれないパターンを見つけ出し、さらにはあなたの特定の気分にぴったりの物語を提案することさえできます。素晴らしく聞こえますよね？でも、ここには落とし穴があります。ロボットが速いからといって、誰もがそれを信頼しているわけではありません。ロボットが物語を間違えたり、秘密を盗んだり、あるいは人間の司書を完全に取って代わってしまうのではないかと心配する人々もいます。

この研究は、一般の人々の心に深く入り込み、「私たちはこの新しいロボット司書を信頼しているのか、それとも、それが私たちの健康を台無しにするのではないかと恐れているのか？」という大きな問いに答えるためのものです。答えを理解するためには、いくつかのことを知る必要があります。第一に「AIリテラシー」です。これは単に、「あなたは、このロボットの脳がどのように機能するかを知っていますか？」という格好の良い言い方です。次に「親しみやすさ（ファミリアリティ）」です。これは、日常生活の中でどれくらいの頻度でこれらのロボブルットを見たり、使用したりしているかという単純なことです。そして最後に「人間による監視（ヒューマン・オーバーサイト）」という概念です。これは、人間の司書が依然として責任を持ち、ロボットが正しいことをしているか確認するために、ロボットの仕事を監視しているという信念です。研究者たちは、ロボットについてより多くを知ること、自分でそれを使うこと、あるいは人間の司書を信頼することが、私たちがロボットをどれほど「役に立つ」「リスクがある」「公平である」と感じるかに影響を与えるかどうかを調べたいと考えました。

アムステルダム大学の研究チームは、オランダ国民が実際に何を考えているのかを見るために、巨大なスナップショットを撮ることにしました。彼らは約4,000人（男女比は約半分ずつ、平均年齢は52歳）にアンケートに回答してもらいました。彼らは単に「AIが好きですか？」と聞いたのではありません。彼らはそれを3つの具体的な感情に分解しました。ヘルスケアにおける自動意思決定（ADM）は「役に立つ」か？「リスクがある」か？そして「公平」か？

答えを見つけるために、彼らは「構造方程式モデリング」と呼ばれる特別な数学的ツールを使用しました。これは、異なる点同士を繋ぐ、巨大で複雑な地図のようなものだと考えてください。研究者たちは、「AIについてどの程度知っているか？」と「それはリスクが高いと思うか？」といった点の間に関連性を描き、どの点が最も強く糸を引いているのかを見極めました。彼らは、健康に関するアドバイスを得るためにチャットボットを使用したことがある人と、Googleだけを使用したことがある人とで、感じ方に違いがあるかどうかを調べました。また、人間が書いたメモとAIが書いたメモの違いを判別できる能力を医師に信頼している人々が、システム全体に対してより安全だと感じているかどうかもチェックしました。

さて、その地図は何を明らかにしたのでしょうか？結果は、驚きの展開があるジェットコースターのようなものでした。

第一に、人々がさまざまな種類のAI（チャットボット、ディープフェイク、生成AIなど）についてより多く知れば知るほど、それは「役に立つ」と考えていました。これは、手品がどのように行われるかを知ることで、マジシャンの技術をより高く評価できるようになるのと似ています。しかし、ここにひねりがあります。同じ「親しみやすさ」が、同時にそれを「よりリスクが高い」と思わせることもあったのです。つまり、知識が増えると、それは単なる完璧な道具ではなく、失敗する可能性のある強力な道具であることに気づくようです。したがって、知ることが単に人々を夢中にさせるだけでなく、危険性への意識も高めたのです。

第二に、この研究は「人間の司書」について非常に興味深い発見をしました。AIが「公平」であり「役に立つ」と考える最大の要因は、AIによるコンテンツと人間によるコンテンツの違いを判別できる医師の能力に対する、人々の自信でした。もしある人が、「私の主治医なら、これがコンピューターによって書かれたものかどうかを見抜ける」と信じていれば、その人はシステム全体が公平であると考える傾向がずっと強かったのです。結局のところ、私たちはロボットそのものを信頼することよりも、ロボットのリードを握っている人間を信頼することに重きを置いているのです。人間がコントロールを握り、ミスを見抜けると考えていれば、私たちは安全だと感じます。

第三に、会話型エージェント（チャットボットやバーチャルアシスタントなど）を健康情報の取得に使用した人々は、他の人々とは異なる感覚を持っていました。これらのユーザーは、システムが「よりリスクが低く」「より公平である」と感じていました。これは自転車に乗ることに似ています。初めて乗るときは、グラグラして怖く感じます。しかし、何度か乗ってみると、普通で安全なものに感じられます。これらのツールを使用することは、恐ろしいロボットを親しみやすい助け手に変えるようでした。ただし、調査におけるほとんどの人々は、まだこれらのチャットボットをあまり頻繁には使用していないため、この「自転車に乗る効果」はまだ全員には浸透していなかったことが研究では指摘されています。

興味深いことに、この研究は、伝統的なヘルスケアサイト（公式の病院のページなど）を利用している人々が異なる感覚を持っているかどうかも調査しました。その結果、こうした「昔ながらの」デジタルソースに頼っている人々は、AIを「よりリスクが高い」と感じていましたが、それが「役に立つ」か「公平である」かという見解を変えることはありませんでした。それは、古いやり方に固執することが、新しいロボットをより疑わしいものに見せているかのようです。

また、この研究では、「AIリテラシー（テクノロジーをどれだけ理解しているか）」と「AIをリスクが高いと感じること」との間に強い関連は見つかりませんでした。車のエンジンがどのように機能するかを知っていれば、車に対して恐怖を感じなくなるはずだと考えるかもしれません。しかし、AIに関しては、仕組みを理解していることが必ずしも安心感につながるとは限りませんでした。研究者は、テクノロジーを理解することが危険を明確に見せる一方で、過信を生むこともあり、それらが互いに打ち消し合っている可能性があると考えています。

研究者たちは、この研究は「今」という時点のスナップショットであり、未来の映画ではないという点に注意を払いました。チャットボットの使用が、人々が恐怖を感じなくなる「原因」であると断定することはできません。彼らは、その二つの事象が共に起こっていることを知っているだけなのです。また、アンケートには単純な質問を用いたため、これらの感情にはもっと微妙なニュア Nuance（ニュアンス）が存在する可能性があることも述べています。

結局のところ、この論文が語る物語は「信頼」についての物語です。AIが真にヘルスケアの役に立つ存在となるためには、より優れたロボットが必要なのではなく、それを使う人間の医師を人々が信頼できるようにする必要があることを示唆しています。もし人々が、医師はAIを監視し、間違いを見つけることができると信じているならば、公衆はより容易にそのテクノロジーを公平で有用なものとして受け入れるでしょう。しかし、もし「ループの中にいる人間」を忘れてしまえば、ロボットは私たちにとって、ただの恐ろしくてリスクの高い機械に見えてしまうのです。