Language Models Reproduce Human Reductionist Bias and Decision Inconsistency in Neurodevelopmental Disorders Assessment

複雑なメンタルヘルスケアの世界において、医師や心理士はしばしば困難な課題に直面します。それは、ある人の状態が政府の支援を受けるのに十分なほど深刻であるかどうかを判断することです。これは単に病気を診断することではありません。その人がどれだけ自分の人生を管理できるかを判断することなのです。多くの場所では、この判断によって、家族がケアのための資金を受け取れるか、専門的な住居を得られるか、あるいは親が付き添って助ける権利を持つかなどが決まります。決定の鍵となるのは、「この人は自立して生活できるのか、それとも基本的なニーズに対して絶え間ない助けを必要としているのか」という特定の問いです。自閉症や注意欠如・多動症（ADHD）のような神経発達障害を持つ人々にとって、その答えは決して単純なものではありません。彼らの苦しみは、医師の診察室では目に見えないかもしれませんが、現実の世界では圧倒的なものになり得ます。こうした決定は非常に重い意味を持つため、人工知能がより公平で一貫性のある判断を下す助けになるのではないかという期待が高まっています。文章を書き、推論することができる強力なコンピュータプログラムである大規模言語モデルは、不偏不党の審判として機能できるかどうかを検証されています。しかし、このような極めて重要な選択を彼らに託す前に、私たちは彼らが世界をどのように捉えているのかを理解しなければなりません。彼らは人間のニーズを人間と同じように解釈しているのでしょうか、それとも、自立を可能にする人生の微妙な社会的側面を見落としているのでしょうか。

ポーランドの研究チームは、人間の専門家と人工知能の両方を厳格な一連の試行に投入することで、この検証を行いました。彼らは、障害評価委員会（誰が支援を受けるかを決定する委員会）で日常的に業務を行っている、18人の医師と17人の心理士からなる計35人の人間の専門家を集めました。これらを公平に比較するために、研究者は主要なテクノロジー企業による7つの異なる大規模言語モデルも選定しました。目的は、機械が人間と同じ間違いを犯すのか、それとも新たな種類のバイアスをもたらすのかを見極めることでした。研究者は、決定者が情報の順序や誤解を招く写真によって騙されるかどうか、自身の知識に対してどれほど謙虚であるか、そして最も重要な点として、「基本的な生活ニーズ」というフレーズをどのように定義するかという、3つの特定の事項に着目した研究を設計しました。

実験は、一連の架空のケーススタディから始まりました。人間の専門家とコンピュータモデルは、さまざまな疾患を持つ人々の記述を読み、2つの質問に答えるよう求められました。第一に、その人の機能がどの程度維持されているかを評価すること。第二に、その人が自立して生活するために絶え間ないケアや援助を必要としているかどうかを判断することです。決定者が無関係な詳細に惑わされないかをテストするため、研究者はいくつかの仕掛けを用意しました。あるケースでは、読者が最初の悪い印象に固執してしまうことを期待して、その人の苦境に関するネガティブな情報を物語の冒頭に配置しました。また別のケースでは、中立的な写真を用いたものと全く同じ内容の物語に、悲しんでいる、あるいは苦悩している人物の写真を添付しました。顔の表情が悲しげであれば、たとえテキストの内容が順調であることを示していても、専門家がより多くの支援を認めるようになるのではないかを確認したかったのです。

これらの仕掛けに対する結果は、両グループ間で驚くほど一貫していました。人間の専門家も人工知能モデルも、テキストの順序や写真の感情によって、決定が大きく左右されることはありませんでした。両グループとも、こうした紛らわしい要素を見抜き、ケースの核心となる事実に集中しているようでした。これは、モデルが人間を惑わせるような視覚的またはテキスト的な手がかりに容易に騙されないことを示唆しており、安堵すべき結果でした。しかし、研究者が実際の決定を深く掘り下げると、別の種類の問題が浮上しました。人間も機械も、その論理においてあまり一貫していなかったのです。ある人は「著しく機能が低下している」と評価されたにもかかわらず、その人が必要とする支援を受けられない場合があります。逆に、「平均的」な機能レベルであると評価された人が、支援を得ることもあります。機能の評価レベルは、支援を受けるかどうかを確実に予測するものではありませんでした。この不一致は人間の医師とコンピュータモデルの両方に存在しており、問題の記述から解決策の付与へと進むプロセスが、機械も引き継いでしまった、混沌とした人間的なプロセスであることを示唆していました。

おそらく最も啓発的な部分は、研究者が参加者に自身の考えを説明するよう求めた場面でした。彼らは人間と機械に対し、「基本的な生活ニーズ」とは実際に何を意味するのかを定義させました。ここで、明確な隔たりが現れました。人間の心理士は、より広い視野を持っていました。彼らは、情緒的な幸福、コミュニケーション能力、そして社会的つながりを、不可欠な基本的要素に含めていました。もし人が他者と会話できなかったり、社会的な合図を理解できなかったりする場合、心理士はそのことを基本的なニーズの欠如と見なしました。一方で、人間の医師は、より狭い視野を持っていました。彼らは、食事、着替え、歩行、排泄といった身体的な生存にほぼ完全に焦点を当てていました。人工知能モデルは、驚いたことに医師の側に立っていました。彼らは、基本的なニーズをほぼ排他的に、生物学的な生存とセルフケアの観点から定義しました。身体的な安全に直接結びつかない限り、コミュニケーションや社会的相互作用に言及することはほとんどありませんでした。

この定義の違いは、最終的な決定に直接的な影響を与えました。心理士は「基本的なニーズ」の定義に社会的・コミュニケーション的な苦闘を含めていたため、架空の患者に対して支援を認める傾向がはるかに強くなりました。一方、生物学的なチェックリストに固執した医師と人工知能モデルは、支援を認める頻度が低くなりました。モデルは自身の知識について非常に謙虚であると主張し、人間の医師よりも知的な謙虚さのテストで高いスコアを記録しましたが、この謙虚さが決定の一貫性や、人間の専門家との一致をもたらすことはありませんでした。実際、モデルの高い謙虚さのスコアは、表面的な特性であり、人間の複雑さに対する深い理解には結びついていないことが分かりました。機械は自分が間違っている可能性があると言うことはできましたが、依然として、人間が直面している社会的な現実を見落とした、狭い医学的な枠組みの中で動いていたのです。

本研究は、人工知能は悲しい写真や混乱を招く文章の順序といった単純なトリックを無視することには長けているかもしれませんが、こうした繊細な領域における人間の判断を代替するには、まだ準備ができていないと結論付けています。モデルは、身体的な機能よりも社会的・コミュニケーション的なつながりを重視する、還元主義的な人間観を再現しています。身体の機能だけに焦点を当てることで、機械は、人間との相互作用や理解の領域における最大の苦しみを持つ人々に対し、支援を拒むリスクを負っています。研究者は、人工知能がメンタルヘルスや障害評価において真に有用であるためには、単なる生物学的な機械としてではなく、人間という存在の全体像を捉えるように教えられなければならないと示唆しています。テクノロジーが人間としての生活を送ることの全容を把握できるようになるまでは、それらに判断を委ねることは、人間の専門家たちの仕事を長年複雑にしてきた、まさにその狭い視点を強化することになりかねません。