Understanding Human AI Discrepancy in Breast Cancer TIL Assessment: A Multi-Rater and Perceptual Bias Study

研究の概要：小さな侵入者のカウント

乳がん細胞を一つの「要塞」だと想像してみてください。この要塞の壁の中には、「リンパ球」と呼ばれる小さな「侵入者」がいます。医師たちはこれを**腫瘍浸潤リンパ球（TILs）**と呼んでいます。

TILsは、がん細胞と戦う「善玉」のようなものです。これが見えれば見えるほど、患者の生存率や治療への反応は良くなります。これを判断するために、病理医（顕微鏡のスライドを見る専門医）は、がん細胞の周囲のスペースが、これら小さな侵入者によって何パーセント占められているかを推定しなければなりません。

問題点：人間は「散らばったもの」の推定が苦手

この研究は、ある既知の問題から始まりました。それは、**「人間は、ものが散らばっている状態の数を推測するのが非常に苦手である」**ということです。

ジェリービーン（砂糖菓子）が詰まった瓶を想像してみてください。もしジェリービーンが隅の方に固まっていれば、数は簡単に予想できます。しかし、もしジェリービーンが瓶全体に均等に散らばっていたら、あなたの脳は苦戦します。実際には40%なのに、20%だと予想してしまうかもしれませんし、その逆もあります。これは、医師ががんのスライドを見ている時にまさに起こっていることです。厳格なルールがあったとしても、異なる二人の医師が同じスライドを見たとき、彼らの脳は「散らばった点」を異なる形で処理するため、異なる答えを出してしまうことがよくあります。

実験：人間 vs ロボット

研究者たちは、人工知能（AI）が人間よりも優れた仕事ができるかどうかを確かめたいと考えました。彼らは、3人の人間の病理医と、2つの異なるAIモデル（ここではロボットAとロボットBと呼びます）による「味見テスト」を用意しました。

彼らは全員に全く同じ乳がんの顕微鏡スライドを渡し、侵入者（TILs）の割合（パーセンテージ）を数えるよう求めました。

結果は以下の通りです。

1. 人間同士は一致していた

3人の医師がスライドを見たとき、彼らのスコアは互いに非常によく似ており、概ね一致していました。

• 比喩： これは、経験豊富なシェフたちがスープの味見をしているようなものです。使うスプーンは多少違っても、彼らはそのスープが「少し塩辛い」のか「とても塩辛い」のかについては一致した意見を持ちます。

2. ロボットは人間と食い違っていた

研究者が医師とロボットを比較したところ、一致度は著しく低下しました。ロボットと人間は、しばしば全く異なる数字を出していました。

• ひねり： ロボットは単に「ランダムに」間違っていたわけではありません。彼らには特定の癖がありました。それは、一貫して侵入者の数を過小評価しているということでした。
• 比喩： 医師が「この瓶はジェリービーンで40%埋まっている」と言っているのに対し、ロボットは「いいえ、25%しか埋まっていません」と言っているようなものです。ロボットは同じ瓶を見ているのに、人間よりも少ない豆を見つけていました。

3. ロボットは「順位付け」は得意だが、「カウント」は苦手

ロボットは正確な「数字」を出すことには失敗していましたが、実は「順番（ランク）」を理解することには非常に長けていました。

• 比喩： もし手元に3つのジェリービーンの瓶（小、中、大）があった場合、ロボットはどれが一番小さくてどれが一番大きいかを正しく判別できました。しかし、「それぞれの瓶に正確に何個の豆が入っているか」を聞かれると、その数字は大きく外れてしまいました。
• データ： 研究によれば、ロボットと人間は正確なパーセンテージについては一致しませんでしたが、「どちらのケースにリンパ球が多く、どちらに少ないか」という傾向については一致していました。

4. なぜ違いが生じるのか？（「混み合った部屋」の効果）

研究者たちは、なぜロボットと人間が食い違うのかを知りたいと考えました。ロボットが壊れているのでしょうか？ それとも人間の脳に欠陥があるのでしょうか？

それを確かめるため、彼らは特別なサイド実験を行いました。医師たちに、黒い背景に白い点が散らばっている単純な白黒画像（リンパ球を模したもの）を見せ、画像の何パーセントが白いかを推測させました。

• 結果： この単純なドットの画像であっても、医師たちの推測はバラバラでした。実際の数値に対して、彼らの予想は大きく変動しました。
• 結論： この不一致は、単にロボットが下手だから起きているのではありません。人間の脳が、散らばった点を視覚的に推定するのが難しいために起こるのです。ロボットは非常に精密な「ピクセル・カウント（画素数による計数）」を行っていますが、人間はエラーを起こしやすい「視覚的な推測」を用いているのです。

まとめ

この研究の結論は以下の通りです：

1. 人間同士は一貫している： 医師たちは、スライドの「雰囲気（バイブス）」については概ね一致した見解を持ちます。
2. ロボットは精密だが、人間の知覚には「盲目」である： ロボットは一つ一つの点を完璧に数えますが、人間が散らばった点をどのように捉えるかを理解していないため、人間とは異なる合計値になってしまいます。
3. 現在は過小評価している： 現在のAIモデルは、医師が考えているよりも免疫細胞が少ないと判定する傾向があります。

結論としてのポイント：
現在、AIは砂浜にあるすべての砂粒を数える超正確な計算機のようです。一方で、人間の医師は砂浜を見て、その体積をなんとなく推測している人です。彼らは同じ砂浜を見ていますが、導き出す数字は異なります。AIが医師に取って代わるほど信頼されるためには、AIが「人間が散らばった細胞をどう見るか」を理解するように「校正（キャリブレーション）」されるか、あるいは医師が自身の視覚的な推測よりも、ロボットの精密なカウントを信じる方法を学ぶ必要があります。

注：論文では、この研究はAIが病院で実際に使えるかどうかをテストしたものではなく、AIがどの程度人間の医師と一致するかをテストしたものであることを強調しています。実際に患者のケアに使用できるようになる前に、この「過小評価」の問題を解決するためのさらなる研究が必要です。