MIRROR: Multimodal Intelligent Radiology Reasoning and Observation Reporter
MIRRORプロトタイプは、モデルの確率に基づいた監査可能な所見を保証するために、分類器、ローカライザー、およびテキスト生成器を連鎖させるマルチモーダルな放射線科レポート作成システムを提案しているが、ChestMNISTにおいて偶然を上回る識別能を達成したにもかかわらず、クラス不均衡によってほとんどの疾患に対して陽性の予測を行うことに失敗しており、その実用性は著しく制限されていることを強調している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
医療画像の世界において、人間の胸部の写真を見て疾患を見つけ出すコンピュータプログラムは、もはや空想ではなく、すでに到来している現実である。ディープラーニングに基づき構築されたこれらのプログラムは、何千ものX線写真をスキャンし、しばしば人間の専門家のスキルに匹敵する疾患のパターンを特定することができる。しかし、医師がそのような機械を信頼するためには、コンピュータは単に数値をささやく以上のことをしなければならない。コンピュータは自らを説明する必要がある。問題があると思われる画像上の箇所を指し示し、なぜその箇所が病んでいると考えているのかを説明しなければならない。危険が生じるのは、コンピュータが医師のためにレポートを書こうとする時である。もしコンピュータがレポートを書いている間に画像を見ることが許されていると、プロフェッショナルらしく聞こえるものの、診断を行うシステムの一部には実際には見えていなかった詳細を捏造してしまう可能性がある。これは、機械が知っていることと、それが知っていると言っていることの間に、静かな溝を生み出し、その溝が医師を危険な間違いへと導く可能性がある。
ある研究チームは、この信頼に関する特定の問題を解決するために、「MIRROR」と呼ばれるプロトタイプ・システムを構築した。このシステムは、厳格なルールに基づいて設計されている。すなわち、レポートを書くソフトウェアの部分は、決してX線画像を見ることができないというルールである。代わりに、画像はまず、どの疾患が存在し、その可能性がどの程度であるかを単に列挙する分類器によって分析される。次に、第2のツールが、それらの疾患が現れている画像の一般的な領域を強調表示する。この「発見された事項と場所のリスト」だけが、執筆エンジンに渡される。執筆側は画像を見ることができないため、新しい疾患を捏造したり、受け取っていない詳細を記述したりすることは物理的に不可能である。研究者たちはこのシステムを胸部X線写真でテストし、コンピュータはどの疾患が最も可能性が高いかをランク付けすることには非常に優れていたものの、ほとんどの疾患に対して最終的な決定を下すことには苦慮したことが分かった。さらに重要なことに、コンピュータが流暢でプロフェッショナルな響きのレポートを作成できたとしても、システムが実際に計算したことのない特定の医学的測定値を含んでいることがしばしばあることを彼らは発見した。
研究チームは、最終的なレポートが誠実であり続けることを確実にするために、このパイプラインを3つの明確なステップで構築した。第一に、人間の脳をモデルにした一種のコンピュータプログラムであるニューラルネットワークが、X線をスキャンし、14種類の異なる胸部疾患に対して確率スコアを割り当てる。第二に、局在化ツールが同じ画像を調べ、コンピュータがどこに疾患があると考えているかの大まかなマップを描き、その場所を「左上肺」のような単純な名称に翻訳する。第三に、言語モデルが、疾患のリスト、それらのスコア、および指定された場所のみを受け取り、最終的な医学レポートを執筆する。ここでの決定的な設計上の選択は、言語モデルがX線自体を見ることがないということである。それは、タイプされた事実のリストを渡され、物語を書くよう求められているが、元の書類を見ることは禁じられている秘書のようなものである。これにより、レポートに含まれる疾患のリストが、コンピュータが見つけたリストと正確に一致することを保証し、検出されなかった疾患をシステムが幻視（ハルシネーション）することを防いでいる。
研究者が大規模な胸部X線写真のコレクションを用いてこのシステムをテストした結果、機械ができることとできないことの複雑な姿が明らかになった。コンピュータは画像の構造を理解することにおいて驚くほど優秀であった。それは健康な胸部と病的な胸部の違いを判別でき、疾患の可能性をランダムな推測よりもはるかに優れた方法でランク付けすることができた。肺液貯留や心拡大のような特定の疾患については、システムはかなり正確であった。しかし、ある疾患が存在するか不在するかという最終的な判断を求められると、システムは訓練された14の条件のうち11の条件について沈黙したままであった。それは、ほとんどの疾患に対して「はい」か「ノー」と言うための自信が十分に持てなかったのである。この沈黙は設計上の選択ではなく、訓練データとテストに使用された画像の解像度の低さによる結果であった。システムはパターンの認識は学んだが、臨床診断に求められるような、難しい決断を下すことは学んでいなかったのである。
おそらく最も啓発的な発見は、システムが生成したレポートを検証することから得られた。システムの執筆部分は非常に流暢であったため、人間の医師が書いたレポートと全く同じように聞こえるテキストを生成した。しかし、研究者たちは、この流暢さには隠れた代償が伴うことを発見した。ある例では、レポートには「心臓の大きさは正常であり、肺の下部の角度は明瞭である」と記載されていた。システムは心臓の大きさを測定したことも、それらの角度を確認したことも一度もなかった。システムは、それらが医学レポートにおいて一般的なフレーズであるために、単にそれらの文章を埋めていただけだったのである。システムは、自身が検出した疾患については正しかったが、それらを取り巻く詳細については捏造していた。これは、決定的な境界を示している。つまり、システムは発見した疾患のリストについては保証できるが、それらを記述する文章が真実であることは保証できないということである。レポートは、発見された疾患のエビデンスには基づいていたが、物語を完結させるために捏造された詳細については、根拠がなかったのである。
研究者たちはまた、このアーキテクチャが、コンピュータのコード全体を書き直すのではなく、名前と用語のリストを変更するだけで、脳のMRIや頭部CTなど、他の種類の医療スキャンにも適応できることも示した。これは、検出と執筆を分離する方法が、異なる医療分野にわたって機能し得る柔軟なツールであることを示唆している。しかし、チームはこれが病院で使用できる医療機器ではなく、あくまで研究用のプロトタイプであることを慎重に述べている。このシステムは実際の患者に対してテストされておらず、研究者たちは、これらのレポートを持つことが医師のより良い意思決定に実際に役立つかどうかをまだ測定していない。この研究は、事実がしっかりと固定されている（ロックダウンされている）システムを構築できることを示す、概念実証として機能している。
結局のところ、この研究の価値はその境界の明確さに存在する。このシステムは、レポートを書く部分が画像から遮断されているため、見つけたものについて嘘をつくことができない機械を構築できることを証明している。しかし同時に、機械は知らないことについても自信満々に振る舞うことができるということも証明している。研究者たちは、医学のような極めて重要な決定においては、何を信頼すべきかについて非常に注意深くある必要があると結論づけている。システムがこのように構築されていれば、発見事項のリストは信頼できるが、その周囲のテキストは人間によってチェックされない限り、信頼することはできない。このシステムは医師に取って代わるものではない。むしろ、機械が確信しているのはどこであり、単に推測しているのはどこであるかを示す新しい方法を提供し、ブラックボックスを人間が監査可能な透明なプロセスへと変えるものである。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。