Integrated Gradient-guided Adversarial Counterfactual Explanations of 12-lead Electrocardiograms

毎日、何百万もの人々が胸の痛みや息切れを訴えて病院に駆け込みますが、医師が最初に手に取る道具は、多くの場合、心臓の電気活動を記録したわずか10秒間の単純な記録です。これは心電図（ECG）であり、心臓のリズムを12の異なる角度からマッピングすることで、症状が深刻化するずっと前に、心筋梗塞のような隠れた危険を明らかにします。数十年にわたり、この検査はゴールドスタンダード（標準的な手法）であり続けてきましたが、今日では人工知能が、これらと同じ「うねうねとした線」を、時には人間の専門家に匹敵するスピードと正確さで読み取ることを学習しています。しかし、コンピュータと臨床現場の間には、静かな障壁が依然として存在しています。機械は患者にリスクがあることを医師に伝えることはできても、なぜそうなのかを説明できないことがよくあるのです。機械は人間には見えないデータの中のパターンを見出していますが、その結果、医師は「ブラックボックス」を信頼せざるを得なくなります。この溝を埋めるために、研究者たちは、単に画像のどの部分が重要であったかを指摘するだけでなく、より人間的な問い、すなわち「答えを変えるためには何が変わらなければならないのか？」を問う、新しい思考法を開発しています。

「反事実的説明（counterfactual explanation）」として知られるこの考え方は、医師が実際に患者を診断する方法を反映しています。医師が心臓の波形を見るとき、単に特徴を特定するだけではありません。彼らは頭の中で代替案をシミュレーションします。「もしこの波がもう少し高かったら、あるいはこの休止がもっと短かったら、診断は心筋梗塞から正常なリズムへと変わるだろうか？」と自問するのです。このような推論は医療の実践において中心的な役割を果たしていますが、コンピュータに教えることは困難でした。人工知能を透明にするための既存の手法の多くは、カメラがどこに焦点を合わせたかを示すヒートマップのように、予測に影響を与えたECGの領域を強調することはできます。しかし、これらのマップは、結果を覆すために必要な「最小限の変化」を示してはくれません。それらは、機械がどこを見たかは教えてくれますが、機械の考えを変えるために何が必要かは教えてくれないのです。

新しい研究の中で、ビョルン＝ヨスタイン・シングスタッドという研究者は、心臓の信号に対してこれらの「もしも（what-if）」のシナリオを生成できるシステムを構築しようと試みました。その目的は、心筋梗塞と分類されたECGを取り込み、コンピュータ自身が最も重要であると判断した特定の部位に集中するように、信号を「優しく押し動かす」ことで、コンピュータにそれを正常な心臓と認識させたり、あるいはその逆を行わせたりできるフレームワークを作成することでした。課題は、これらの変化がランダムなノイズやデジタル的なアーティファクト（偽像）ではなく、コンピュータが依存している決定的な瞬間を対象とした修正であることを保証することでした。これを行うために、研究者は「InterGRACE」と呼ばれる手法を開発しました。このシステムは、「統合勾配（integrated gradients）」という技術を使用しており、これはスポットライトのように機能し、心拍のどの瞬間が意思決定に最も依存しているかを正確に特定します。システムは、このスポットライトを使用して、波形をできる限り滑らかで自然な状態に保ちながら、重要な瞬間に変化を集中させて信号を変化させるプロセスを導きます。

この研究では、2万1千件を超える大規模な公開心臓記録のコレクションを用いて、特に心筋梗塞と正常なリズムを区別することに焦点を当てて、このアプローチのテストを行いました。研究者は、これらの信号を読み取るための2つの独立したコンピュータモデルを訓練し、互いに独立してタスクを学習するようにしました。目的は、システムが提案する変化が、真の医学的特徴なのか、それとも単一のコンピュータプログラム特有の癖なのかを確認することでした。システムが心筋梗塞の診断を正常なリズムへと覆すよう求められたとき、最初のコンピュータモデルの判断を変えることに、約3分の2のケースで成功しました。さらに重要なことに、それらの変更された信号を、独立して訓練された2番目のコンピュータに見せたところ、2番目のコンピュータも半分以上のケースで判断を変えました。この部分的な成功は、システムが異なるデータの捉え方の間で真に共有されている特徴を見出していることを示唆すると同時に、変更された内容の大部分が、元のモデルに固有のものであることも示しています。

変更された信号を詳しく観察すると、明確なパターンが現れました。システムは心拍全体をランダムに歪ませるのではなく、STセグメントおよびT波として知られる特定の時間窓に修正を集中させました。医学用語では、これらは心拍の主要な電気的スパイクの直後に起こる部分であり、心臓の回復期を表しています。これは、現実世界の医学において、これらの領域の変化が心筋梗塞の主要な指標であるため、非常に重要です。コンピュータが自身の内部ロジックのみに従って、これらの特定の領域を変更することを選択した事実は、それが臨床的に意味のある再分極に関連する特徴と一致していることを示唆しています（ただし、研究ではこれが唯一の特徴であることを決定づけるものではないとも述べられています）。変化は信号全体に一様ではなく、初期の電気的スパイクにはほとんど手を触れず、回復期を標的にした精密なものでした。

しかし、この研究は、この技術における重要な限界も明らかにしました。システムはコンピュータモデルに対してはうまく機能しましたが、生成された変化は、人間が解釈する上で常に完全に安全または現実的であるとは限りませんでした。システムはECGの12誘導をそれぞれ独立して扱ったため、生身の人間では決して起こり得ない信号の組み合わせを作り出すことがありました。例えば、ある誘導の電圧を変更しても、他の誘導において物理的に必要とされる対応する変化を作らないことがあり、その結果、人体を流れる電気の法則に違反するパターンを生み出してしまうのです。研究者は、これらの生物学的法則を強制する厳格なルールがなければ、生成された例には、電圧の急激な跳ね上がりや、実際の心臓では起こり得ない歪んだ波形など、現実の心臓信号としてはあり得ない特徴が含まれる可能性があると指摘しました。

この発見は、この手法が「どの部分の信号が機械にとって重要か」を特定することには成功しているものの、人間の身体の複雑な物理学を完全には理解していないことを思い知らされる重要なリマインダーとなります。研究は、このアプローチが人工知能をより透明にするための有望な一歩であり、コンピュータの判断を変えるためには何が必要かを問うことで、モデルの推論を調査する方法を提供すると結論付けています。しかし、このようなツールが医師の生死を分ける決断を助けるために使用される前に、提案されるすべての変化がコンピュータにとって効果的であるだけでなく、人間の心臓にとって物理的に可能であることを保証するために、さらなる洗練が必要となります。この研究は、機械が「もし〜だったら」という思考形式に導かれ得ることを示す初期のデモンストレーションであると同時に、それらの仮定的な変化を人間の生理学の現実に根付かせるための道のりがまだ長いことを浮き彫りにしています。