Integrated Gradient-guided Adversarial Counterfactual Explanations of 12-lead Electrocardiograms

매일 수백만 명의 사람들이 가슴 통증이나 호흡 곤란을 느끼며 병원을 찾아오고, 의사들이 가장 먼저 손에 쥐는 도구는 종종 심장의 전기적 활동을 기록한 단순한 10초짜리 기록물입니다. 이것이 바로 심전도(ECG)로, 심장의 리듬을 12가지 서로 다른 각도에서 그려내어 증상이 심각해지기 훨씬 전부터 심근경색과 같은 숨겨진 위험을 밝혀내는 검사입니다. 수십 년 동안 이 검사는 표준적인 방법이었으나, 오늘날 인공지능은 인간 전문가와 대등할 정도의 속도와 정확도로 이 동일한 구불구불한 선들을 읽는 법을 배우고 있습니다. 하지만 컴퓨터와 임상 현장 사이에는 여전히 조용한 장벽이 존재합니다. 기계는 환자가 위험하다는 사실을 의사에게 알려줄 수는 있지만, 왜 그런지를 설명하지 못하는 경우가 많기 때문입니다. 기계는 인간이 볼 수 없는 데이터 속의 패턴을 포착하지만, 의사는 그저 '블랙박스'를 믿어야 하는 상황에 놓입니다. 이 간극을 메우기 위해, 연구자들은 기계가 결정을 내리는 방식에 대해 새로운 사고방식을 개발하고 있습니다. 단순히 이미지의 어느 부분이 중요해 보이는지를 지적하는 것을 넘어, 더 인간적인 질문인 "결과가 달라지려면 무엇이 변해야 하는가?"라고 묻는 방식으로 나아가고 있는 것입니다.

'반사실적 설명(counterfactual explanation)'이라고 알려진 이러한 사고방식은 의사가 실제로 환자를 진단하는 방식을 반영합니다. 의사가 심전도 기록을 볼 때, 그들은 단순히 특징을 식별하는 데 그치지 않고 대안을 정신적으로 시뮬레이션합니다. 그들은 스스로에게 묻습니다. '만약 이 파형이 약간 더 높거나, 이 휴지기가 조금 더 짧았다면, 진단이 심근경색에서 정상 리듬으로 바뀌었을까?' 이러한 종류의 추론은 의료 실무의 핵심이지만, 컴퓨터에게 가르치기는 어려웠습니다. 인공지능을 투명하게 만들기 위한 기존의 대부분의 방법은 카메라가 초점을 맞춘 곳을 보여주는 히트맵처럼, ECG의 어느 영역이 예측에 영향을 미쳤는지를 강조할 수는 있습니다. 그러나 이러한 맵은 결과를 뒤집기 위해 필요한 구체적이고 최소한의 변화가 무엇인지는 보여주지 않습니다. 그것은 기계가 어디를 보았는지는 알려주지만, 기계의 마음을 바꾸기 위해 무엇이 필요한지는 알려주지 않습니다.

새로운 연구에서 비요른-요스틴 싱스타드(Bjørn-Jostein Singstad)라는 연구자는 심장 신호에 대해 이러한 "만약 ~라면(what-if)" 시나리오를 생성할 수 있는 시스템을 구축하고자 했습니다. 목표는 심근경색으로 분류된 ECG를 가져와서, 컴퓨터 스스로가 가장 중요하다고 판단한 특정 부분에 집중하여 신호를 부드럽게 조정함으로써, 컴퓨터가 이를 정상 심장으로 인식하게 하거나 그 반대로 만드는 프레임워크를 만드는 것이었습니다. 과제는 이러한 변화가 무작위적인 노이즈나 디지털 아티팩트가 아니라, 기계가 의존하는 결정적인 순간들에 집중된 수정이 되도록 보장하는 것이었습니다. 이를 위해 연구자는 InterGRACE라고 불리는 방법을 개발했습니다. 이 시스템은 '통합 기울기(integrated gradients)'라는 기술을 사용하는데, 이는 마치 스포트라이트처럼 심장 박동의 정확히 어느 순간에 기계가 결정을 내리는 데 가장 의존하는지를 식별합니다. 그런 다음 시스템은 이 스포트라이트를 사용하여 신호를 변형하는 과정을 안내하며, 나머지 파형은 최대한 매끄럽고 자연스럽게 유지하면서도 그 결정적인 순간들에 변화를 집중시킵니다.

이 연구는 2만 1천 개 이상의 심장 기록이 담긴 대규모 공개 컬렉션을 대상으로 이 접근 방식을 테스트했으며, 특히 심근경색과 정상 리듬을 구분하는 데 중점을 두었습니다. 연구자는 이 신호들을 읽기 위해 두 개의 별도 컴퓨터 모델을 훈련시켰으며, 두 모델이 서로 독립적으로 학습하도록 보장했습니다. 목표는 시스템이 제안하는 변화가 실제 의료적 특징인지, 아니면 단일 컴퓨터 프로그램의 특이한 현상인지를 확인하는 것이었습니다. 시스템이 심근경색의 진단을 정상 리듬으로 바꾸도록 요청받았을 때, 첫 번째 컴퓨터 모델의 생각을 바꾸는 데 거의 3분의 2의 사례에서 성공했습니다. 더 중요한 것은, 동일하게 변형된 신호들이 독립적으로 훈련된 두 번째 컴퓨터에게 보여졌을 때, 그 두 번째 컴퓨터 또한 절반 이상의 사례에서 생각을 바꾸었다는 점입니다. 이러한 부분적인 성공은 이 시스템이 데이터에 대한 서로 다른 사고방식 사이에서 공유되는 일부 특징들을 찾아내고 있음을 시사하는 동시에, 변화된 내용의 상당 부분이 원래 모델에 특화되어 있다는 점도 나타냅니다.

변화된 신호들을 자세히 살펴보니 명확한 패턴이 나타났습니다. 시스템은 전체 심장 박동을 무작위로 왜곡하지 않았습니다. 대신, 'ST 분절(ST segment)'과 'T파(T wave)'라고 알려진 특정 시간대에 수정을 집중했습니다. 의학적 용어로, 이 부분들은 주된 전기적 스파이크 직후에 발생하는 심장 박동의 일부로, 심장의 회복 단계를 나타냅니다. 이는 실제 의료 현장에서 이 정확한 영역들의 변화가 심근경색의 주요 지표라는 점에서 매우 중요합니다. 컴퓨터가 오직 자신의 내부 논리에 따라 이 특정 영역들을 수정하기로 선택했다는 사실은, 이 시스템이 임상적으로 의미 있는 재분극 관련 특징들과 일치하는 방향으로 움직이고 있음을 시사합니다. 다만, 연구에서는 이것이 이러한 특징들만이 작용하고 있다는 것을 결정적으로 입증하는 것은 아니라고 언급했습니다. 변화는 전체 신호에 걸쳐 균일하게 나타나지 않았으며, 초기 전기적 스파이크는 거의 건드리지 않은 채 회복 단계만을 정밀하게 겨냥했습니다.

그러나 이 연구는 이 기술의 중요한 한계 또한 드러냈습니다. 시스템이 컴퓨터 모델들에게는 잘 작동했지만, 생성된 변화들이 인간이 해석하기에 항상 완벽하게 안전하거나 현실적인 것은 아니었습니다. 시스템은 ECG의 12개 유도(lead)를 각각 독립적으로 처리했기 때문에, 때때로 살아있는 인간의 심장에서는 결코 발생할 수 없는 신호 조합을 만들어냈습니다. 예를 들어, 생물학적으로 반드시 수반되어야 하는 다른 유도의 변화를 고려하지 않은 채 한 유도의 전압만을 변경함으로써, 인체의 전기가 흐르는 법칙을 위반하는 패턴을 만들어낼 수 있습니다. 연구자는 이러한 생물학적 법칙을 강제하는 엄격한 규칙이 없다면, 생성된 예시들이 갑작스러운 전압 급증이나 실제 심장이 만들어낼 수 없는 왜곡된 파형과 같이 실제 심장 신호에서는 불가능하거나 일어날 수 없는 특징들을 포함할 수 있다고 지적했습니다.

이러한 발견은 이 방법이 기계가 신호의 어느 부분이 중요한지는 성공적으로 식별할 수는 있지만, 인간 몸의 복잡한 물리학을 아직 완전히 이해하고 있지는 못하다는 점을 상기시키는 중요한 지점입니다. 이 연구는 이 접근 방식이 인공지능을 더욱 투명하게 만드는 유망한 단계이며, "만약 ~라면"이라고 질문함으로써 컴퓨터 모델의 추론을 조사하는 방법을 제공한다고 결론짓습니다. 하지만 이러한 도구가 의사들이 생사가 걸린 결정을 내리는 데 도움을 줄 수 있기 전까지, 모든 제안된 변화가 컴퓨터에게 효과적일 뿐만 아니라 인간의 심장에 물리적으로도 가능한 것인지 확인하기 위해 정교해져야 합니다. 이 작업은 기계가 "만 만약 ~라면"이라는 방식으로 생각하도록 유도될 수 있다는 초기 시연인 동시에, 그러한 가설적 변화들이 인간 생리학의 현실에 근거하도록 만들어야 하는 긴 여정이 남아 있음을 보여줍니다.