Intelligence Preserves The System It Assists

현대적인 병원에서는 컴퓨터가 의료 영상을 읽고 환자의 결과를 예측하는 법을 배우는 조용한 혁명이 진행 중이다. 수년 동안 이 분야에서 성공을 측정하는 표준적인 방식은 단순한 경연이었다. 즉, 컴퓨터 알고리즘과 인간 의사를 맞붙여 누가 더 자주 정답을 맞히는지 보는 것이었다. 만약 기계의 점수가 더 높으면 획기적인 돌파구로 칭송받았고, 의사가 이기면 기계는 실패한 것으로 간려되었다. 이러한 접근 방식은 의사와 컴퓨터가 동일한 직업을 두고 경쟁하는 라이벌이며, 목표가 인간의 판단을 대체할 수 있는 단 하나의 완벽한 예측기를 찾는 것이라고 가정한다. 그러나 이러한 관점은 의학의 근본적인 현실을 간과하고 있다. 그것은 바로 환자를 치료하는 행위가 환자를 변화시킨다는 사실이다. 외과 의사가 조직을 절개하거나, 간호사가 약물 투여량을 조절하거나, 의사가 새로운 치료를 시작할 때, 그들이 관찰하고 있는 상황은 잠시 전의 상황과 더 이상 같지 않다. 환자를 돕기 위해 취해진 바로 그 행동이 질병의 경로를 변화시키며, 과거의 데이터에 기반한 예측을 정작 그것이 가장 필요한 순간에 무용지물로 만들 수 있다.

모리스 안토니 유잉(Maurice Antony Ewing)의 새로운 연구는 컴퓨터와 의사가 서로 대립하기보다 어떻게 협력할 수 있는지에 주목함으로써 이러한 경쟁적 사고방식에 도전한다. 연구는 어떤 에이전트가 전반적으로 더 정확한가를 묻는 대신, 다른 질문을 던진다. 즉, 그들의 강점과 약점이 언제 서로 보완되는가 하는 것이다. 이 연구는 컴퓨터가 아무것도 변하지 않았을 때 일어날 일을 예측하는 데는 뛰어나지만, 치료가 환자의 상태를 능동적으로 재형성할 때는 종종 비틀거린다는 점을 시사한다. 반대로, 인간 의사는 상황이 예상 경로에서 벗어날 때를 포착하는 데 능숙하지만, 방대한 양의 데이터 속에 숨겨된 미묘한 패턴은 놓칠 수 있다. 핵심 아이디어는 병원 내에서 컴퓨터의 진정한 가치가 최고의 예측자가 되는 데 있는 것이 아니라, 의료적 개입으로 인해 환자의 상태가 예상치 못한 방식으로 변할 때 특별히 경보를 울리는 전문화된 센서 역할을 하는 데 있다는 것이다.

이 아이디어를 테스트하기 위해, 연구자는 로봇 수술 팔의 찰나의 움직점부터 암 치료의 수개월에 걸친 느린 진행에 이르기까지 다섯 가지 유형의 서로 다른 의료 데이터를 조사했다. 각 사례에서, 표준 컴퓨터 모델은 먼저 환자나 시술이 따라가야 할 '정상적인' 경로를 학습하도록 훈련되었다. 예를 들어, 로봇 수술의 경우 모델은 바늘이 조직을 통과하는 전형적인 속도와 방향을 학습했다. 중환자실 데이터의 경우, 모델은 환자의 혈압이 약물에 어떻게 반응하는지를 학습했다. 그런 다음 연구진은 다른 일을 수행하도록 설계된 두 번째 '증강(augmented)' 모델을 도입했다. 이 모델은 단순히 미래를 예측하는 대신, 실제 사건이 예측된 경로로부터 유의미하게 벗어나는 순간을 모니터링하도록 설계되었다. 연구진은 이 두 번째 모델을 구축하는 데 사용된 구체적인 수학적 공식이나 정확한 코드를 공개하지 않고 이를 보호된 구현 사항으로 유지했으나, 이 시스템이 인간 의사 및 표준 컴퓨터 모델과 비교하여 얼마나 잘 수행되는지는 측정했다.

결과는 모든 다섯 가지 의료 환경에서 일관되게 나타나는 놀라운 패턴을 보여주었다. 모든 것이 순조롭게 진행되고 환자의 상태가 안정적인 상황에서는, 증강 모델이 인간 의사와 표준 컴퓨터 모두보다 오히려 성능이 떨어졌다. 예를 들어, 중환자실 데이터에서 안정적인 상태일 때 증강 모델의 정확도는 약 25.6%였던 반면, 인간 의사는 34.6%의 정확도를 보였다. 그러나 이야기는 상황이 예기치 않게 변하기 시작할 때 완전히 뒤집혔다. 환자의 생리학적 상태나 수술 절차가 정상에서 벗어나는 이 '이탈(departure)'의 순간에, 증강 모델은 명확한 선두 주자가 되었다. 동일한 중환자실 데이터에서 환자의 상태가 불안정할 때, 증강 모델은 46.9%의 정확도를 기록하며, 인간 의사(20.5%)와 표준 컴퓨터(19.6%)를 크게 앞질렀다.

이러한 교차 효과는 우연이 아니었으며, 서로 다른 유형의 데이터 전반에 걸쳐 일관되게 나타났다. 로봇 수술의 경우, 시스템은 외과의가 매듭을 묶는 것에서 바늘을 통과시키는 것으로 기술을 바꾸는 것과 같이, 일반적인 움직임의 규칙이 더 이상 적용되지 않는 전환점을 포착해 냈다. 복강경 비디오의 경우, 시스템은 외과의가 담낭을 견인하는 것과 같이 시각적 장면이 혼란스럽고 예측 불가능해지는 수술의 복잡한 단계들을 강조했다. 뇌암 치료의 경우, 질병 궤적의 '변형(deformation)'은 단일 스냅샷으로는 볼 수 없는 느린 과정이었기 때문에, 시스템은 몇 주에 걸친 전체 치료 과정을 살펴볼 때만 유용성을 입증했다. 연구는 이 증강 시스템의 가치가 초기 예측이 얼마나 우수한지에 달려 있지 않다는 것을 발견했다. 표준 컴퓨터 모델이 미래를 매우 정확하게 예측하더라도, 증강 시스템은 그 예측이 더 이상 유효하지 않게 되는 순간을 포착함으로써 여전히 가치를 찾아냈다.

또한 이 연구는 이러한 유용성이 전적으로 '타이밍'에 달려 있음을 강조했다. 카메라가 빠르게 움직이는 물체를 흐릿함 없이 포착하기 위해 적절한 셔터 속도가 필요한 것처럼, 이 시스템은 변화를 포착하기 위해 적절한 시간 범위를 살펴보아야 했다. 암 연구의 경우, 짧고 단절된 시간 창을 보는 것은 시스템을 덜 효과적으로 만들었지만, 전체 치료 시리즈를 살펴보는 것은 질병 경로의 변형을 포착할 수 있게 해주었다. 이는 이 시스템이 의사를 대체할 보편적인 도구가 아니라, 상황이 유동적일 때만 필수적이 되는 특화된 도구임을 시사한다. 연구는 이 시스템이 자율 수술이나 치료 문제를 해결했다고 주장하지 않으며, 병원에 설치할 수 있는 기성 소프트웨어 제품을 제공하는 것도 아니라고 명시했다. 시스템이 이러한 변화를 감지하는 구체적인 방법은 공개되지 않았으며, 결과는 실제 수술실에서의 테스트가 아닌 과거 데이터를 검토한 것에 기초한다.

궁극적으로, 이 논문은 의료 인공지능의 미래가 인간보다 더 나은 의사가 되려는 기계를 만드는 것이 아니라, 게임의 규칙이 언제 바뀌었는지를 이해하는 시스템을 만드는 데 있다고 주장한다. 가장 효과적인 협업은 표준 컴퓨터가 사례의 일상적이고 예측 가능한 부분을 처리하는 동안, 특화된 '개입 인식(intervention-aware)' 시스템이 환자의 상태가 계획에서 벗어나는 방식으로 변화하는 순간을 감시하는 형태가 될 것이다. 이러한 결정적인 이탈의 순간에, 시스템은 예측의 토대가 움직였음을 인식하는, 즉 예측의 근간이 변했음을 알아차리는 종류의 지능을 제공할 수 있다. 연구는 이 분야에 대한 올바른 질문이 기계가 의사를 이길 수 있느냐가 아니라, 그들의 정보가 어디에서 가장 상호 보완적인지를 확인하여 기술이 임상의들이 예측 불가능한 케어의 순간들을 헤쳐 나갈 수 있도록 도움으로써 기존의 시스템을 보존하도록 하는 것이라고 결론짓는다.