당신이 탐정이라고 상상해 보십시오. 하지만 당신의 '범죄 현장'은 범죄가 아니라, 수천 배로 확대된 환자의 신체 조직에서 가져온 작고 다채로운 조각입니다. 이것이 바로 계산 병리학(computational pathology)의 세계입니다. 이곳에서는 강력한 컴퓨터를 사용하여 미세한 사진을 읽고, 암과 같은 질병이 시간이 지남에 따라 어떻게 진행될지 예측합니다. 오랫동안 이 컴퓨터들은 마치 천재적이지만 침묵하는 마법사 같았습니다. 그들은 슬라이드를 보고 "이 환자는 아마 더 오래 생존할 것입니다" 또는 "이 환자는 위험도가 높습니다"라고 놀라운 정확도로 말할 수 있습니다. 하지만 문제가 하나 있습니다. 만약 당신이 컴퓨터에게 왜 그런 예측을 했는지 묻는다면, 컴퓨터는 대개 이미지의 특정 지점을 빛나는 손가락으로 가리키며 "여기를 보았습니다"라고만 답할 뿐입니다. 그것은 그 지점에서 무엇을 보았는지는 말해주지 않습니다. 그것이 격렬한 면역 전투의 징후인지? 죽어가는 세포의 징후인지? 아니면 특정 유형의 혈관인지? "왜"를 알지 못한다면 의사들은 컴퓨터를 완전히 신뢰할 수 없으며, 컴퓨터가 발견했을지도 모를 질병에 대한 새로운 비밀을 배울 수도 없습니다.

여기서 SAGE라는 새로운 도구가 등장합니다. SAGE를 컴퓨터의 침묵하는 가리킴을 말하는 이야기로 바꾸는 번역기라고 생각하십시오. 이 논문은 이러한 '침묵하는 마법사들'(구체적으로는 ABMIL이라 불리는 주의 기반 다중 인스턴스 학습 유형의 AI)을 가져와서, 그들에게 25가지의 흔한 생물학적 개념(예: 림프구, 괴사, 또는 신생 혈관 형성 등)이라는 사전을 사용하여 자신의 생각을 설명하도록 요청하는 방법을 소개합니다. 연구진은 컴퓨터를 다시 훈련시키거나 새로운 것을 배우도록 강요하지 않았습니다. 대신, 기존의 주의 지도(attention map)를 읽고 이를 인간이 읽을 수 있는 개념으로 번вать하는 사후(post-hoc) 프레임워크를 구축했습니다. 그들은 TCGA라는 거대한 데이터베이스를 통해 7가지 다른 유형의 암에 대해 이를 테스트했습니다. 결과는 어땠을까요? SAGE는 단순히 의사들이 이미 알고 있던 사실(예: 괴사가 보통 나쁜 소식이라는 점)을 확인하는 데 그치지 않고, 신장암에서 나타나는 특정 유형의 혈관 성장처럼 환자에게 오히려 좋은 징조로 보일 수 있는 놀랍고 암 특이적인 이야기를 밝혀냈습니다.

SAGE의 이야기: AI에게 목소리를 부여하다

당신에게 숙제를 채점하는 데는 뛰어나지만, 왜 A나 F를 주었는지 설명하기를 거부하는 아주 똑똑하지만 수줍음 많은 로봇 조수가 있다고 상상해 보십시오. 그 조수는 그저 페이지를 강조하며 "여기에 집중하세요"라고 말할 뿐입니다. 그것이 현재 병리학 분야의 AI 모델들이 하는 일입니다. 그들은 수천 개의 작은 정사각형 패치로 이루어진 거대한 디지털 모자이크와 같은 전체 슬라이드 이미지(WSI)를 살펴보고, 서로 다른 패치들에 '주의 가중치(attention weights)'를 할당합니다. 만약 어떤 패치가 높은 주의 가중치를 받는다면, 이는 모델이 그 특정 작은 사각형이 중요하다고 생각한다는 의미입니다. 하지만 '중요하다'는 표현은 모호합니다. 그것이 종양처럼 보여서 중요한 걸까요? 면역 세포의 군대처럼 보여서 중요한 걸까요? 아니면 그냥 이상한 색깔이라서 중요한 걸까요?

이 논문의 저자인 압달라 라마네(Abdallah Lamane)와 그의 팀은 이 미스터리를 해결하고 싶었습니다. 그들은 SAGE(Semantic Attention Global Explanations)라는 프레임워크를 만들었습니다. SAGE를 로봇의 모호한 가리킴을 받아 25가지의 구체적인 생물학적 개념이라는 어휘로 빈칸을 채워주는 탐정의 노트라고 생각하십시오. 이 개념들은 세포 유형(림프구 또는 암세 세포와 같은)부터 세포의 행동(세포 분열인 유사 분열 등), 그리고 환경적 특징(괴사 또는 흉터와 같은)에 이르기까지 다양합니다.

마법이 일어나는 단계는 다음과 같습니다:

1. 동결된 모델: 연구진은 이미 생존을 예측하도록 훈련된 기존의 '동결된' AI 모델을 가져왔으며, 그 모델이 생각하는 방식에 단 하나도 변경을 가하지 않았습니다. 그들은 단지 그 모델의 주의 가중치만을 유지했습니다.
2. 사전: 그들은 시각-언어 모델(이미지와 단어를 모두 이해하는 유형의 AI)을 사용하여 25가지 개념의 사전을 만들었습니다.
3. 번역: 모든 작은 조직 패치에 대해, SAGE는 시각-언어 모델에게 묻습니다: "이 패치는 '괴사'와 얼마나 닮았습니까? '림프구'와는 얼마나 닮았습니까?" 그리고 각 개념에 대한 점수를 얻습니다.
4. 집계: 이것이 영리한 부분입니다. SAGE는 단순히 이 점수들을 평균 내지 않습니다. 대신 이 점수들을 원래의 AI 모델이 해당 패치들에 부여한 주의 가중치와 곱합니다. 만약 원래의 AI가 '괴사'와 매우 닮은 패치에 큰 주의를 기울였다면, SAGE는 '괴사'에 매우 높은 점수를 줍니다. 만약 AI가 '림프구'와 닮은 패치를 무시했다면, 그 개념은 낮은 점수를 받게 됩니다.
5. 전역적 이야기: 마지막으로, SAGE는 한 그룹(코호트) 내의 모든 환자를 살펴보고 묻습니다: "'괴사' 점수가 높은 환자들이 AI로부터 더 나쁜 생존 예측을 받는 경향이 있습니까?" 이렇게 함으로써, 그들은 개별 슬라이드가 아닌 전체 그룹에 대한 이야기를 들려주는 "전역적 설명(global explanation)"을 만들어냅니다.

무엇을 발견했는가: 구형의 확인과 새로운 발견

연구팀이 7가지 암 데이터셋(유방, 방광, 자궁경부, 결장, 신장, 뇌, 폐암 포함)에 대해 SAGE를 실행했을 때, 결과는 안도감을 주는 확인과 흥미로운 발견의 혼합이었습니다.

먼저, AI의 '침묵하는 가리킴'은 타당했습니다. 전반적으로 상피 세포(조직의 정상적인 구성 요소)라는 개념은 더 나은 생존 예측과 강하게 연결되어 있었습니다. 반대로, 괴사(죽은 조직)는 일관되게 더 나쁜 예측과 연결되었습니다. 이는 병리학자가 예상하는 바와 정확히 일치하며, AI가 단순히 무작위적인 노이즈가 아니라 실제 생물학을 학습하고 있음을 시사합니다.

하지만 진짜 재미는 특정 암을 살펴보았을 때 시작되었습니다. **신세포암(KIRC)**에서 AI는 매우 정확했으며, SAGE는 매혹적인 패턴을 드러냈습니다. 모델은 혈관 형성(새로운 혈관의 성장)과 내피 세포(혈관을 안감처럼 덮는 세포)를 더 나은 생존과 연관 지었습니다. 이는 직관에 어긋나는 것처럼 들립니다. 보통 혈관이 많다는 것은 종양이 영양을 공급받고 있다는 뜻이니까요. 하지만 연구진은 이것이 특정 유형의 혈관 성장이 오히려 덜 공격적인 질병의 징후가 될 수 있는 신장암의 알려진 분자적 아형들과 일치한다는 점에 주목했습니다.

**자궁경부암(CESC)**에서 AI는 호중구(백혈구의 일종)를 나쁜 결과와 연결했는데, 이는 이전 연구들과 일치합니다. 흥ens하게도, 어떤 경우에는 AI가 과세포성(세포가 빽빽하게 모여 있는 상태)을 더 나은 생존과 연관 짓기도 했습니다. 처음에는 이것이 이상해 보였습니다. 세포가 밀집되어 있으면 흔히 암을 의미하기 때문입니다. 그러나 연구진이 실제 이미지를 확인했을 때, 그 '밀집된' 영역은 암세포가 아니라 암과 싸우는 면역 세포들로 가득 차 있었습니다. SAGE는 AI가 '좋은' 종류의 밀집을 포착하고 있다는 것을 깨닫게 해주었습니다.

"왜"가 중요한 이유: 주의인가, 아니면 그냥 보는 것인가

팀이 던진 가장 중요한 질문 중 하나는 이것이었습니다: "AI의 주의(attention)가 실제로 중요한가, 아니면 우리가 모든 것을 똑같이 본다면 똑같은 답을 얻게 될 것인가?"

이를 테스트하기 위해, 그들은 AI의 주의 가중치를 무시하고 전체 슬라이드에 걸쳐 개념 점수를 단순히 평균 내는 실험을 진행했습니다. 그들은 주의를 사용하지 않더라도 일부 경향성은 존재하지만, AI의 특정 집중이 신호를 훨씬 더 날카롭게 만든다는 것을 발견했습니다. 예를 들어, 신장암에서 혈관과 양호한 생존 사이의 연결 고리는 AI의 주의 가중치를 사용할 때 훨씬 더 강력해졌습니다. 이는 AI가 단순히 무작위로 추측하는 것이 아니라, 질병의 가장 결정적인 특징에 집중하는 법을 구체적으로 학습하고 있음을 시사합니다.

그들은 또한 25개의 단어 사전이 그 자체로 충분한지도 테스트했습니다. 그들은 이미지를 전혀 사용하지 않고 오직 이 25가지 개념의 텍스트 설명만을 사용하여 생존을 예측하는 새로운 단순 모델을 구축했습니다. 놀랍게도, 이 "텍스트 전용" 모델은 복잡한 이미지 기반 모델과 거의 비슷하게 수행되었습니다. 이는 그들이 선택한 25가지 개념이 환자의 예후를 예측하는 데 필요한 생물학적 진실을 엄청나게 많이 담고 있음을 시사합니다.

한계와 미래

저자들은 자신들의 결과에 대해 과장하지 않도록 주의를 기울였습니다. 그들은 SAGE가 이미 결론을 내린 모델을 설명하는 '사후(post-hoc)' 도구라는 점을 지적합니다. 즉, SAGE는 가설을 생성하는 것이지, 인과관계에 대한 절대적인 증거를 만드는 것이 아닙니다. 또한, 25가지 개념 목록이 일부 희귀하거나 미묘한 특징을 놓칠 수 있으며, 이미지를 단어로 번역하는 데 사용된 시각-언어 모델이 완벽하지 않아 실수를 할 수 있다는 점도 인정했습니다.

그럼에도 불구하고, 이 연구는 SAGE가 기존 AI 모델을 다시 훈련시킬 필요 없이 바로 연결하여 사용할 수 있는 강력하고 가벼운 도구임을 시사합니다. SAGE는 블랙박스를 투명한 창으로 바꾸어, 의사들이 AI가 어디를 보고 있는지뿐만 아니라 무엇을 보고 있는지도 알 수 있게 해줍니다. AI가 '혈관 형성'이나 '림프구 집합'과 같은 것에 주목하고 있다는 것을 밝혀냄으로써, SAGE는 의사와 기계 사이의 신뢰를 구축하고, 나아가 의사들이 암이 어떻게 행동하는지에 대한 새로운 생물학적 단서를 발견하도록 돕습니다.

결국, SAGE는 단순히 AI가 똑똑하다는 것을 말해주는 데 그치지 않고, AI가 인간의 몸을 설명하기 위해 사용하는 언어를 이해하도록 도와주며, 차가운 데이터를 우리 모두가 이해할 수 있는 이야기로 바꾸어 놓습니다.