당신이 사진 속에 숨겨진 미스터리를 풀려는 탐정이라고 상상해 보십시오. 의료 영상, 특히 피부의 점(병변)을 보는 세계에서 목표는 이 점이 해로운지 아니면 무해한지를 구별하는 것입니다. 오랫동안 컴퓨터는 이를 수행하는 데 매우 능숙해졌지만, 때때로 주의가 산만해지기도 합니다. 실제 병변 대신 사진 구석에 있는 자(ruler)나 이상한 그림자에 집중할 수도 있기 때문입니다. 컴퓨터가 제대로 집중할 수 있도록 돕기 위해 의사들은 종종 '마스크(mask)'를 사용합니다. 마스크는 정확히 어느 부분이 정답인지를 보여주기 위해 선생님이 학생의 숙지에 사용하는 형광펜과 같습니다.

하지만 문제가 하나 있습니다. 현실 세계에서 의사는 모든 사진에 대해 디지털 형광펜을 들고 다니거나 모든 사진에 일일이 윤곽선을 그리는 데 시간을 보낼 수 없습니다. 만약 컴퓨터가 작동하기 위해 미리 그려진 윤곽선을 필요로 한다면, 바쁜 진료 현장에서 사용하기에는 너무 느리고 비용이 많이 들게 됩니다. 그래서 과학자들은 컴퓨터가 형광펜 없이도 스스로 단서를 찾을 수 있을 만큼 똑똑해지도록 가르치려 노력해 왔습니다. 그들은 컴퓨터가 '공부하는 시간' 동안에는 '하이라이트 된' 예시들로부터 배우되, 현장에 나갔을 때는 스스로 미스터리를 해결할 수 있기를 바랍니다. 이 논문은 바로 이 작업을 수행하기 위한 영리한 방법인 '지식 증류(knowledge distillation)'를 사용하여, 마치 마스터 선생님이 노트를 보지 않고 시험을 치러야 하는 학생에게 비밀을 전수하는 것과 같은 방식을 탐구합니다.

---

문제점: "형광펜"의 딜레마

피부암 탐지는 매우 중요한 게임입니다. 조기 발견은 생명을 구하며, 딥러닝(인공지능의 한 종류)은 강력한 플레이어가 되었습니다. 하지만 이러한 AI 모델에는 나쁜 습관이 있습니다. 바로 쉽게 속는다는 점입니다. 모델은 실제 피부 병변이 아니라 문신, 자, 혹은 사진의 조명 같은 단서들을 보고 추측을 내릴 수 있습니다.

이를 해결하기 위해 연구자들은 흔히 **병변 세그멘테이션 마스크(lesion segmentation masks)**를 사용합니다. 이것은 컴퓨터에게 "바로 여기를 봐라, 나머지는 무시해라"라고 말해주는 디지털 윤곽선입니다. 이는 마치 학생에게 빨간 잉크로 정답을 동그라미 쳐서 교과서를 주는 것과 같습니다. 이것은 학습에는 도움이 되지만, 새로운 문제를 만듭니다. 현실 세계에서는 그 빨간 잉크를 가지고 있지 않기 때문입니다. 만약 의사가 컴퓨터가 분석하기 전에 모든 사진에 대해 마스크를 그려야 한다면, 시스템은 너무 느리고 복잡해져서 실용적이지 않게 됩니다.

해결책: "특권이 있는" 선생님

아부 무카드림 라히(Abu Mukaddim Rahi)와 동료들이 이끄는 이 논문의 저자들은 **PLCRD(Privileged Lesion-Context Relational Distillation)**라고 불리는 새로운 프레임워크를 제안합니다. 이것을 **선생님(Teacher)**과 **학생(Student)**이 참여하는 2단계 학습 과정이라고 생각하십시오.

1. 선생님 (특권을 가진 존재): 훈련 단계에서 선생님은 빨간 잉크 마스크가 있는 사진과 마스크가 없는 사진을 모두 볼 수 있습니다. 선생님은 마스크를 사용하여 병변이 정확히 어디에 있는지, 그리고 병변이 주변 피부와 어떻게 관계를 맺고 있는지(즉, "컨텍스트")를 학습합니다. 선생님은 무엇을 찾아봐야 하는지 정확히 알면서 깊고 복잡한 진단 규칙을 배웁니다.
2. 학생 (이미지만 보는 존재): 반면 학생은 일반 사진만 보는 것이 허용됩니다. 마스크도 없고, 빨간 잉크도 없습니다. 학생의 임무는 오직 사진만을 보고 진단하는 법을 배우는 것입니다.

마법은 중간 단계에서 일어납니다. 선생님은 단순히 "이것은 흑색종이다"라고 말하는 것이 아닙니다. 대신 선생님은 학생에게 생각하는 법을 가르칩니다. 선생님은 세 가지 특정 유형의 지식을 공유합니다:

• 진단: "이것이 암일 확률은 이 정도이다."
• 집중: "이 특정 지점을 보아라, 그곳에 증거가 있다."
• 관계: 이것이 가장 독특한 부분입니다. 선생님은 학생에게 병변과 주변 피부 사이의 관계에 대해 가르칩니다. 이는 마치 학생에게 자동차가 어떻게 생겼는지만 가르치는 것이 아니라, 바퀴가 차체와 어떻게 연결되는지, 그리고 자동차가 도로 위에 어떻게 놓여 있는지를 가르치는 것과 같습니다. 선생님은 병변과 주변 피부가 특정한 "기하학적 구조"나 패턴을 가지고 있다는 것을 배웁니다.

작동 원리: "관계적" 트릭

대부분의 기존 방법은 학생이 선생님의 정확한 뇌파(특징 벡터)를 그대로 복제하도록 강요했습니다. 하지만 선생님과 학생은 서로 다른 뇌 크기(서로 다른 컴퓨터 아키텍처)를 가질 수 있으므로, 직접 복제하는 것은 마치 1갤런의 물을 컵에 부으려는 것과 같습니다.

PLCRD는 **관계적 증류(Relational Distillation)**라는 더 스마트한 접근 방식을 사용합니다. 원시 데이터를 복사하는 대신, 선생님은 학생에게 연결 관계에 대해 가르칩니다.

• 병변 간 유사성: "이 병변은 저 병변과 닮았다."
• 병변-컨텍스트 친화도: "이 병변은 이 특정 배경과 잘 어울린다."
• 분리: "병변 부분과 배경 부분이 서로 섞이지 않도록 하라."

이러한 관계를 학습함으로써, 학생은 마스크를 직접 보지 않고도 마스크의 "논리"를 내면화합니다. 이는 체스 그랜드마스터가 보드 위에서 경기하는 것을 보고 체스의 규칙을 배우는 학생과 같습니다. 그 후 학생은 보드 레이아웃을 암기하는 것이 아니라, 기물들 사이의 관계를 이해함으로써 빈 보드 위에서도 완벽하게 경기를 할 수 있게 됩니다.

결과: 더 똑똑하고, 빠르고, 마스크가 필요 없는

연구진은 두 가지 주요 데이터셋인 HAM10000(대규모 피부 이미지 모음)과 ISIC 2018(시스템이 새로운 데이터에서도 작동하는지 테스트하기 위한 다른 데이터 세트)에서 이 시스템을 테스트했습니다.

그들이 발견한 결과는 다음과 같습니다:

• 높은 정확도: HAM10000 데이터셋에서 PLCRD 시스템은 Macro-F1 점수 0.773 ± 0.018과 Balanced Accuracy 0.764 ± 0.023을 달성했습니다. 이는 시스템이 다른 시스템들이 자주 놓치는 희귀한 병변까지도 매우 잘 포착했음을 의미합니다.
• 일반화 능력: 재학습 없이(즉, 추가적인 공부 시간 없이) ISIC 2018 데이터셋에서 테스트했을 때도 여전히 우수한 성능을 보이며 Macro-F1 0.732 ± 0.008을 기록했습니다. 이는 시스템이 첫 번째 데이터셋을 단순히 암기한 것이 아니라 일반적인 규칙을 학습했음을 시사합니다.
• 대안보다 뛰어남: 이 논문은 몇 가지 다른 아이디어들을 명시적으로 배제했습니다. 그들은 마스크를 테스트 중에 직접 사용하는 방식(시험 중에 학생에게 정답지를 주는 것과 같은 방식)을 시도했으나, 오히려 성능이 더 떨어졌습니다. 또한 특별한 관계적 트릭 없이 표준적인 "지식 증류"를 시도했을 때도 결과가 좋지 않았습니다. 논문은 "특권이 있는" 선생님과 "관계적" 교수 방식의 조합이 성공의 핵심이라고 제안합니다.
• 효율성: 가장 좋은 점은 무엇일까요? 최종 시스템은 가볍습니다. 훈련이 끝나면 선생님과 마스크는 버려집니다. 배치된 시스템은 오직 '학생'뿐이며, 이는 빠르고 윤곽선을 그리기 위한 추가 소프트웨어도 필요하지 않습니다. 이 시스템은 표준 컴퓨터에서 이미지당 약 5.468 밀리초 만에 실행됩니다.

이것이 의미하는 바

이 논문은 우리가 "매우 정확한 것(보통 마스크가 필요함)"과 "실용적인 것(보통 마스크가 필요 없음)" 사이에서 하나를 선택할 필요가 없음을 시사합니다. 마스크를 스마트한 선생님을 위한 비밀 훈련 도구로만 사용함으로써, 우리는 단순하고 빠른 학생이 마스크 없이도 실제 세상에서 똑같이 똑똑하게 작동하도록 가르칠 수 있습니다.

하지만 저자들은 이것이 만능 해결책은 아니라는 점을 주의 깊게 언급합니다. 이 시스템은 여가 훈련 단계에서 마스크를 그려야 하며, 여기에는 시간과 비용이 듭니다. 또한 시스템은 때때로 흑색종(melanoma)과 광선 각화증(actinic keratosis)처럼 매우 비슷하게 생긴 피부 질환 사이에서 혼동을 일으키기도 합니다. 그러나 이전 방법들과 비교했을 때, 이 접근 방식은 의사들이 매 환자마다 디지털 윤곽선을 그리는 번거로움 없이 피부암을 빠르고 정확하게 진단할 수 있도록 돕는 AI를 향한 훨씬 더 실용적인 경로를 제시합니다.