🤖 machine learning

CANDOR: Chance-Calibrated Discordance in Frozen Foundation Encoders

이 논문은 기회-보정된 불일치 지표인 CANDOR를 소개하며, 이는 동결된 파운데이션 인코더가 본질적으로 의학적 소견에 맹목적인 것이 아니라, 경량 헤드가 강력한 성능을 달성할 때조차 높은 최근접 이웃 오류율을 보이는 것에서 입증되듯 약한 기하학적 분리와 부적절한 헤드 선택의 문제를 겪고 있음을 밝혀낸다.

원저자: Soroosh Tayebi Arasteh, Sven Nebelung, Daniel Truhn

게시일 2026-07-22

📖 6 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Soroosh Tayebi Arasteh, Sven Nebelung, Daniel Truhn

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 로봇에게 다양한 종류의 새를 인식하도록 가르치고 있다고 상상해 보세요. 당신은 수백만 장의 사진을 보여주며, 로봇이 사진 속의 모양과 색상을 보고 '울새'나 '참새'를 식별하는 법을 배우게 합니다. 이것이 현대의 '파운데이션 모델(foundation models)'이 작동하는 방식입니다. 이들은 고양이부터 자동차, 구름에 이르기까지 거의 모든 것을 본 거대하고 사전 학습된 뇌입니다. 이제, 당신이 이 똑같은 로봇을 의사들이 엑스레이를 판독하는 데 사용하고 싶다고 상상해 봅시다. 당신은 이 로봇 전체를 다시 학습시키고 싶은 것이 아니라, 그저 "네, 골절이 있습니다" 또는 "아니요, 모두 정상입니다"라고 말해주는 아주 작고 단순한 '헤드(head)'를 부착하고 싶을 뿐입니다.

여기서 중요한 질문이 생깁니다. 로봇이 실제로 자신의 내부 기억 속에 골절된 뼈를 '보고' 있는 것일까요, 아니면 그저 다른 단서들을 바탕으로 추측하고 있는 것일까요? 보통 우리는 로봇의 성능을 측정할 때, 이 작은 헤드가 정답을 얼마나 자주 맞히는지를 봅니다. 하지만 만약 로봇의 내부 지도가 사실 엉망이라면 어떨까요? 만약 로봇의 뇌 깊은 곳에서, 골절된 뼈의 사진이 또 다른 골절된 뼈의 사진보다 오히려 건강한 뼈의 사진과 더 비슷하게 보인다면 어떨까요? 만 만약 그렇다면, 로봇은 '눈이 먼' 것이 아니라 그저 '혼란스러운' 상태인 것입니다. 이는 마치 도서관 사서가 책을 줄거리 대신 색깔별로 정리해 둔 것과 같습니다. 사서는 빨간색 책을 찾아낼 수는 있겠지만, 그 책을 보고 단지 색깔만으로 그것이 미스터리인지 로맨스인지 말할 수는 없을 것입니다. 이 논문은 결정적인 질문을 던집니다. 이 강력한 로봇들이 고정된 상태(frozen in place)일 때, 그들은 정말로 의료적 세부 사항에 대해 눈이 먼 것일까요, 아니면 단지 그것들을 구분하는 능력이 약한 것일까요?

기존 방식의 문제점

오랫동안 과학자들은 고정된 로봇의 성능을 측정할 때, 단순한 '헤드'가 특징들을 얼마나 잘 읽어내는지를 기준으로 삼았습니다. 만약 헤드가 높은 점수를 받으면, 사람들은 로봇이 똑똑하다고 가정했습니다. 하지만 이 논문의 저자인 소루쉬 타이예비 아라스테(Soroosh Tayebi Arasteh)와 그의 팀은, 이 측정 방식이 마치 요리가 실제로 익었는지 확인하지 않은 채 요리사가 음식을 잘 서빙하는지만 보고 요리사를 평가하는 것과 같다는 점을 깨달았습니다.

그들은 '혼란'을 측정하는 방식에 숨겨진 함정이 있다는 것을 발견했습니다. 당신이 붐비는 방 안에서 친구를 찾으려고 한다고 상상해 보세요. 만약 당신의 친구가 빨간 모자를 쓰고 있는데, 빨간 모자를 쓴 사람이 100명이고 파란 모자를 쓴 사람이 단 1명뿐이라면, 로봇에게 파란 모자를 쓴 사람을 찾으라고 했을 때 로봇은 그저 희귀하기 때문에 "파란색"이라고 추측할 수도 있습니다. 기존의 측정 도구들은 질병이 얼마나 흔하거나 드문지에 따라 속임을 당하곤 했습니다. 만약 어떤 질병이 매우 드물다면, 기존의 도구들은 수학적 불균형 때문에 로봇이 완전히 쓸모없다(collapsed)고 판단할 수 있었습니다. 이는 탐정이 바늘을 찾는 데 실패했을 때, 실제 문제가 바늘이 아니라 건초더미의 99%가 이미 바늘이었던 상황인데도 탐정을 탓하는 것과 같았습니다.

CANDOR: 공정한 심판의 등장

이를 해결하기 위해 연구팀은 CANDOR(Chance-Calibrated Discordance)라는 새로운 도구를 발명했습니다. CANDOR를 경기가 시작되기 전 게임이 공정한지 확인하는 심판이라고 생각하세요.

작동 방식은 이렇습니다. CANDOR는 로봇이 엉망인 군중을 바라보게 하는 대신, 완벽하게 균형 잡힌 게임을 설정합니다. 환자의 특정 문제(예: 기흉)가 담긴 사진을 가져온 뒤, 로봇에게 그 환자의 가장 가까운 '이웃' 5명을 기억 속에서 찾으라고 요청합니다. 하지만 여기에는 비결이 있습니다. CANDOR는 로봇이 정확히 같은 크기의 두 그룹 사이에서 선택하도록 강제합니다. 한 그룹은 문제를 가진 환자들이고, 다른 한 그룹은 문제가 없는 환자들입니다.

만약 로봇이 정말로 뛰어나다면, 문제를 가진 환자들은 '문제 그룹'에 더 가까워야 합니다. 만약 로직이 혼란스럽다면, 문제를 가진 환자들은 '문제 없는 그룹'에 더 가깝게 위치할 것입니다. 그룹의 크기가 동일하기 때문에, 로봇은 운 좋게 맞힐 확률이 정확히 50/50이 됩니다. 이를 통해 과학자들은 비교를 위한 완벽한 '우연 수준(chance level)'을 얻게 됩니다.

충격적인 발견: 눈이 먼 것이 아니라 약한 것이다

연구팀이 20개의 데이터셋(흉부 엑스레이, 안구 스캔, 심지어 새 사진 포함)에 걸쳐 22개의 강력한 로봇을 대상으로 CANDOR를 실행했을 때, 그들은 놀라운 사실을 발견했습니다.

첫째, 그들은 로봇이 눈이 먼 것이 아님을 증명했습니다. 기존의 도구들은 로봇이 희귀 질환에 대해 완전히 무용지물인 것처럼 보이게 만들었지만, CANDOR는 로봇이 실제로 정보를 가지고 있다는 것을 보여주었습니다. 로봇은 빈 벽을 응시하고 있는 것이 아니라, 그저 안개 낀 방 안에 서 있는 것입니다.

하지만 로봇은 매우 약합니다. 연구에서 가장 뛰어난 성능을 보인 RAD-DINO라는 로봇(흉부 엑스레이에 특화된 훈련을 받은 로봇)조차도, 기흉 사례에 대해 18.4%의 확률로 혼란을 겪었습니다. 이는 기흉 환자 5명 중 거의 1명꼴로, 로봇의 내부 지도가 해당 환자를 다른 기흉 환자보다 건강한 사람에게 더 가깝게 배치했다는 것을 의미합니다.

다른 질환들에 대한 수치는 더욱 극명했습니다. 녹내장(안구 질환)의 경우, 최고의 로봇조차 순수한 우연 수준(50%)의 성능을 보였는데, 이는 동전 던지기로 결정하는 것과 다를 바 없음을 의미합니다. 조류 종에 대해서는 동일한 로봇이 천재적인 모습을 보이며 혼란을 4.5% 정도로만 겪었습니다. 하지만 흉부 엑스레이에 대해서는 42.8%나 혼란을 겪었습니다. 이는 마치 로봇이 희귀한 향신료는 완벽하게 식별하면서도, 소금과 설탕의 차이를 구별하라고 하면 당황하는 숙련된 요리사와 같습니다.

왜 이런 일이 발생하는가?

연구팀은 또한 "무엇이 로봇을 혼란스럽게 만드는가?"라는 질문을 던졌습니다. 그들은 많은 아이디어를 테스트했습니다. 로봇이 너무 작아서일까요? 아닙니다. 오래된 데이터로 학습되어서일까요? 아닙니다. 질병이 드물어서일까요? 아닙니다.

그들은 혼란을 강력하게 예측하는 한 가지 요인을 찾아냈습니다: 바로 **삭제 보유력(Erasure Retention)**입니다. 골절된 뼈의 사진을 찍은 뒤, 마법 지우개를 사용하여 골절된 부분만 지우고 건강한 뼈만 남겼다고 상상해 보세요. 이 '지워진' 사진을 로봇에게 보여주었을 때, 로봇의 내부 지도는 변할까요?

만약 로봇이 똑똑하다면, 가장 중요한 부분이 사라졌기 때문에 지도가 크게 변해야 합니다.
만약 로봇이 약하다면, 지도는 거의 움직이지 않을 것입니다. 이는 마치 개 사진을 보고 있으면서 실제로는 배경의 풀밭에 집중하고 있는 사람과 같습니다. 개를 지워버려도 그들은 알아채지 못합니다.

연구팀은 지워진 증거에 대해 지도가 거의 변하지 않는 로봇들이 가장 많이 혼란을 겪는 로봇들과 일치한다는 것을 발견했습니다. 이는 로봇이 질병 자체를 보고 있는 것이 아니라, 갈비뼈의 모양이나 조명 같은 이미지의 다른 요소들을 보고 있으며, 실제 문제는 놓치고 있다는 것을 시사합니다.

좋은 소식과 나쁜 소식

논문은 희망적이면서도 현실적인 반전으로 끝을 맺습니다. 비록 단일 로봇은 혼란을 겪을 수 있지만, 연구팀은 11개의 서로 다른 로봇 패널이 있다면 그중 반드시 하나는 정답을 맞힌다는 것을 발견했습니다.

이것을 탐정 그룹이라고 생각해 보세요. 한 명의 탐정이 단서를 놓친다면, 다른 탐정은 그것을 잡아낼 수 있습니다. 연구팀은 단일 로봇이 사례의 35.9%를 놓칠 수 있지만, 각 이미지에 가장 적합한 로봇을 선택하는 스마트한 시스템을 구축한다면 단 2.8%만을 놓칠 수 있다는 것을 보여주었습니다. 정보는 존재합니다. 다만 우리가 그 정보에 맞는 적절한 로봇을 고르는 시스템을 아직 충분히 구축하지 못했을 뿐입니다.

핵심 요약

이 논문은 우리가 AI 의사들을 버려야 한다고 말하는 것이 아닙니다. 대신, 그들이 제대로 작동하고 있는지 확인할 수 있는 더 공정하고 새로운 방법을 제시합니다. 이 논문은 고정된 로봇들이 눈이 먼 것이 아니라, 취약하다는 점을 알려줍니다. 그들은 쉽게 속을 수 있으며, 가장 중요한 미세한 세부 사항을 자주 놓칩니다. CANDOR를 사용함으로써, 의사와 과학자들은 로봇을 실제로 사용하기 전에 어떤 질병에 대해 로봇이 약한지를 정확히 파악할 수 있습니다. 이는 로봇이 크고 강력하다고 해서 모든 것을 명확하게 보는 것은 아니며, 때로는 더 나은 지도가 필요하다는 사실을 상기시켜 줍니다.

기술 요약: CANDOR – 동결된 파운데이션 인코더의 기회 보정된 불일치성 (Chance-Calibrated Discordance in Frozen Foundation Encoders)

문제 정의

현재 동결된 파운데이션 인코더(frozen foundation encoders)에 대한 평가는 거의 전적으로 인코더의 동결된 특징(frozen features) 위에 학습된 경량 "헤드"(예: 선형 분류기)의 성능(통상적으로 AUROC로 측정)에 의존하고 있다. 이 지표는 배포 결정을 좌우하지만, 결정적인 실패 모드인 **기하학적 붕괴(geometric collapse)**를 밝혀내지 못한다.

최근접 이웃 불일치성(nearest-neighbor discordance)과 같은 기존의 기하학적 척도들은 인코더가 특징 공간에서 클래스를 얼마나 잘 분리하는지 정량화하려고 시도한다. 그러나 이러한 척도들은 **클래스 유병률(class prevalence)**에 의해 혼동될 수 있다. 참조 뱅크(양성 및 음성 샘플)의 크기가 불균등할 때, 더 큰 뱅크는 기하학적 분리가 아닌 밀도 때문에 최근접 이웃 탐색을 지배하게 된다. 결과적으로, 희귀한 소견(rare findings)은 인코더가 정보가 부족해서가 아니라 단순히 음성 샘플이 더 많기 때문에 "붕로(collapsed)"된 것처럼(즉, 양성이 음성에 더 가깝게 위치함) 나타난다. 이는 보고된 실패의 심각도가 인코딩의 품질이 아니라 소견의 희귀도를 추적하게 만드는 체계적인 편향을 생성한다.

방법론: CANDOR 프레임워크

저자들은 유병률 편향으로부터 기하학적 실패를 격리하기 위해 설계된 척도인 CANDOR(Chance-Calibrated Neighborhood DiscORdance)를 소개한다.

핵심 연산자

CANDOR는 엄격하게 일치된 획득 맥락(예: 동일한 병원, 동일한 투영 방식, 동일한 뷰) 내에서, 양성 샘의이 자신의 종류보다 반대 레이블의 이웃에 더 가깝게 배치되는 비율을 측정한다.

맥락 매칭(Context Matching): 데이터셋은 획득 공변량(사이트, 투영, 소스 데이터셋)에 따라 맥락 $s$ 로 분할되며, 이를 통해 관심 있는 소견만 서로 다르도록 비교를 보장한다.
동일 크기 뱅크(Equal-Size Banks): 맥락 $s$ 에 있는 쿼리 양성 $x$ 에 대해, 방법론은 두 개의 참조 뱅크인 양성 뱅크 $B^+_s$ 와 음성 뱅크 $B^-_s$ 를 구축하며, 두 뱅크의 크기는 $n$ 으로 동일하다.
불일치 지표( $DM_g$ ): 양성 쿼리 $x$ 에 대해, 방법론은 음성 뱅크에서의 $k$ 개 최근접 이웃에 대한 코사인 유사도( $c^-$ )와 양성 뱅크에서의 코사인 유사도( $c^+$ )의 평균을 계산한다. 불일치는 $DM_g(x) = c^-(x) - c^+(x)$ 로 정의된다.
연산자( $D$ ): 최종 지표는 무작위 양성 $x$ 에 대해 $DM_g(x) > 0$ 일 확률이다:
$D(g; F, s) = \Pr[DM_g(x) > 0 \mid F(x) = 1, x \in s]$
이는 인코더가 자신의 종류보다 반대 레이블에 더 가깝게 배치하는 양성 샘플의 비율을 나타낸다.

이론적 보증

정확한 기회 수준(Exact Chance Level): 저자들은 참조 뱅크의 크기가 동일하면 레이블 그룹이 재레이블링 하에 교환 가능하다는 것을 증명한다(Lemma 1). 따라서 정보가 없는 인코더("맹목적" 인코더)의 경우, 기대 불일치율은 **정확히 0.5 (50%)**이다. 이는 경험적 추정이 필요 없는 고정된 이론적 귀무가설을 제공한다.
교정되지 않은 편향(Uncorrected Bias): 논문은 불균등한 뱅크( $m > n$ )가 맹목적 인코더에 대해 불일치율을 0.5보다 높게 만들어, 희귀한 소견에 대해 붕괴가 발생하는 것처럼 체계적으로 조작함을 보여준다.

추가 도구

기약 불가능 경계(Irreccubility Bound): 저자들은 만약 양성 샘플이 "불일치 쌍둥이"(양성 이웃보다 더 가까운 음성 이웃)를 가진다면, 해당 인코더의 모든 립시츠 헤드(Lipschitz head)의 정규화된 마진( $m/L$ )이 제한된다는 것을 증명한다. 이는 이러한 특정 사례들의 경우, 아무리 헤드의 용량을 높여도 클래스를 분리할 수 없음을 의미하며, 이는 실패가 기하학적임을 시사한다.
삭제 보유(Erasure Retention): 주석이 달린 증거 영역을 가렸을 때(평균값 채우기) 표현이 얼마나 변하는지 측정하는 레이블 프리(label-free) 지표이다. 높은 보유율(변화가 적음)은 인코더가 증거에 주의를 기울이지 않고 있음을 시사한다.
이웃 불순도(Neighborhood Impurity): 정답 레이블 없이 불일치 쌍둥이를 식flag하려는 레이블 프리 점수이지만, 논문에서는 이것이 신뢰도 기반 베이스라인에 비해 성능이 낮음을 발견했다.

주요 기여

기회 보정된 연산자: 동일 크기의 참조 뱅크를 도입하여 기회 수준을 정확히 0.5로 고정함으로써, 유병률 편향을 수정하였다.
기약 불가능 경계: 불일치 쌍둥이가 립시츠 헤드의 마진에 하드 캡(hard cap)을 씌운다는 이론적 증명을 통해, "맹목적" 인코더(정보 없음)와 "약한" 인코더(정보는 존재하나 기하학적으로 압축됨)를 구분하였다.
실패의 포괄적 지도: 22개의 인코더, 20개의 데이터셋, 7개의 도메인, 605,443개의 이미지를 대상으로 한 경험적 분석을 통해, 동결된 인코더들이 완전히 맹목적인 것이 아니라 미세한 소견들을 약하게 인코딩하고 있으며, 실패율이 도메인에 따라 크게 달라짐을 밝혔다.

실험 결과

범위

연구는 22개의 동결된 인코더(RAD-DINO, DINOv3, CLIP, Phikon, RETFound 등 포함)를 다음 영역에서 평가한다:

흉부 방사선 촬영: 11개의 획득 맥락(MIMIC-CXR, CheXpert 등) 내 12가지 소견.
기타 의료 도메인: 조직병리, 안저(망막병증, 녹내장), 피부과, 유방 촬영술.
자연 도메인: 조류 종, 항공기 변종.

주요 결과

맹목적이지 않으나, 약함: 인코더가 미세한 의료 소견에 대해 "맹목적"이라는 가설과 달리, 교정된 CANDOR 지표는 어떤 인코더도 진정으로 맹목적이지 않음(모든 점수가 50%의 기회 수준보다 유의미하게 낮음)을 보여준다. 그러나 그들은 약하다.
- 예시: 최고의 흉부 모델(RAD-DINO)은 기흉에 대해 84.5의 AUROC를 달성하지만, 여전히 동일한 병원 내에서 기흉 양성 중 **18.4%**를 음성 필름에 더 가깝게 배치한다.
- 예시: 12가지 흉부 소견 전체에서 평균 불일치율은 **27.7%**이다.
도메인별 차이: 이 약점은 균일하지 않다.
- 해결됨(Resolved): 조직병리(종양 타일)와 조류 종은 잘 해결된다(불일치율 ~2.7%–7.7%).
- 약함(Weak): 흉부 소견은 중앙값 **42.1%**의 불일치율을 보인다.
- 기회 수준(Chance Level): 녹내장과 유방암 악성은 기회 수준 근처에서 작동하며(49.8%–50.0%), 무작위로 초기화된 ViT보다 나은 성과를 내지 못한다.
선택 vs 정보: 단일 립시츠 헤드는 불일치 쌍둥이에 의해 제한되지만, 이미지당 최적의 헤드를 선택하는 "오라클" 선택기(oracle selector)는 상당한 성능을 회복할 수 있다. 단일 헤드가 양성의 35.9%를 놓칠 때, 11개의 헤드 중 하나를 선택하는 선택기는 2.8%만을 놓친다. 결핍은 선택의 문제이지, 정보의 문제가 아니다.
삭제 보유 상관관계: 증거를 가렸을 때의 변화 정도(삭제 보유)와 불일치율 사이에는 강한 양의 상관관계(Spearman 0.855)가 있다. 증거가 제거되었을 때 임베딩이 거의 움직이지 않는 인코더가 양성을 반대 레이블 옆에 배치하는 경향이 있다.
기타 요인과의 연관성 없음: 실패는 사전 훈련 목적(SSL vs. I-T vs. Supervised), 모델 규모, 출시 연도 또는 소견의 크기와 관련이 없다.

의의 및 주장

논문은 CANDOR가 사전 훈련된 인코더가 어떤 소견을 제대로 지원하지 못하는지, 헤드를 훈련하기 전에 미리 플래그를 달 수 있는 사전 훈련 진단 도구라고 주장한다.

결론의 역전: 교정은 인코더 실패에 대한 해석을 뒤집는다. 희귀한 소견이 유병률 때문에 "붕괴"된 것이 아니라, 구체적이고 측정 가능한 약점을 가지고 있음이 드러났다.
구조적 한계: 실패는 구조적이다. 불일치 쌍-둥이가 존재한다면, 기하학 자체가 어떤 립시츠 헤드도 넓은 마진을 확보하지 못하도록 막는다. 유일한 탈출구는 비-립시츠 선택 규칙(추론 시 서로 다른 인코더를 선택하는 것)이며, 이는 추론 중에 레이블에 접근할 것을 요구한다.
실질적 함의: 동결된 인코더는 미세한 임상 증거에 대해 보편적으로 "맹목적"인 것이 아니라, 흉부 소견과 같은 특정 유형의 증거를 약하게 인코딩한다. 이 약점은 측정 가능하며, 헤드 아키텍처로는 줄일 수 없고, 도메인 전반에 걸쳐 매핑 가능하다.

저자들은 하나의 패널 인코더가 알 수 있는 것과 하나의 동결된 인코더가 추출할 수 있는 것 사이의 간극이 크지만, CANDOR의 즉각적인 가치는 동결된 기하학이 신뢰할 수 있는 분리를 수행하기에 불충분한 "부드러운 지면(soft ground)"—즉, 특정 소견—을 식별할 수 있다는 데 있다고 결론짓는다.