🤖 machine learning

Conformal Risk Minimization for Semi-Supervised Domain Adaptation via Optimal Transport

이 논문은 제한된 레이블된 타겟 데이터에도 불구하고 모델이 조밀하고 커버리지 유효한(coverage-valid) 예측 집합을 생성하도록 학습할 수 있게 하는, 컨포멀 리스크 최소화(Conformal Risk Minimization)와 최적 운송(Optimal Transport)을 결합하여 의사 레이블(pseudolabels)을 생성하는 준지도 도메인 적응(Semi-Supervised Domain Adaptation)을 위한 엔드투엔드 프레임워크를 제안한다.

원저자: Manos Giannopoulos, Yi Shen, Michael M. Zavlanos

게시일 2026-08-25

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Manos Giannopoulos, Yi Shen, Michael M. Zavlanos

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

고도의 정밀함이 요구되는 의료 진단 분야에서, 머신러닝 모델은 종종 한 그룹의 환자 데이터로 학습되지만 실제로는 다른 그룹의 환자를 진단하는 데 사용됩니다. 이러한 인구 집단의 변화는 숨겨진 격차를 만듭니다. 모델이 이전에 본 적 없는 패턴을 인식하게 되어 환자에게 해를 끼칠 수 있는 오류를 범할 수 있기 때문입니다. 신뢰를 구축하기 위해 의사들에게는 단순한 하나의 추측 그 이상의 것이 필요합니다. 그들은 모델이 얼마나 확신하고 있는지 알아야 합니다. '컨포멀 예측(conformal prediction)'이라 불리는 방법은 단 하나의 진단명이 아닌 가능한 진단 목록을 제공함으로써 해결책을 제시합니다. 이 목록은 특정 백분율의 확률로 정답을 포함한다는 것이 보장되므로 임상의들에게 안전망 역할을 합니다. 그러나 모델이 이미 학습을 마친 후에 이 목록들을 생성할 때 큰 문제가 발생합니다. 학습 과정에서 이 목록들이 어떻게 형성될지를 고려하지 않았기 때문에, 결과적으로 나오는 목록들은 너무 많은 가능성을 담고 있어 의사가 결정을 내릴 수 없을 정도로 지나치게 커지는 경우가 많습니다.

듀크 대학교의 연구진은 특히 새로운 환자 그룹에 대한 레이블이 붙은 데이터가 부족한 상황을 해결하기 위한 새로운 접근법을 개발했습니다. 그들은 모델이 학습하는 동안 미래에 생성될 진단 목록의 크기를 고려하도록 가르치는 시스템을 만들었습니다. 서로 다른 환자 집단을 정렬하는 기술과 더 작고 정밀한 목록을 최적화하는 방법을 결combing하여, 그들은 압축적이고 신뢰할 수 있는 잠재적 진단 세트를 생성하는 모델을 구축했습니다. 그들의 연구는 불확실성을 사후에 추가하는 것이 아니라 학습 단계 중에 미리 계획함으로써, 의료용 AI가 더욱 정확하고 실용적으로 변할 수 있음을 시사합니다.

연구팀이 해결한 핵심 과제는 '준지도 도메인 적응(semi-supervised domain adaptation)'으로 알려져 있습니다. 한 병원에서 수천 장의 피부 이미지를 공부한 의사가, 레이블이 붙은 이미지가 아주 소량뿐인 다른 병원의 환자를 진단해야 하는 상황을 상상해 보십시오. 새로운 병원의 환자들은 서로 다른 피부 톤, 조명 조건 또는 장비를 가지고 있을 수 있으며, 이는 모델을 혼란스럽게 만드는 '분포 변화(distribution shift)'를 일으킵니다. 전통적인 방식은 모델에게 두 병원 사이의 차이점을 무시하고 진단에 중요한 특징에만 집중하도록 가르침으로써 이 격차를 메우려 노력합니다. 그러나 이러한 방식은 대개 단 하나의 가장 가능성 높은 답변만을 목표로 합니다. 이들은 모델이 궁극적으로 제공할 안전망의 크기에는 관심을 두지 않습니다.

연구자들이 기존에 학습된 모델에 컨포멀 예측을 최종 단계로 적용하면, 안전망이 모든 것을 다 잡아버리는 너무 넓은 그물이 되는 경우가 많습니다. 이는 모델이 자신이 제안할 옵션의 수를 최소화하도록 훈련되지 않았기 때문에 발생합니다. 듀크 팀은 유용한 목록을 얻으려면 모델이 처음부터 목록을 염두에 두고 훈련되어야 한다는 점을 깨달았습니다. 그들은 효율적인 작은 목록을 만드는 목표를 학습 과정에 직접 통합하는 'CP-JDOT'라는 프레임워크를 제안했습니다. 이를 통해 모델은 자연스럽게 더 조밀하고 확신 있는 예측으로 이어지는 데이터 표현을 학습할 수 있습니다.

매우 적은 수의 레이블이 붙은 표본으로도 이를 작동시키기 위해, 연구진은 '최적 운송(optimal transport)'이라는 수학적 도구를 사용했습니다. 이 도구를 새로운 병원의 레이블이 없는 모든 환자를 기존 병원의 유사한 환자와 매칭하여, 사실상 기존 환자의 진단을 빌려와 새로운 환자를 안내하는 방법이라고 생각하면 됩니다. 이는 '의사 레이블(pseudolabels)'을 생성하여 모델이 기존 병원의 풍부한 데이터를 활용하면서도 새로운 병원의 특정 요구사항에 적응할 수 있도록 돕는 가교 역할을 합니다. 그 후 시스템은 대상 병원의 실제 레이블이 붙은 소수의 사례를 사용하여 예측 목록의 크기에 대한 임계값을 설정합니다.

연구진은 두 가지 서로 다른 시나리오에서 그들의 방법을 테스트했습니다. 첫째, 예술, 클립아트, 제품, 실제 사진 등 네 가지 도메인의 이미지를 포함하는 표준 객체 인식 벤치마크를 사용했습니다. 그들은 대상 도메인에 대해 카테고리당 레이블이 붙은 예시가 단 하나 또는 세 개만 있는 어려운 조건을 시뮬레이션했습니다. 이 테스트에서 그들의 방법은 기존의 최선책들보다 일관되게 더 작은 예측 목록을 생성했으며, 평균 옵션 수를 약 5~10% 줄였습니다. 이러한 개선은 도메인 간의 전이가 어려운 경우에도 유의미하게 나타났으며, 이는 이 접근 방식이 견고하다는 것을 시사합니다.

그들은 또한 이 방법을 더 중요한 의료 작업인 피부 병변 분류에 적용했습니다. HAM10000 데이터셋을 소스로 사용하여, 다양한 피부 영상 조건에 해당하는 다섯 가지 대상 데이터셋에 대해 모델을 테스트했습니다. 여기서 결과는 더욱 놀라웠습니다. 새로운 방법은 이전 방식들에 비해 평균 예측 목록 크기를 최대 12%까지 줄였습니다. 이는 피부 병변을 보는 의사에게 모델이 훨씬 짧은 잠재적 상태 목록을 제공하여 진단을 더 빠르고 실행 가능하게 만들면서도, 정답이 목록에 포함된다는 엄격한 보증을 유지한다는 것을 의미합니다 양.

단순히 목록을 작게 만드는 것을 넘어, 연구진은 그들의 프레임워크가 특정 의료 규칙을 준수하도록 조정될 수 있음을 보여주었습니다. 피부암 진단에서는 양성과 악성 가능성을 동시에 포함하는 목록을 갖는 것이 위험합니다. 이는 의사에게 혼란스러운 신호를 주기 때문입니다. 연구팀은 이러한 모순적인 목록에 페널티를 부여하도록 학습 손실(training loss)을 수정했습니다. 이를 적용했을 때, 모순적인 혼합 목록의 수가 여러 데이터셋 전체에서 60~75% 급감했습니다. 목록의 전체 크기가 아주 약간 증가하는 트레이드오프가 있었지만, 그 결과는 통계적으로 유효할 뿐만 아니라 의미론적으로 일관되고 임상적으로 유용한 예측 세트였습니다.

이 연구 결과는 단 하나의 정답을 최적화한 다음 불확실성을 사후에 해결하려는 전통적인 AI 훈련 방식이 근본적으로 제한적임을 시사합니다. 효율적인 불확실성 정량화 목표를 학습 과정에 직접 통합함으로써, 모델은 본질적으로 고위험 의사결정에 더 적합한 출력을 생성하도록 학습됩니다. 연구진은 데이터가 부족한 상황에서도 모델이 자신의 한계와 미래 예측의 구조를 인지하도록 훈련하는 것이 가능하다는 것을 입증했습니다. 이 접근 방식은 정확할 뿐만 아니라 신뢰할 수 있고, 임상의의 실질적인 요구에 부합하는 의료용 AI를 향한 유망한 경로를 제시합니다.

기술 요약: 최적 운송을 통한 준지도 도메인 적응을 위한 컨포멀 리스크 최소화 (Conformal Risk Minimization for Semi-Supervised Domain Adaptation via Optimal Transport)

1. 문제 정의

고도의 신뢰성이 요구되는 임상 응용 분야에서, 머신러닝 모델은 소스 환자 집단에서 학습되어 타겟 집단에 배포될 때 분포 변화(distribution shift)에 직면하는 경우가 많습니다. 준지도 도메인 적응(Semi-Supervised Domain Adaptation, SSDA)은 레이블이 있는 소스 데이터와 제한된 레이블 타겟 데이터를 활용하여 점 예측(point-prediction) 정확도를 개선함으로써 이 문제를 해결하지만, 기존의 SSDA 방식은 원칙적인 불확실성 정량화(uncertainty quantification)를 제공하지 못합니다.

전통적인 컨포멀 예측(Conformal Prediction, CP)은 분포 불변적 커버리지 보장(distribution-free coverage guarantees)을 제공하지만, 일반적으로 사전 학습된 모델에 사후적(post-hoc)으로 적용됩니다. 이러한 접근 방식은 기반 모델이 컨포멀 세트의 크기를 결정하는 비정상성 점수(nonconformity scores)의 기하학적 구조가 아닌 점 예측 정확도에 최적화되었기 때문에, 지나치게 큰 예측 세트를 생성하는 결과를 초래할 수 있습니다. 컨포멀 리스크 최소화(Conformal Risk Minimization, CRM)는 훈련 과정에 세트 크기 최적화를 직접 통합하지만, 전통적으로 훈련 중 비정상성 임계값을 계산하기 위해 대규모의 레이블 데이터가 필요하며, 이는 SSDA 환경에서는 자원이 부족한 부분입니다.

본 연구가 다루는 핵심 문제는 다음과 같습니다: 타겟 도메인의 레이블 데이터가 제한적인 준지도 도메인 적응 작업에서 컨포멀 예측기를 어떻게 최적으로 훈련할 것인가?

2. 방법론: CP-JDOT

저자들은 최적 운송(Optimal Transport, OT)을 사용하는 공동 도메인 적응(Joint Domain Adaptation, JDOT) 프레임워크에 컨포멀 리스크 최소화를 통합한 엔드 투 엔드 프레임워크인 CP-JDOT를 제안합니다. 이 방법은 임베딩 함수 $g$ 와 분류기 $h$ 로 구성된 예측 모델 $f_\theta$ 를 최적화하여, 타겟 도메인에서 커버리지가 유효하면서도 조밀한(compact) 예측 세트를 생성하도록 설계되었습니다.

2.1 핵심 구성 요소

훈련 목적 함수는 다음과 같은 합성 손실 함수를 최소화합니다:
$\min_{\theta} L_{cls}(f_\theta) + \lambda_1 L_{DA}(f_\theta) + \lambda_2 L_c(f_\theta)$
여기서:

$L_{cls}$ : 분류 손실 (교차 도메인 학습에 적합하도록 조정됨).
$L_{DA}$ : 도메인 정렬 손실.
$L_c$ : 컨포멀 정렬 손실 (큰 예측 세트에 대해 페널티 부여).

2.2 훈련 루프

알고리즘은 두 개의 미니배치(레이블이 있는 소스 세트 $S$ 와 레이블이 없는 타겟 세트 $T_u$ )를 사용하여 반복적인 확률적 방식으로 작동합니다.

임계값 추정: 각 반복 단계에서, 소수의 레이블이 있는 타겟 세트( $T_l$ )를 사용하여 비정상성 점수의 미분 가능한 $(1-\alpha)$ -분위수 $\tau$ 를 계산합니다. 이 $\tau$ 는 컨포멀 임계값 역할을 합니다.
최적 운송 결합: 프레임워크는 소스와 타겟 도메인을 공유 잠재 공간으로 매핑하기 위해 공동 도메인 적응을 사용합니다. 소스 샘플과 레이블이 없는 타겟 샘플 사이의 결합(coupling) $\gamma$ 를 계산하기 위해 **최적 운송(OT)**을 채택합니다. 이 결합은 소스의 레이블을 타겟 인스턴스로 전달하여 **의사 레이블(pseudolabels)**을 생성하며, 이는 레이블이 없는 타겟 데이터에 필요한 감독 신호를 제공합니다.
손실 최적화: 모델은 다음을 포함하는 총 손실을 최소화하기 위해 확률적 경사 하강법을 통해 업데이트됩니다:
- 소스 ERM: 훈련을 안정화하기 위한 레이블된 소스 데이터에 대한 표준 교차 엔트로피.
- 도메인 정렬 ( $L_{DA}$ ): 소스와 타겟 간의 특징 분포를 정렬하기 위해 기하학적 최적 운송(Geometric Optimal Transport, GOT)을 사용합니다.
- 컨포멀 분류 ( $L_{cls}$ ): OT를 통해 전파된 소스 레이블을 타겟 샘플의 컨포멀 세트가 포함하도록 보장하는 미분 가능한 페널티.
- 컨포멀 효율성 ( $L_c$ ): 레이블이 없는 타겟 샘플에 대한 기대 카디널리티(세트 크기)를 최소화하는 페널티 항.

2.3 도메인 특화 제약 조건

이 프레임워크는 분류 손실을 **제어 손실( $L_{control}$ )**로 수정함으로써 도메인 지식의 삽입을 지원합니다. 이를 통해 특정 세트 구성에 대한 페널티를 부과할 수 있습니다. 예를 들어, 피부 병변 분류에서 이 손실은 상호 배타적인 클래스(예: 양성 및 악성 진단)를 동시에 포함하는 예측 세트에 페널히를 줄 수 있으며, 이를 통해 세트 크기가 약간 증가하더라도 의미론적 일관성을 보장할 수 있습니다.

3. 주요 기여

CP-JDOT 프레임워크: 최적 운송을 사용하는 공동 도메인 적응 설정 내에서 CRM을 통합한 새로운 SSDA 훈련 프레임워크입니다. 이는 OT로부터 유도된 의사 레이벨을 활용하여, 소량의 레이블된 타겟 데이터만을 사용하여 전역적으로 정렬된 특징 공간 내에서 컨포멀 예측기를 캘리브레이션함으로써, supervised CRM과 SSDA 사이의 간극을 메웁니다.
제어된 세트 구성: 훈련 루프 내에 컨포멀 목적 함수를 직접 통합함으로써 도메인 특화 요구 사항에 맞춘 페널티 항을 사용할 수 있음을 입증했습니다. 이를 통해 (예: "커버리지 혼란"을 완화하기 위해 상충하는 클래스를 제외하는 등) 세트 구성을 제어할 수 있으며, 통계적으로 유효하면서도 의미론적으로 유의미한 예측 세트를 생성할 수 있습니다.
실험적 우월성: 엄격한 분석 결과, 엔드 투 엔드 접근 방식이 사후적 컨포멀 래퍼(post-hoc conformal wrappers)를 사용하는 기존의 최첨단 SSDA 방법들보다 일관되게 우수한 성능을 보임을 입증했습니다. 이 방법은 커버리지 보장을 유지하면서도 더 작은 평균 예측 세트 크기를 달s성합니다.

4. 실험 결과

저자들은 두 가지 벤치마크 설정에서 CP-JDOT를 평가했습니다:

Office-Home: ResNet-34를 사용한 1-shot 및 3-shot 설정에서의 12가지 쌍별 전이 방향(Art, Clipart, Product, Real World)을 포함하는 표준 도메인 적응 벤치마크입니다.
피부 병변 분류: ResNet-18을 사용하고 클래스당 10개의 레이블된 타겟 샘플을 사용하여 HAM10000(소스)에서 5개의 타겟 도메인(PH2, Derm7pt, MSK, SONIC, UDA)으로 전이되는 의료 영상 설정입니다.

주요 결과:

세트 크기 감소: CP-JDOT는 모든 전이 방향에서 가장 작은 평균 예측 세트 크기를 일관되게 달성하였으며, Office-Home에서 약 5~10%, 피부 병변 데이터셋에서 최대 **12%**까지 우수한 성능을 보이며 가장 강력한 베이스라인(예: MME, CDAC, DECOTA)을 앞질렀습니다.
정확도 vs 효율성: 주목할 점은, CP-JDOT가 가장 강력한 SSDA 베이스라인보다 Top-1 정확도가 최대 10% 낮음에도 불구하고 이러한 개선을 달성했다는 것입니다. 이는 기존의 정확도 목적 함수가 다운스트림의 컨포멀 세트 크기 효율성과는 정렬되어 있지 않다는 가설을 뒷받침합니다.
의미론적 제어: 피부 병변 절제 연구(ablation study)에서 표준 손실을 $L_{control}$ 로 대체했을 때, 평균 세트 크기의 미미한 증가와 함께 "상충하는 세트"(양성과 악성 클래스를 모두 포함하는 세트)의 비율이 모든 데이터셋에서 60~75% 감소했습니다.

5. 의의 및 주장

본 논문은 CP-JDOT가 불확실성 정량화를 별도의 후처리 단계로 취급하지 않는 도메인 적응형 모델을 개발하는 데 유용한 기초를 제공한다고 주장합니다. 도메인 적응과 컨포멀 목적 함수를 공동으로 최적화함으로써, 이 프레임워크는 다음과 같은 예측 세트를 생성합니다:

조밀함(Compact): 정확도 최적화 모델의 사후 캘리브레이션에 의해 생성된 세트보다 현저히 작습니다.
커버리지 유효성(Coverage-Valid): 엄격한 분포 불변적 보장을 유지합니다.
임상적 실행 가능성(Clinically Actionable): 도메인 특화 제약 조건(예: 모순되는 진단을 제외하는 것)을 훈련 과정에 직접 통합할 수 있습니다.

저자들은 이러한 접근 방식이 의료와 같이 고도의 신뢰성이 요구되는 환경에서 특히 중요하다고 강조합니다. 왜냐하면 예측 세트의 구성(예: 양성과 악성 진단이 혼합되는 것을 피하는 것)은 임상적 의사결정을 위한 세트의 크기만큼이나 중요하기 때문입니다.