🤖 machine learning

Calibratable Disambiguation Loss for Multi-Instance Partial-Label Learning

본 논문은 기존 MIPL 방식에 내재된 신뢰성 문제를 해결하기 위해, 분류 정확도와 모델 보정(calibration)을 동시에 개선하도록 마진 기반 목적 함수를 조절하는 플러그 앤 플레이 방식의 보정 가능한 모호성 해소 손실(Calibratable Disambiguation Loss, CDL)을 제안한다.

원저자: Wei Tang, Yin-Fang Yang, Weijia Zhang, Min-Ling Zhang

게시일 2026-07-15

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Wei Tang, Yin-Fang Yang, Weijia Zhang, Min-Ling Zhang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 미스터리를 풀려는 탐정이라고 상상해 보세요. 하지만 당신에게는 두 가지 큰 문제가 있습니다. 첫째, 당신은 범죄 현장 전체를 한 번에 볼 수 없습니다. 오직 아주 작고 흩어진 단서들(사진의 조각들)만 볼 수 있으며, 이를 통해 전체 방에서 무슨 일이 일어났는지 추측해야 합니다. 둘째, 군중에게 용의자의 이름을 물었을 때, 그들은 하나의 이름만을 말해주지 않습니다. 대신 "이들 중 하나일 수도 있어요!"라며 세 개나 네 개의 이름 목록을 던져주지만, 그중 진짜 범인이 누구인지는 알려주지 않습니다.

이것이 바로 **다중 인스턴스 부분 라벨 학습(Multi-Instance Partial-Label Learning, MIPL)**의 무질서한 현실입니다. 이는 불완전한 데이터로부터 컴퓨터가 학습하는 매우 까다로운 방식입니다. 당신이 읽고 있는 이 논문은 이 MIPL이 안고 있는 특정 골칫거리인 신뢰도(confidence) 문제를 다룹니다.

문제점: 과신하거나 혹은 과소신하는 탐정

과거에 이러한 MIPL 퍼즐을 풀려는 컴퓨터들은 결정을 내리기를 너무 두려워하거나, 혹은 틀렸음에도 불구하고 지나치게 확신에 차 있는 탐정과 같았습니다.

저자들은 기존의 방식들(DEMIPL, ELIMीIPL, MIPLMA 등)이 자신이 얼마나 확신해야 하는지를 아는 데 형편없다는 것을 발견했습니다. 만약 컴퓨터가 "이것은 종양일 확률이 90%입니다"라고 말한다면, 실제로는 60%의 확률로만 맞을 때가 많았습니다. 반대로 "확률이 25%뿐입니다"라고 말할 때, 실제로는 80%의 확률로 맞을 때도 있었습니다.

현실 세계에서 이것은 위험합니다. 예를 들어, 의사가 세포 사진(병리 슬라이드)을 보는 데 AI를 사용한다고 가정해 봅시다. 만약 AI가 "이것은 암일 확률이 90%입니다"라고 말했는데, 실제로는 60%의 확률로만 맞다면 그것은 재앙입니다. 컴퓨터는 **교정(calibrated)**되어야 합니다. 즉, "90%"라고 말한다면 실제로 90%의 확률로 맞아야 합니다.

저자들은 사람들이 처음에 시도했던 간단한 해결책, 즉 (정답을 정확히 알고 있을 때 사용하는 도구인) 표준 "포컬 로스(Focal Loss)"를 이 무질서한 MIPL 문제에 그대로 갖다 붙이는 방식에 대해 명시적으로 반대합니다. 저자들은 그렇게 나이브하게 처리했을 때 컴퓨터가 너무 소심해지거나(과소신) 너무 오만해져서(과신), 오히려 정답을 맞히는 능력을 떨어뜨린다는 것을 보여주었습니다.

해결책: "1위 vs 경쟁자" 마진(Margin)

그렇다면 저자들은 무엇을 발명했을까요? 그들은 **교정 가능한 모호성 해소 손실(Calibratable Disambiguation Loss, CDL)**이라는 새로운 도구를 만들었습니다.

컴퓨터의 뇌를, 선생님으로부터 가능한 정답 목록(후보 집합)만을 받은 채 객관식 시험을 치르는 학생이라고 생각해 보세요. 학생은 그 목록 중에서 정답을 골라내야 합니다.

기존 방식에서 학생은 그저 "정답을 알아요!"라고 외치며 자신이 선택한 답을 최대한 빨리 100%의 확신도로 밀어붙이려 했습니다. 이것이 "과신" 문제를 일으켰습니다.

새로운 CDL 방식은 엄격한 선생님과 같습니다. 선생님은 이렇게 말합니다: "네 답에 대해 그냥 소리치지만 마라. 네 경쟁자들을 살펴봐라."

경쟁자(The Competitor): 이것은 컴퓨터가 내놓은 두 번째로 좋은 추측입니다.
규칙: 컴퓨터는 자신의 첫 번째 추측이 두 번째 추측보다 확연히 더 나을 때만 엄청난 확신을 가질 수 있습니다.

만약 컴퓨터가 고군분투 중이고 첫 번째 추측과 두 번째 추측이 막상막하(작은 "마진")라면, CDL은 "알겠다, 계속 열심히 해라, 아직 자만하지 마라"라고 말합니다. 하지만 첫 번째 추측이 경쟁자보다 훨씬 앞서 있다면, CDL은 "잘했다! 이제 안심하고 확신해도 좋다"라고 말합니다.

이 도구에는 두 가지 버전이 있습니다:

CDL-CC: 첫 번째 추측을 두 번째로 좋은 후보와 비교합니다 (마치 경주에서 1위와 2위를 비교하는 것과 같습니다).
CDL-CN: 첫 번째 추측을 *가장 강력한 비후보(non-candidate)*와 비교합니다 (마치 1위 주자와 경기에 참여조차 하지 못한 사람을 비교하는 것과 같습니다).

결과: 숫자로 증명된 성과

저자들은 단순히 이 방법이 효과적일 것이라고 추측한 것이 아니라, 콜로레탈 암(결장암)의 실제 병리 이미지와 MNIST 같은 표준 이미지 데이터셋을 포함한 다양한 데이터셋으로 테스트했습니다.

그들이 발견한 결과는 다음과 같습니다 (실험의 정확한 수치 포함):

더 높은 정확도: Birdsong-MIPL 데이터셋에서 기존의 최고 방법인 DEMIPL은 **74.36%**의 정확도를 보였습니다. 하지만 그들의 새로운 방법인 DAMCN은 **80.38%**로 뛰어올랐습니다. 세 개의 오답 라벨이 섞인 SIVAL-MIPL 데이터셋에서는 기존 방법보다 정확도가 무려 **18.58%**나 향상되었습니다.
훨씬 나은 교정 성능: 이것이 가장 큰 승리입니다. 기존 방식들은 자신들의 확신도와 실제 정 reality 사이의 격차를 측정하는 "기대 교정 오차(Expected Calibration Error, ECE)"가 매우 엉망이었습니다.
- 세 개의 오답 라벨이 있는 Birdsong-MIPL 데이터셋에서 기존 방법(DEMIPL)의 ECE는 **53.42%**였습니다. 이는 그들이 말한 것과 실제 사실 사이의 엄청난 간극을 의미합니다.
- 그들의 새로운 방법(DAMCN)은 이 오차를 **4.52%**로 대폭 줄였습니다.
- 결과적으로, 벤치마크 데이터셋의 60가지 테스트 케이스 전체에서, 그들의 방법은 교정 오차를 26개 케이스에서 50% 이상 줄였으며, 평균 감소율은 **44.76%**였습니다.

결론

이 논문은 "마진" 규칙—즉, 자신의 최고의 추측이 차점자보다 얼마나 더 나은지 확인하도록 강제하는 규칙—을 추가함으로써, 정답을 맞히는 능력을 해치지 않으면서도 컴퓨터의 신뢰도를 바로잡을 수 있다는 것을 입증했습니다.

그들은 이 방식이 단순한 이미지 퍼즐부터 딥러닝을 이용해 이미지를 9, 16, 또는 25개의 작은 조각으로 나누어 분석하는 복잡한 의료 영상에 이르기까지 모든 영역에서 작동함을 보여주었습니다. 이미지가 복잡할수록 그들의 새로운 방법은 더 큰 도움을 주었으며, 가장 어려운 암 데이터셋의 일부 버전에서는 교정 오차를 **33.32%**까지 줄였습니다.

그러니 다음에 AI가 의학적 진단을 내리는 것을 보게 된다면, 이와 같은 방식, 즉 "내가 맞다!"라고 소리치기 전에 자신의 경쟁자를 존중하는 법을 배워서 자신이 얼마나 확신하는지 정확히 아는 방식을 사용하고 있기를 바랍니다.

기술 요약: 다중 인스턴스 부분 라벨 학습을 위한 교정 가능한 모호성 해소 손실 (Calibratable Disambiguation Loss for Multi-Instance Partial-Label Learning)

문제 정의

본 논문은 다중 인스턴스 학습(MIL)과 부분 라벨 학습(PLL)의 과제들을 결합한 약지도 학습 프레임워크인 **다중 인스턴스 부분 라벨 학습(MIPL)**을 다룹니다. MIPL에서 각 훈련 예시는 하나의 "백(bag)" 내의 인스턴스들로 구성되며, 여기서 양성 인스턴스는 식별되지 않은 상태(MIL의 과제)이고, 참된 라벨은 후보 라벨 집합 내에 숨겨져 있습니다(PLL의 과제).

기존의 MIPL 방법론들은 라벨 모호성 해소(label disambiguation)(후보 집합에서 참된 라벨을 식별하는 것)에 집중해 왔으나, 저자들은 이러한 방법들이 모델 교정(calibration) 성능이 저하된다는 결정적인 결함이 있음을 지적합니다. 기존 방식들은 모델의 신뢰도 점수(confidence scores)가 실제 정답 확률을 제대로 반영하지 못하는 문제를 겪습니다. 이는 병리 이미지 분류와 같이 신뢰도 점수가 트리아지(triage) 및 진단을 가이드하는 의사결정 민감형 애플리케이션에서 특히 문제가 됩니다. 저자들은 Focal Loss나 Inverse Focal Loss와 같은 전이 학습 기반의 교정 기법을 MIPL에 단순히 적용하는 것이 왜 실패하는지를 입증했습니다. 즉, 그라운드 트루스(ground-truth) 라벨의 부재로 인해 과소 확신(under-confident) 또는 과잉 확신(over-confident) 예측이 발생하고 분류 정확도가 감소하게 됩니다.

방법론

저자들은 모호성 해소 과정(disambiguation process)을 저해하지 않으면서 분류 정확도와 교정 성능을 모두 개선하도록 설계된 플러그 앤 플레이(plug-and-play) 방식의 **교정 가능한 모호성 해소 손실(Calibratable Disambiguation Loss, CDL)**을 제안합니다.

1. 핵심 메커니즘:
CDL은 **최상위 대 경쟁자 예측 마진(top-vs-competitor prediction margin)**을 사용하여 모멘텀 기반의 모호성 해소 목적 함수를 조절합니다. 손실 함수는 다음과 같이 정의됩니다:
$L_{CDL} = -\sum_{c \in S_i} w^{(t)}_{i,c} (1 - q^{(t)}_i + \Phi(\hat{p}^{(t)}_i))^\gamma \log(\hat{p}^{(t)}_{i,c})$
여기서:

$q^{(t)}_i$ 는 최상위 순위 후보 라벨의 예측 확률입니다.
$\Phi(\hat{p}^{(t)}_i)$ 는 "경쟁자(competitor)"의 확률을 나타냅니다.
$(1 - \beta_i)^\gamma$ 항은 조절 인자로 작용하며, 여기서 $\beta_i = q^{(t)}_i - \Phi(\hat{p}^{(t)}_i)$ 는 마진(margin)입니다.

2. 두 가지 변형:
이 방법은 경쟁자를 어떻게 정의하느냐에 따라 두 가지 구체적인 구현체를 도입합니다:

CDL-CC (Candidate-vs-Competitor): 경쟁자를 두 번째로 높은 확률을 가진 후보 라벨로 정의합니다. 이 변형은 **후보 간의 분리(candidate-level separation)**를 강조합니다.
CDL-CN (Candidate-vs-Non-Candidate): 경쟁자를 후보가 아닌 라벨 중 가장 높은 확률을 가진 라벨로 정의합니다. 이 변형은 **후보와 비후보 간의 억제(candidate-vs-non-candidate suppression)**를 강조합니다.

3. 적응형 가중치 부여 (Adaptive Weighting):
손실 함수는 후보 라벨에 대해 모멘텀 기반의 가중치 업데이트 전략을 사용합니다. 마진이 낮은 백(모호한 경우)은 강한 모호성 해소 신호(높은 손실 가중치)를 유지하는 반면, 잘 분리된 백은 과도한 확률 날카로움(probability sharpening)에 대한 동기를 줄여 과잉 확신을 완화합니다.

4. 통합 (Integration):
CDL은 기존의 임베디드 공간 MIPL 프레임워크에 원활하게 통합되도록 설계되었습니다. 저자들은 CDL을 세 가지 확립된 어텐션 메커니즘과 결격합니다:

모호성 해소 어텐션 메커니즘 (Disambiguation Attention Mechanism, DAM)
스케일드 가산 어텐션 메커니즘 (Scaled additive Attention Mechanism, SAM)
마진 인식 어텐션 메커니즘 (Margin-aware Attention Mechanism, MAM)
이를 통해 6가지 변형(예: DAMCC, SAMCN, MAMCC 등)이 생성됩니다.

이론적 분석

본 논문은 세 가지 관점에서 CDL에 대한 엄밀한 이론적 분석을 제공합니다:

손실 수준 (Loss Level): CDL이 모멘텀 기반 모호성 해소 손실(MDL)의 마진 조절 버전임을 보여줍니다. 이론적 경계(bounds)를 통해 CDL이 마진이 낮은(모호한) 백에 대해서는 MDL의 적합 신호를 보존하면서, 이미 잘 분리된 예측에 대해서는 가중치를 낮춘다는 것을 증명합니다.
교정 수준 (Calibration Level): 저자들은 하한선(lower bound)과 의사 라벨 신뢰도 정렬 경계(pseudo-label confidence-alignment bound)를 도출합니다. CDL 리스크를 최소화하는 것이 모델 신뢰도와 의사 라벨 가중치 사이의 정렬을 제어하며, 이것이 기대 교정 오차(Expected Calibration Error, ECE)의 핵심 요소임을 보여줍니다.
최적화 수준 (Optimization Level): 그래디언트 분석을 통해 CDL이 추가적인 "마진 형성(margin-shaping)" 항을 도입함을 밝힙니다. 이 항은 최적화 과정 중에 활성 최상위-대-경쟁자 마진의 증가를 명시적으로 촉진합니다. 또한, 모멘텀 업데이트를 통해 이러한 형성된 마진이 미래의 의사 라벨 가중치로 재귀적으로 전달되어, 교정 효과가 에포크(epoch) 전반에 걸쳐 지속되도록 보장합니다.

실험 결과

저자들은 4개의 벤치마크 데이터셋(MNIST-MIPL, FMNIST-MIPL, Birdsong-MIPL, SIVAL-MIPL)과 7개의 실제 데이터셋(다양한 구성의 CRC-MIPL 포함)을 통해 접근 방식을 평가했습니다.

분류 정확도 (Classification Accuracy): 제안된 방법론은 72개 벤치마크 케이스 중 67개 케이스에서 6개의 최첨단(SOTA) MIPL 베이스라인(MIPLGP, DEMIPL, ELIMIPL, MIPLMA, PROMIPL, FASTMIPL)보다 우수한 성능을 보였습니다. 특히 거짓 양성(false-positive) 라벨의 수가 많은 도전적인 시나리오(예: $r=3$ 인 MNIST-MIPL에서 최대 23% 향상)에서 개선이 두드러졌습니다.
교정 성능 (Calibration Performance): 제안된 방법은 ECE를 유의미하게 감소시켰습니다. 벤치마크 데이터셋에서 CDL은 60개 케이스 중 26개에서 ECE를 50% 이상 감소시켰으며, 평균 감소율은 44.76%였습니다. 실제 데이터셋에서는 42개 케이스 중 33개에서 ECE를 10% 이상 감소시켰습니다.
신뢰도 도표 (Reliability Diagrams): 시각적 분석 결과, 베이스라인 방법들은 높은 정확도에도 불구하고 예측이 낮은 신뢰도 값(예: 0.25) 주변에 밀집되는 현상을 보였으나, CDL 변형 모델들은 예측된 신뢰도가 경험적 정확도와 밀접하게 일치하는 신뢰도 도표를 생성함을 확인했습니다.

의의 및 기여

본 논문은 네 가지 주요 기여를 주장합니다:

문제 식별: MIPL에서 모델 교정 문제를 식별하고 특성화한 최초의 연구로, 기존의 모호성 해소 중심 방법들이 왜 불량한 교정 신뢰도를 생성하는지를 입증했습니다.
방법론적 혁신: 마진 조정을 통해 모호성 해소와 교정 사이의 균형을 맞추는 두 가지 상호 보완적인 구현체(CC 및 CN)를 가진 플러그 앤 플레이 손실 함수인 CDL을 제안했습니다.
이론적 토대: CDL을 마진 조절된 MDL로 설정하고, 교정 경계를 도출하며, 그래디언트 및 모멘텀 분석을 통해 최적화 역학을 설명하는 포괄적인 이론적 분석을 제공했습니다.
실증적 검증: 다양한 벤치마크 및 실제 데이터셋(병리 이미지 분류 포함)에 대해 CDL이 분류 정확도와 교정 성능을 일관되적으로 개선함을 광범위한 실험을 통해 확인했습니다.

저자들은 CDL이 MIPL에 대한 강력한 솔루션을 제공하여, 단순한 정확도를 넘어 신뢰할 수 있는 신뢰도 추정을 가진 예측 모델 구축을 가능하게 하며, 이는 의료 진단과 같은 분야의 실제 배포에 있어 매우 중요하다고 결론지었습니다.