기술 요약: 클래스 적응형 컨포멀 트레이닝 (Class Adaptive Conformal Training, CaCT)

문제 정의

심층 신경망은 종종 신뢰할 수 없는 확률 추정치를 생성하며, 예측에 대해 과잉 확신(overconfidence)을 보이는 경향이 있습니다. 컨포멀 예측(Conformal Prediction, CP)은 분포에 무관한 커버리지 보장(distribution-free coverage guarantees)을 제공하는 원칙적인 불확실성 정량화 프레임워크를 제시하지만, 기존 방법론들은 효율성과 적응성 측면에서 상당한 한계에 직면해 있습니다.

표준 CP 방법론, 특히 사후 적용(post-hoc) 방식은 유효하기는 하지만 정보력이 떨어지는(예: 너무 많은 클래스를 포함하는) 예측 집합을 생성하는 경우가 많습니다. 이를 해결하기 위해, ConfTr와 같은 컨포멀 트레이닝(Conformal Training, CT) 방법들은 예측 집합의 크기를 최소화하기 위해 CP 목적 함수를 훈련 과정에 직접 통합합니다. 그러나 현재의 CT 접근 방식은 두 가지 결정적인 결함을 가지고 있습니다:

1. 클래스 무관 규제(Class-Agnostic Regularization): 이들은 일반적으로 모든 클래스에 대해 예측 집합 크기를 페널티를 부여하는 단일 전역 하이퍼파라미터를 사용합니다. 이러한 경직된 공식은 클래스 간의 본질적인 난이도 차이를 반영하지 못합니다.
2. 불균형 시나리오에서의 비효율성: 롱테일 분포(실제 응용 분야에서 흔히 발생하는)에서 전역 페널티는 최적이 아닌 성능을 초래합니다. 이는 종종 소수 클래스(tail classes)에 대해 지나치게 보수적인(큰) 예측 집합을 생성하는 반면, 다수 클래스(head classes)를 위한 최적화는 제대로 수행하지 못하여 전체적인 효율성과 적응성을 저하시킵니다.

방법론

저자들은 컨포멀 트레이닝을 증강 라그랑주 최적화(augmented Lagrangian optimization) 문제로 재정의하는 클래스 적응형 컨포멀 트레이닝(CaCT) 프레임워크를 제안합니다. 이 접근 방식은 데이터 분포에 대한 사전 지식 없이도 클래스별 페널티 가중치를 적응적으로 학습합니다.

1. 클래스 조건부 제약 (Class-Conditional Constraints)

모든 데이터 포인트에 대한 평균 집합 크기에 대해 마진 제약을 부과하는 대신, CaCT는 각 클래스 $k \in \mathcal{Y}$에 대해 하나의 제약 조건($K$개의 제약)을 도입합니다. 목적은 각 클래스 $k$에 대한 기대 집합 크기가 목표치 $\eta$를 초과하지 않도록 하는 조건 하에서 분류 손실 $L_{cls}(\theta)$를 최소화하는 것입니다:
$$\min_{\theta} L_{cls}(\theta) \quad \text{s.t.} \quad |C_\theta(X)| \le \eta, \quad \text{a.s. } X \sim P_{X|Y=k}$$

2. 증강 라그랑주 승수 (Augmented Lagrangian Multiplier, ALM) 전략

대규모 데이터셋(ImageNet 등)에서 $K$개의 별도 페널티 가중치를 수동으로 튜닝하는 것이 불가능하기 때문에, CaCT는 수정된 증강 라그랑주 방법(Augmented Lagrangian Method)을 활용합니다.

• 목적 함수 재구성: 제약된 문제를 각 클래스에 대한 라그랑주 승수 $\lambda_k$와 페널티 계수 $\rho_k$로 매개변수화된 페널티 함수 $P$(구체적으로 PHR 함수)를 사용하여 비제약 문제로 변환합니다.
• 적응형 가중치 학습:
  • 내부 루프 (Primal): 모델 파라미터 $\theta$는 분류 손실과 현재 페널티 항을 함께 최소화하도록 확률적 경사 하강법(SGD)을 통해 업데이트됩니다.
  • 외부 루프 (Dual): 검증 세트에서 관찰된 클래스별 제약 위반을 바탕으로 라그랑주 승수 $\lambda_k$와 페널티 파라미터 $\rho_k$가 업데이트됩니다.
  • 메커니즘: 특정 클래스가 크기 제약을 위반하면(즉, 평균 집합 크기가 너무 크면), 해당 클래스의 승수 $\lambda_k$가 증가하여 다음 반복에서 해당 클래스에 대한 페널티를 강화합니다. 반대로, 제약이 충족되면 페닐티가 감소합니다. 이를 통해 모델은 각 클래스에 대해 정확도와 컨포멀화(conformalization) 사이의 최적의 트레이드오프를 학습할 수 있습니다.

3. 미분 가능성 (Differentiability)

엔드 투 엔드(end-to-end) 훈련을 가능하게 하기 위해, CP의 비미분 구성 요소(집합 크기에 대한 지시 함수 및 경험적 분위수)는 시그모이드 함수와 미분 가능한 정렬 기법을 사용하여 매끄럽게 처리(smoothing)됩니다. 이러한 스무딩은 훈련 중에 마진 커버리지(marginal coverage) 보장을 완화하지만, 저자들은 테스트 시점에 원래의 비스무딩 구현으로 되돌림으로써 공식적인 보장이 복구된다고 명시합니다.

주요 기여

1. 클래스 적응형 프레임워크: 전역 페널티 가중치를 클래스별 승수로 대체하여, 모델이 각 클래스의 특정 난이도와 빈도에 적응할 수 있도록 하는 CaCT를 도입했습니다.
2. 증강 라그랑주 최적화: 수동 하이퍼파라미터 튜닝이나 사전 분포 가정이 필요 없이, 훈련 중에 최적의 클래스별 페널티 가중치를 자동으로 학습하는 수정된 ALM 알고리즘을 개발했습니다.
3. 불균형에 대한 강건성: CaCT가 롱테일 분포에서 효과적으로 문제를 완화하여, 커버리지를 유지하면서도 소수 클래스에 대해 더 작은 예측 집합을 생성함을 입증했습니다. 이는 ConfTr, CUT, DPSM과 같은 기존 방법론들이 갖지 못한 능력입니다.

실험 결과

저자들은 MNIST, CIFAR-10/100, ImageNet을 포함한 표준 이미지 분류, 롱테일 변형(MNIST-LT, CIFAR-LT, ImageNet-LT), 그리고 텍text 분류(20 Newsgroups)를 포함한 다양한 벤치마크에서 CaCT를 평가했습니다.

• 효율성: CaCT는 모든 데이터셋에서 최신 상태의 컨포멀 트레이닝 방법들(ConfTr, CUT, InfoCTr, DPSM)에 비해 일관되게 현저히 작은 평균 예측 집합 크기를 생성합니다.
• 커버리지 갭 (Coverage Gap): 롱테일 시나리오에서 CaCT는 가장 낮은 커버리지 갭(클래스당 목표 커버리지 $1-\alpha$로부터의 편차)을 달로, 우수한 클래스 조건부 커버리지를 보여줍니다. 기존 방법들은 종 often 테일 클래스에 대한 커버리지를 유지하는 데 실패하여 큰 집합 크기를 초래합니다.
• 판별 성능 (Discriminative Performance): CaCT는 베이스라인들과 비교하여 Top-1 및 Top-3 정확도를 유지하거나 향상시키며, 이는 집합 크기를 줄이는 것이 예측력의 희생을 의미하지 않음을 입증합니다.
• 강건성: 이 방법은 다양한 불균형 계수($\gamma$)와 테스트 시점의 서로 다른 미스 커버리지 수준($\alpha$)에 대해 강건함을 보여줍니다. 또한 다양한 비정상성 점수(THR, APS, RAPS)와 함께 잘 작동합니다.
• 하이퍼파라미터 민감도: 전역 규제 가중치 $\lambda$의 선택에 매우 민감한 기존 방법들과 달리, CaCT의 적응형 학습 메커니즘은 이 특정 튜닝에 대해 무관하게 만들어 배포를 단순화합니다.

의의

본 논문은 CaCT가 컨포멀 트레이닝의 근본적인 한계, 즉 복잡하고 불균형한 데이터셋에서 클래스 조건부 효율성을 처리하지 못하는 문제를 해결한다고 주장합니다. 문제를 적응형 최적화 작업으로 공식화함으로써, CaCT는 통계적으로 유효하면서도 실용적으로 유익한 예측 집합을 구축할 수 있게 하며, 특히 소수 클래스가 소외되기 쉬운 롱테일 분포가 포함된 고위험 상황에서 유용합니다. 이 연구는 이론적 커버리지 보장과 실질적인 효율성 사이의 간극을 메우며, 불확실성을 인지하는 딥러닝 시스템의 실제 배포를 위한 확장 가능한 솔루션을 제공합니다.