기술 요약: 라벨 시프트(Label Shift) 하에서의 컨포멀 베이즈(Conformal Bayes)

1. 문제 정의

본 논문은 라벨 시프트(label shift) 상황에서 통계적으로 유효한 예측 집합(prediction sets)을 구축하는 과제를 다룬다. 라벨 시프트란 소스($p_s(y)$)와 타겟($p_t(y)$) 도메인 사이에서 주변 라벨 분포는 변하지만, 조건부 특징 분포는 불변($p_t(x|y) = p_s(x|y)$)하는 분포 변화를 의미한다.

표준적인 컨포멀 베이즈(Conformal Bayes)에서 예측 집합은 베이지안 사후 예측 분포 $p(y|x, D_{tr})$와 비정상성 점수(nonconformity score, 일반적으로 음의 로그 예측 밀도, NLPD)를 사용하여 구축된다. 라벨 시프트 하에서는 소스 도메인에서 추출된 교정(calibration) 데이터와 타겟 도메인의 테스트 데이터가 동일한 측도(measure) 하에서 교환 가능(exchangeable)하지 않다. 결과적으로, 소스 데이터로 교정된 예측 집합은 타겟 테스트 포인트에 대해 명목된 커버리지 수준을 달atur하는 데 실패한다. 이 문제는 고활성 화합물에 편향된 훈련 데이터를 사용하지만, 실제로는 다른 라벨 분포를 가진 전체 화학 라이브러리에 대해 예측이 필요한 **리드 최적화(lead-optimization)**와 같은 영역에서 특히 중요하다.

2. 방법론

저자들은 명목 타겟 도메인 커버리지를 복구하기 위한 두 가지 상호 보완적인 전략을 분석하는 통합 프레임워크를 제안한다. 두 전략 모두 유효성을 보장하기 위해 중요도 가중(importance-weighted, IW) 컨포멀 교정에 의존하지만, 예측 기하학(predictive geometry)을 조정하는 방식에서 근본적으로 차이가 있다.

핵심 가정

1. 라벨 시프트 (조건부 불변성): $p_t(x|y) = p_s(x|y)$이지만, $p_t(y) \neq p_s(y)$이다.
2. 밀도 비율: 시프트는 지수 틸팅(exponential tilting)을 통해 모델링된다: $w(y) = p_t(y)/p_s(y) \propto \exp(\beta y)$, 여기서 $\beta$는 알려진 파라미터(또는 추정된 값)이다.
3. 모델: 고정된 백본 $\phi(x)$와 가우시안 선형 헤드(Gaussian linear head)를 갖는다: $y|x, \theta \sim \mathcal{N}(\theta^\top \phi(x), \sigma^2)$.

전략 A: 사후 교정 (예측 틸팅, Predictive Tilting)

• 메커니즘: 파라미터 사후 분포 $\pi_s(\theta|D_{tr})$는 변경되지 않는다. 교정은 예측 레벨에서 적용된다.
• 과정:
  1. 타겟 사후 예측 분포는 소스 예측 분포를 틸팅하여 도출된다: $p_A(y|x, D_{tr}) \propto p_s(y|x, D_{tr}) w(y)$.
  2. 비정상성 점수는 이 틸팅된 예측 분포의 음의 로그 밀도이다: $s_A(x, y) = -\log p_A(y|x, D_{tr})$.
  3. 컨포멀 임계값(threshold)은 교정 점수의 **중요도 가중 분위수(importance-weighted quantile)**를 사용하여 계산된다.
• 기하학: 결과적인 예측 집합의 중심은 에피스테믹 불확실성(\phi(x)^\^\top \Sigma_\theta \phi(x))에 비례하는 시프트를 포함한다. 훈련 분포에서 멀리 떨어진 입력값은 더 넓은 구간을 받게 된다.
• 요구사항: 훈련 파이프라인에 접근할 필요가 없으며, 소스 모델을 블랙박스로 취급한다.

전략 B: 훈련 중 적응 (사후 분포 틸팅, Posterior Tilting)

• 메커니즘: 교정이 이루어지기 전, 파라미터 레벨에서 교정이 적용된다.
• 과정:
  1. 개별 관측치의 우도 비(likelihood ratio)를 사용하여 소스 사후 분포를 조정함으로써 "타겟 틸팅된" 사후 분포를 구축한다: $\pi_t(\theta|D_{tr}) \propto \pi_s(\theta|D_{tr}) \prod_{i} Z_\theta(x_i)^{-1}$.
  2. 가우시안 헤드의 경우, 이는 이동된 평균을 갖는 폐쇄형(closed-form) 가우시안 사후 분포를 생성한다: $\hat{\theta}_t = \hat{\theta}_s - \beta n \Sigma_\theta \bar{\phi}$, 여기서 $\bar{\phi}$는 훈련 세트의 평균 특징이다.
  3. 비정상성 점수는 이 교정된 사후 분포로부터 도출된 예측 분포의 NLPD이다.
  4. 컨포멀 임계값은 전략 A와 동일하게 중요도 가중 분위수를 사용한다.
• 기하학: 예측 집합 중심의 시프트는 에피스테믹 불확실성이 아니라, 테스트 포인트와 훈련 분포 간의 유사성($\phi(x)^\top \bar{\phi}$)에 의존한다.
• 요구사항: 훈련 파이프라인과 평균 교정을 계산하기 위한 훈련 특징(features)에 대한 접근이 필요하다.

알고리즘 파이프라인

두 전략 모두 통합된 파이프라인(Algorithm 1)을 따른다:

1. 소스 베이지안 선형 회귀 파라미터를 계산한다.
2. 점수 함수(score function)를 계산한다 (둘 중 하나: $s_A$ 또는 $s_B$).
3. 교정 세트(calibration set)에 점수를 매긴다.
4. 중요도 가중 분위수 임계값을 계산한다.
5. 예측 집합 $C(x) = \{y : s(x, y) \leq \hat{q}\}$를 구성한다.

3. 주요 기여

1. 통합 프레임워크: 유효성(중요도 가중 분위수에 의해 결정됨)과 효율성(점수 기하학: 예측 틸팅 vs 사후 분포 틸팅에 의해 결정됨)의 분리를 제시한다.
2. 폐쇄형 솔루션(Closed-Form Solutions): 가우시안 헤드에 대한 타겟 틸팅된 사후 분포를 유도하여, 교정된 예측 분포를 정확하게 계산할 수 있게 한다.
3. 비교 분석: 각 전략이 선호되는 영역을 식별하는 헤드 투 헤드(head-to-head) 비교를 수행한다:
   • 무편향 훈련(Unbiased Training): 두 전략 모두 유효한 커버리지를 달성하지만, 전략 A(예측 틸팅)가 더 좁은 구간을 생성한다. 전략 B는 소스 데이터가 이미 대표성을 띠고 있다면 불필요한 편향을 도입한다.
   • 편향/농축된 훈련 (리드 최적화): 전략 B는 디바이어싱(debiasing, 편향 제거) 연산자 역할을 한다. 파라미터 사후 분포를 교정함으로써, 파라미터 편향, 예측 편향 및 구간 너비를 동시에 줄이면서 유효한 커버리지를 유지한다.

4. 실험 결과

저자들은 두 가지 환경에서 합성 가우시안 선형 회귀 데이터를 사용하여 방법론을 평가한다:

• 실험 1 (무편향 환경): 훈련 데이터가 소스 분포에서 균등하게 추출된 경우.

  • 커버리지: IW 분위수를 사용하는 모든 방법(CB-IW, 전략 A, 전략 B)은 라벨 시프트 강도($\beta$)에 관계없이 명목 90% 커버리지를 유지한다. 가중치를 적용하지 않은 베이스라인은 실패하며, $\beta$가 증가함에 따라 커버리지를 잃는다.
  • 효율성: 전략 A가 가장 좁은 구간을 생성한다. 전략 B는 MAP 교정이 사후 분포를 진리(truth)로부터 멀어지게 만들기 때문에 더 넓은 구간을 갖는다.

• 실험 2 (리드 최적화 환경): 훈련 데이터가 고반응 화합물에 농축된 경우(편향된 소스).

  • 커버리지: 모든 IW 기반 방법은 유효한 90% 커버리지를 유지한다. 가중치를 적용하지 않은 베이스라인은 편향된 모델로 인한 팽창된 교정 점수 때문에 과잉 커버리지(91~95%)를 보인다.
  • 디바이어싱: 전략 B는 편향된 소스 사후 분포와 비교하여 파라미터 편향을 약 40%, 예측 편향을 약 34% 감소시킨다.
  • 효율성: 전략 B는 동일한 커버리지를 유지하면서 전략 A보다 엄격하게 좁은 구간을 생성한다 ($\beta=0.6$에서 너비가 최대 16% 감소). 이는 훈련 데이터가 편향된 경우, 파라미터 사후 분포를 교정하는 것이 예측 밀도를 교정하는 것보다 더 효율적임을 입증한다.

5. 의의 및 주장

본 논문은 컨포멀 베이즈에서 라벨 시프트를 처리하는 방법에 대한 원칙적이고 통합적인 관점을 제공한다고 주장한다. 주요 의의는 **교정을 위한 유효성(calibration for validity)**과 **적응을 위한 효율성(adaptation for efficiency)**을 구분하는 데 있다:

• 유효성은 보장된다: 점수가 사후적으로 교정되든 훈련 중에 교정되든 상관없이, 중요도 가중 분위수 규칙에 의해 유효성이 결정된다.
• 효율성은 문맥 의존적이다: 무편향 설정에서는 사후 파라미터를 변경하지 않는 사후 예측 틸팅이 더 우수하다. 그러나 훈련 데이터가 농축/편향된 경우(리드 최적화에서 흔함), 훈련 중 사후 적응은 밑바탕이 되는 모델의 정확도와 예측 집합의 효율성을 모두 개선하는 필수적인 디바이어싱 단계로서 작용한다.

저자들은 현재 프레임워크가 강력한 가정(순수 라벨 시프트, 알려진 틸트 파라미터, 가우시안 선형 헤드)과 합성 검증에 의존하고 있음을 언급한다. 이들은 딥 모델로 확장하려면 근사 추론(예: 라플라스 근사)이 필요하며, 실제 세계에서의 검증은 향후 과제로 남겨두었다고 밝힌다. 또한, 라벨이 없는 타겟 데이터 없이 의사 라벨(pseudo-labels)을 사용하여 $\beta$를 추정하는 2단계 절차를 설명하며, 분자 특성 적용을 위한 동료 논문을 참조한다.