eCP: Equivariant Conformal Prediction with pre-trained models

1. 문제 정의 (Problem Statement)

• 배경: 현대 머신러닝 시스템 (로보틱스, 자율주행 등) 은 신뢰할 수 있는 불확실성 정량화 (Uncertainty Quantification) 가 필수적입니다. 이를 위해 합동 예측 (Conformal Prediction, CP) 이 널리 사용되며, 이는 데이터 교환성 (Exchangeability) 가정 하에 유한 표본에서 분포 무관한 (distribution-free) 형식적 커버리지 보장을 제공합니다.
• 핵심 한계: 기존 CP 의 주요 약점은 효율성 (Efficiency) 입니다. 특히 장기 예측 (Long-horizon forecasting) 이나 높은 신뢰도 (High confidence level) 구간에서 예측 구간 (Prediction Sets) 이 과도하게 커져 불확실성 추정이 실용적으로 무의미해질 수 있습니다.
• 기존 접근법의 부족: 기존 연구들은 적응형 가중치나 조건부 CP 등을 통해 효율성을 개선하려 시도했으나, 데이터에 내재된 기하학적 대칭성 (Geometric Symmetries) 을 명시적으로 활용하여 불확실성을 줄이는 방법은 부족했습니다. 또한, 많은 사전 학습된 모델 (Pre-trained models) 은 대칭성을 완벽하게 만족하지는 않지만, 학습 데이터나 아키텍처 편향으로 인해 근사적인 대칭성을 보입니다.

2. 제안 방법론 (Methodology: eCP)

저자들은 대칭성 기반 합동 예측 (Equivariantized Conformal Prediction, eCP) 을 제안합니다. 이는 모델을 재학습하거나 아키텍처를 변경하지 않고, 사전 학습된 예측기에 기하학적 정보를 주입하는 사후 (Post-hoc) 절차입니다.

• 핵심 아이디어:

  • 각 데이터 포인트를 독립적인 샘플이 아닌, 대칭군 (Symmetry Group) 궤도 (Orbit) 의 대표자로 간주합니다.
  • 사전 학습된 예측기 $f_\theta$ 의 비동일성 점수 (Non-conformity score) 를 대칭군을 통해 평균화 (Group-averaging) 합니다.
  • 이를 통해 궤도 내의 대칭적으로 관련된 샘플들 간에 비동일성 질량 (Non-conformity mass) 을 재분배하여 불확실성을 완화합니다.

• 수식적 정의:

  • 대칭화 연산자 (Symmetrization Operator): 비동일성 점수 $s$ 를 군 $G$ 에 대해 평균화합니다.
    $$\Pi_G[s; f](x,y) = \mathbb{E}_{g \sim \mu_G} [s(f(\phi_{g^{-1}}(x)), \psi_{g^{-1}}(y))]$$
    여기서 $\mu_G$ 는 군 $G$ 의 하르 (Haar) 측도입니다.
  • 대칭화 예측기 (Equivariantized Predictor):
    $$f^G_\theta(x) = \mathbb{E}_{g \sim \mu_G} [\psi_g \circ f_\theta \circ \phi_{g^{-1}}(x)]$$
    이는 원래 예측기를 대칭성 공간으로의 사영 (Projection) 으로 간주할 수 있습니다.

• 알고리즘 흐름 (Algorithm 1):

  1. 교정 데이터 (Calibration set) 에 대해 각 샘플의 궤도를 생성하고, 군 원소들에 대해 예측을 변환한 후 평균낸 점수를 계산합니다.
  2. 평균화된 점수들을 정렬하여 임계값 (Quantile) 을 구합니다.
  3. 테스트 샘플에 대해 동일한 대칭화 과정을 적용하여 예측 집합을 구성합니다.

3. 주요 이론적 기여 (Key Theoretical Contributions)

1. 커버리지 보장 유지:

   • 제안된 eCP 는 데이터가 $G \times S_n$-교환성 (Group-invariant exchangeability) 을 만족한다고 가정할 때, 기존 CP 와 동일한 형식적 커버리지 보장 (Formal coverage guarantee) 을 유지함을 증명했습니다 (Theorem 1).

2. 증가 볼록 순서 (Increasing Convex Order) 에 의한 수축:

   • 대칭화된 비동일성 점수 $S^{f^G}$ 는 원래 점수 $S^f$ 에 대해 증가 볼록 순서 (Increasing Convex Order, $\preceq_{icx}$) 로 수축됨을 증명했습니다.
   • 즉, $S^{f^G} \preceq_{icx} S^f$ 이 성립하며, 이는 모든 증가 볼록 함수 $\nu$ 에 대해 $\mathbb{E}[\nu(S^{f^G})] \leq \mathbb{E}[\nu(S^f)]$ 임을 의미합니다.
   • 이 결과는 분산 감소, 꼬리 확률 (Tail probability) 감소, 그리고 CVaR (Conditional Value at Risk) 수축을 보장합니다.

3. 예측 집합의 기대 부피 감소:

   • 위 이론적 결과에 따라, 동일한 오커버리지 (Miscoverage) 비율 $\alpha$ 에서 eCP 가 생성하는 예측 집합의 기대 부피 (Expected Volume) 가 기존 CP 보다 작아짐을 보였습니다 (Theorem 3 및 Section IV).
   • 특히, Chernoff bound 및 Hoeffding bound 와 같은 지수 꼬리 경계 (Exponential tail bounds) 가 대칭화를 통해 강화됨을 부록에서 증명했습니다.

4. 실험 결과 (Experimental Results)

• 실험 설정:

  • 데이터셋: ETH-UCY, Stanford Drone Dataset (SDD), SportVU NBA 등 보행자 및 운동선수의 장기 궤적 예측 데이터셋.
  • 모델: SocialVAE (확률적), TUTR (결정론적) 등 다양한 사전 학습 모델 사용.
  • 대칭군: 평면 회전 대칭군 ($C_4, C_8, SO(2)$).
  • 비교: 기존 Split Conformal Prediction (Vanilla CP) vs. eCP (EqC4, EqC8, EqSO(2)).

• 주요 성과:

  • 예측 구간 축소: 모든 데이터셋과 모델에서 eCP 는 95% 신뢰구간 (Q0.05) 에서 약 28% 의 예측 반경 감소를 달성했습니다.
  • 고신뢰도 구간에서의 효과: 99% 와 같은 매우 높은 신뢰도 구간에서도 예측 집합이 크게 축소되었으며, 이는 기존 CP 가 가장 보수적으로 작동하는 구간에서의 효율성 향상을 의미합니다.
  • 커버리지 유지: 예측 집합이 축소되었음에도 불구하고, 실제 커버리지 (Empirical Coverage) 는 목표치 (95%, 99%) 를 유지했습니다.
  • 대칭군의 영향: 대칭군의 크기가 클수록 ($C_4 \to C_8 \to SO(2)$) 예측 집합이 더 작아지는 경향을 보였습니다.
  • 모델 무관성: 재학습 없이 사전 학습된 모델 (Stochastic 및 Deterministic 모두) 에 적용 가능함을 입증했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 기하학적 편향과 불확실성 정량화의 연결: eCP 는 사전 학습된 모델에 내재된 (또는 근사적인) 기하학적 대칭성을 사후 절차로 활용하여 불확실성을 줄이는 새로운 패러다임을 제시합니다.
• 실용성: 모델을 재학습하거나 아키텍처를 수정할 필요 없이, 기존 모델의 예측 성능을 유지하면서 불확실성 추정의 정밀도를 높일 수 있습니다. 이는 로봇 공학, 자율주행 등 안전이 중요한 분야에서 안전 마진 (Safety Margins) 을 유지하면서도 효율적인 계획 (Efficient Planning) 을 가능하게 합니다.
• 한계 및 향후 과제: 정확한 대칭군을 알아야 하며, 연속군 ($SO(2)$ 등) 의 경우 몬테카를로 샘플링으로 인한 계산 비용이 발생할 수 있습니다. 또한, 폐루프 계획 (Closed-loop planning) 성능에 대한 직접적인 검증은 향후 과제로 남았습니다.

요약하자면, eCP 는 합동 예측의 효율성 한계를 극복하기 위해 대칭성 이론을 도입한 획기적인 방법으로, 이론적으로 증명된 수축 효과와 실험적으로 입증된 성능 향상을 통해 신뢰할 수 있는 불확실성 정량화의 새로운 기준을 제시합니다.