기술 요약: 불확실성 기반 특징 경로 탐색을 통한 CTR 예측을 위한 선택적 테스트 시간 계산 확장

1. 문제 정의

이 논문은 산업계 클릭률 (CTR) 예측에서 발생하는 근본적인 비대칭성을 다룹니다. 즉, 학습 단계에서는 모델이 다양한 특징 조합을 접하지만, 추론 단계에서는 희소하거나未曾 본 조합을 마주쳐 신뢰할 수 없는 예측이 초래되는 문제입니다. 기존 학습 단계의 해결책들 (예: 적응형 게이트, 특징 상호작용 아키텍처) 은 고정된 선택 함수를 학습하는데, 이 함수 자체가 동일한 데이터 희소성의 영향을 받아 배포 시 특정 인스턴스에 대한 대안을 제공하지 못합니다.

현재 추천 시스템에서의 테스트 시간 최적화 시도는 주로 시퀀스 행동 증강 (예: 아이템 드롭아웃) 에 초점을 맞추고 있는데, 이는 희소한 범주형 특징 필드를 가진 CTR 에는 적용 불가능합니다. 또한, 이진 CTR 분류에는 토큰 수준의 생성 확률이 존재하지 않기 때문에 대규모 언어 모델 (LLM) 의 테스트 시간 확장 기법을 직접 전수하는 것은 불가능합니다. 핵심 과제는 엄격한 산업적 지연 시간 제약을 위반하지 않으면서 인스턴스별 불확실성에 비례하여 추론 깊이를 확장할 수 있는, 학습이 불필요하고 모델에 구애받지 않는 프레임워크를 개발하는 것입니다.

2. 방법론: UTTSI 프레임워크

저자들은 UTTSI(불확실성 기반 테스트 시간 선택적 추론) 를 제안합니다. 이는 사전 학습된 CTR 모델의 파라미터를 수정하거나 재학습을 요구하지 않고 그 위에 작동하는 프레임워크입니다. UTTSI 는 각 인스턴스에 대한 추정된 불확실성 점수에 따라 계산 자원을 동적으로 할당합니다.

이 프레임워크는 세 가지 긴밀하게 통합된 구성 요소로 이루어져 있습니다:

A. 빈도 사전 추정

특징 값의 신뢰성을 정량화하기 위해, UTTSI 는 훈련 데이터에서 각 특징 값의 빈도를 추적하는 확률적 해시 구조 (Count-Min Sketch 에서 영감) 를 유지합니다. 이는 오프라인 데이터 수준의 신뢰성 신호를 제공합니다. 이러한 카운트들은 포화 임계값으로 정규화되어 빈도 점수 $\tilde{s}_{freq}(f_i) \in [0, 1]$를 생성합니다.

B. 이중 신호 불확실성 추정

UTTSI 는 두 가지 상호 보완적인 신호를 결합하여 인스턴스별 불확실성 $u(x)$를 추정합니다:

1. 모델 내부 신뢰도 ($s_{model}$): 예측 로짓에서 유도되며, 검증 세트의 로짓 95 백분위수인 상수 $\gamma$로 정규화됩니다. 이는 결정 경계 근처의 알레토릭 (aleatoric) 모호성을 포착합니다.
2. 데이터 수준 빈도 신뢰도 ($s_{freq}$): 특징 빈도의 가중 평균입니다. 가중치는 각 특징 임베딩에 대한 로짓의 기울기 노름 ($\|\nabla_{e_i} \text{logit}(x)\|^2$) 을 통해 계산된 귀속도 (attribution) 에 의해 결정됩니다. 이는 실제로 예측을 주도하는 특징의 빈도가 무관한 특징보다 더 무겁게 가중치되도록 보장합니다.

최종 불확실성 점수는 다음과 같이 계산됩니다:
$$u(x) = 1 - [\alpha \cdot s_{model}(x) + (1 - \alpha) \cdot s_{freq}(x)]$$
추가 탐색 경로의 수 $K(x)$는 이 불확실성에 비례하여 할당됩니다: $K(x) = \lfloor K_{max} \cdot u(x) \rfloor$.

C. 특징 필터링 및 경로 탐색

추론 과정은 두 단계로 진행됩니다:

1. 적응형 특징 필터링 (모든 인스턴스): 어떤 탐색 이전에도 각 특징에 대해 빈도와 귀속도를 결합한 복합 점수 $w(f_i)$가 계산됩니다. 훈련 데이터의 분위수에서 오프라인으로 계산된 필드별 임계값 $\tau_i$ 미만의 특징들은 폐기됩니다. 이는 모든 인스턴스에 대해 신뢰할 수 없는 임베딩을 제거합니다.
2. 확률적 경로 탐색 (불확실한 인스턴스만): $K(x) > 0$인 인스턴스의 경우, UTTSI 는 $K(x)$개의 추가 추론 경로를 생성합니다. 각 경로는 정제된 특징 집합의 부분집합을 확률적으로 샘플링하여 구성됩니다. 샘플링 확률은 복합 점수 $w(f_i)$에 의해 안내되어, 정보량이 풍부한 희귀 특징이 우선적으로 유지되도록 합니다.
3. 일관성 가중 집계: 기본 정제 경로와 모든 $K(x)$개의 탐색 경로에서 나온 예측들이 집계됩니다. 일관성 가중 투표 방식은 앙상블 평균과 일치하는 예측에 더 높은 가중치를 부여하고, 중요한 특징을 가렸을 가능성이 있는 이상치 경로에 대한 가중치를 낮춥니다.

신뢰도가 높은 인스턴스 ($K(x)=0$) 는 탐색 단계를 완전히 우회하여 초기 순전파 및 필터링 비용만 부담합니다.

3. 주요 기여

• 최초의 학습 불필요 CTR 테스트 시간 프레임워크: UTTSI 는 재학습이나 아키텍처 변경 없이 인스턴스별 불확실성에 기반하여 추론 깊이를 선택적으로 확장하는 최초의 모델에 구애받지 않는 프레임워크로 제시됩니다.
• 이중 신호 불확실성 추정기: 이 논문은 모델 로짓 신뢰도와 빈도 기반 사전 지식을 결합한 새로운 추정기를 도입하여, 인지적 불확실성 (희소 커버리지) 과 알레토릭 모호성을 효과적으로 구분합니다.
• 비대칭 추론 설계: 이 프레임워크는 모든 인스턴스가 경량 특징 필터링을 거치지만, 불확실한 인스턴스만 고비용의 다중 경로 탐색을 수행하는 비대칭 전략을 사용합니다. 이는 성능 향상과 계산 효율성 사이의 균형을 맞춥니다.
• 실증적 검증: 이 접근법은 세 가지 백본 아키텍처를 사용하여 네 가지 데이터셋 (Criteo, Avazu, KDD12, 산업용 데이터셋) 에서 검증되었으며, 7 일간의 온라인 A/B 테스트도 수행되었습니다.

4. 실험 결과

• 오프라인 성능: UTTSI 는 모든 데이터셋에서 최신 CTR 모델 (DeepFM, HSTU, PLE, OptFu 포함) 보다 일관되게 우수한 성능을 발휘했습니다. OptFu 백본에 적용되었을 때, AUC 는 +0.0037 에서 +0.0048 까지 향상되었고, LogLoss 는 -0.0116 에서 -0.0142 까지 감소했습니다. 이러한 이득은 특징 희소성이 높은 데이터셋 (KDD12 및 산업용 데이터) 에서 가장 두드러졌습니다.
• 애블레이션 연구: 이중 신호 추정, 귀속도 기반 샘플링, 또는 다중 경로 집계를 제거하면 일관된 성능 저하가 발생하여 각 구성 요소의 필요성이 확인되었습니다.
• 불확실성 보정: 추정된 불확실성 점수는 산업용 데이터셋에서 실제 예측 오차와 강한 스피어만 순위 상관관계 ($\rho=0.91$) 를 보여, 시스템이 어려운 인스턴스를 정확히 식별함을 검증했습니다.
• 온라인 A/B 테스트: 대형 이커머스 플랫폼에서의 7 일간 배포 결과, UTTSI 는 생산 환경 기준 대비 클릭률 (CTR) 에서 5.3% 의 상대적 개선을 달성했으며, 통계적 유의성 ($p < 0.01$) 을 보였습니다.
• 계산 오버헤드: 평균 계산 비용은 기본 모델 비용의 약 2.8 배입니다. 그러나 대부분의 인스턴스 (약 62%) 는 신뢰도가 높아 탐색을 우회하며, 경로들이 병렬화 가능하기 때문에 최악의 경우 지연 시간은 단일 순전파와 동일하게 유지됩니다.

5. 중요성 및 주장

이 논문은 UTTSI 가 학습 단계의 진보에 대한 원칙적이고 보완적인 방향으로서 테스트 시간에서의 선택적 추론을 확립한다고 주장합니다. 실제 인스턴스가 관찰될 때까지 추가 계산의 할당을 지연시킴으로써, 이 프레임워크는 이미 학습된 파라미터에 대한 투자 대비 효과를 극대화합니다. 이는 특징 희소성으로 인한 CTR 예측의 "신뢰성 격차"를 구체적으로 해결하여, 예측 정확도 향상에 효과적일 뿐만 아니라 관리 가능한 오버헤드와 병렬화 가능성으로 인해 산업적 배포에도 실현 가능한 솔루션을 제공합니다. 저자들은 이 접근법이 학습 단계 최적화와 경쟁하는 것이 아니라, 각 입력 인스턴스의 특정 신뢰도에 맞춰 추론 행동을 적응시킴으로써 이를 강화한다고 강조합니다.