기술 요약: 사용자 라이프사이클 전반의 불확실성 인식 적응형 추천

1. 문제 제기

현대 추천 시스템은 서로 다른 라이프사이클 단계에서 사용자 불확실성을 처리하는 데 있어 근본적인 이분법에 직면해 있습니다.

• 저활성 사용자 (LAUs): 희소한 상호작용 기록을 특징으로 하며, 모델의 취약성에 노출되어 있습니다. LAUs 에 대한 예측의 높은 불확실성은 신뢰할 수 없는 추천으로 인해 즉각적인 이탈과 참여도 저하의 심각한 위험을 초래합니다.
• 고활성 사용자 (HAUs): 풍부한 데이터를 보유하고 있어, 불확실성이 탐색을 위한 신호로 작용할 수 있는 기회를 제공합니다. HAUs 의 경우, 높은 불확실성은 미탐색 관심 영역을 나타내어 콘텐츠의 다양성을 확보하고 추천 생태계를 확장할 기회를 제공합니다.

핵심 과제: 기존의 대규모 추천 모델들은 일반적으로 내재적 신뢰도 점수 없이 점 추정치 (point estimates) 만을 출력합니다. 최첨단 딥러닝 모델들은 종종 잘 보정되지 않아, 높은 예측 점수가 신뢰성을 보장하지 않습니다. 또한, 전통적인 불확실성 정량화 방법은 산업적 요구 사항을 충족하지 못합니다.

• 베이지안/MC 드롭아웃: 원칙적인 추정을 제공하지만, 여러 확률론적 순전파 또는 사후 분포 샘플링으로 인해 치명적인 지연 시간 (latency) 을 초래합니다.
• 적합성 예측 (Conformal Prediction): 계산적으로 효율적이지만, 종종 개인화된 필터링에 필요한 세분화된 입력별 세밀함이 결여된 전역적 오류 보장을 제공합니다.

이로 인해 시스템이 실시간으로 '쉬운' 예측과 '위험한' 예측을 구분할 수 없는 운영상의 간극이 발생하여, 취약한 사용자 세그먼트의 사용자 경험 저하와 활발한 사용자의 탐색 기회 상실로 이어집니다.

2. 방법론

저자들은 입력별 인식적 불확실성 (epistemic uncertainty) 을 정량화하고 사용자 활동 수준에 따라 차별화된 전략을 적용하는 통합적이고 생산 준비가 완료된 프레임워크를 제안합니다. 이 프레임워크는 점 추정 모델 (예: CTR 예측기) 과 확률적 모델을 포함한 두 가지 주요 모델 클래스를 지원합니다.

2.1 불확실성 정량화

시스템은 불확실성을 데이터 내재적 노이즈인 우연적 불확실성 (Aleatoric Uncertainty) 이 아닌, 제한된 데이터 또는 모델 용량에서 비롯된 모델 불확실성인 인식적 불확실성 (Epistemic Uncertainty) 으로 정의합니다.

• 점 추정 모델 (결정론적) 의 경우:

  • 접근법: 시스템은 각 사용자 - 항목 쌍에 대한 예상 예측 오차 (Expected Prediction Error, EPE) 를 추정합니다.
  • 구현: 보조 비평가 네트워크 (Critic Network, $g_\phi$) 가 EPE 를 직접 예측하도록 훈련됩니다.
  • 훈련 메커니즘: 추천 모델은 고정된 채로 유지되며, 비평가는 이전 모델 체크포인트에서 파생된 입력 특징과 실현된 일반화 오차의 튜플로 매일 훈련됩니다. 비평가는 $U_{point}(x)$ 를 추정하기 위해 다중 뷰 입력 표현 (원시 특징 + 중간 임베딩 + 최종 출력) 을 입력받습니다.
  • 근거: 특정 층위 (예: LAUs 간) 내에서 고유한 행동적 무작위성이 유사하다는 가정 하에, EPE 는 모델 불확실성의 대리 지표로 작용합니다.

• 확률적 모델의 경우:

  • 접근법: 시스템은 경험적 베이지안 (Empirical Bayes) 절차를 활용합니다.
  • 구현: 모델은 입력 $x$ 를 기반으로 조건부 사전 분포 (예: 베타 분포 모수 $\alpha, \beta$) 의 초매개변수를 출력합니다.
  • 분해: 총분산의 법칙을 사용하여 예측 분산을 데이터 노이즈와 모델 불확실성으로 분해합니다. 프레임워크는 모델 (인식적) 불확실성 성분을 분리합니다: $U_{prob}(x) = \text{Var}_{\theta|x}(\mathbb{E}[Y|\theta, x])$.
  • 훈련: 모델은 잠재 매개변수를 점 추정하지 않고 입력 의존적 사전 분포를 학습하며 전체 훈련 과정에서 불확실성을 보존하기 위해 2 차 최대 우도 (Type-II MLE) 를 통해 훈련됩니다.

2.2 보정

원시 불확실성 점수는 경험적 보정 집합을 사용하여 실행 가능한 임계값으로 변환됩니다. 주어진 분위수 수준 (예: 0.95) 에 대해, 모수적 가정을 요구하지 않고 '위험한' 항목을 정의하는 임계값 $\tau_{point}$ 와 $\tau_{prob}$ 가 설정됩니다.

2.3 이중 전략 배포

프레임워크는 사용자 세그먼트에 따라 다른 정책을 적용합니다.

1. LAUs 를 위한 위험 회피형 디부스팅 (Deboosting):

   • 목표: 신뢰할 수 없는 추천을 억제하여 이탈을 방지합니다.
   • 메커니즘: 항목의 불확실성 점수 ($U_{point}$ 또는 $U_{prob}$) 가 보정된 임계값을 초과하면 위험한 것으로 플래그가 지정됩니다. 기본 관련성 점수에서 디부스팅 페널티 $D$ 가 차감됩니다: $r_{final} = r_{base} - D \cdot \mathbb{I}_{risky}$.
   • 결과: 높은 불확실성을 가진 항목은 필터링되거나 하위 순위로 배치되어 희소한 데이터를 가진 사용자에게 안정적이고 고품질의 경험을 보장합니다.

2. HAUs 를 위한 위험 추구형 탐색:

   • 목표: 다양성을 향상시키고 잠재적 관심을 발견합니다.
   • 메커니즘: 높은 인식적 불확실성은 상한 신뢰 구간 (Upper Confidence Bound, UCB) 원칙을 따라 탐색 보너스로 간주됩니다. 최종 점수가 부스팅됩니다: $r_{final} = r_{base} + \omega \cdot U_{HAU}$ (여기서 $\omega$ 는 탐색 가중치입니다).
   • 결과: 시스템은 활발한 사용자를 위해 미탐색 콘텐츠 도메인을 우선시하여 장기적인 생태계 활력을 증진합니다.

3. 주요 기여

1. 통합 불확실성 정량화 프레임워크: 결정론적 모델에서 EPE 추정을 위한 보조 비평가 네트워크와 확률적 모델에서 분산 추정을 위한 경험적 베이지안 모듈을 결합한 생산 준비 완료 시스템입니다. 이는 기존 베이지안 추론의 지연 시간 오버헤드 없이 사용자별, 항목별 신뢰도 점수를 제공합니다.
2. LAUs 를 위한 표적 디부스팅: 보정된 불확실성 임계값을 사용하여 위험한 추천을 능동적으로 필터링하는 실용적인 정책으로, 콜드스타트 및 희소 데이터 문제를 해결하여 이탈을 완화합니다.
3. HAUs 를 위한 불확실성 기반 탐색: UCB 원칙을 사용하여 모델 기반 불확실성을 보상하고 추천 다양성을 향상시키는 메커니즘으로, 높은 인식적 불확실성을 관심 확장을 위한 긍정적 신호로 활용합니다.
4. 대규모 실증 검증: 주요 라이브 스트리밍 플랫폼에서의 포괄적 검증을 통해 불확실성 인식 순위가 취약한 사용자의 유지율과 활발한 사용자의 다양성 모두를 향상시킨다는 것을 입증했습니다.

4. 실험 결과

이 프레임워크는 14 일 동안 주요 라이브 스트리밍 플랫폼의 생산 트래픽에서 평가되었으며, 저활성 사용자 (LAUs) 와 고활성 사용자 (HAUs) 에 초점을 맞추었습니다.

4.1 오프라인 분석

• 상관관계: 비평가가 예측한 EPE 와 베이지안 사전 분산 모두 실현된 오차와 높은 스피어만 상관관계 (>0.65) 를 보였으며, 멀티헤드 앙상블 및 MC 드롭아웃 베이스라인을 크게 능가했습니다.
• 트렌드 정렬: 불확실성 점수는 라이브 스트리밍 세션의 나이가 증가함에 따라 올바르게 감소했습니다 (감소된 MSE 를 반영). 이는 데이터 축적에 관한 도메인 직관과 모델이 일치함을 검증했습니다.

4.2 온라인 A/B 테스트 (LAUs)

위험 회피형 디부스팅 정책은 통계적으로 유의미한 개선을 가져왔습니다.

• 유지율: HLT7(최근 7 일의 시간당 수명) 에서 +0.0577% 상승.
• 품질: 가치 있는 시청 지속 시간 비율 (VWR) 에서 +0.512% 증가.
• 효율성: 원시 라이브 시청 시간은 약간 감소 (-0.16%) 했으나, HLT 효율성 (희생된 시청 시간 단위당 유지율 증가분) 은 양수 (0.0549) 였습니다. 이는 낮은 가치 소비를 더 높은 유지율로 성공적으로 교환했음을 나타냅니다.
• 확산 효과: 앱 체류 시간이 증가 (+0.16%) 하여 전체 플랫폼의 고정도 (stickiness) 에 긍정적인 영향을 미쳤음을 시사합니다.

4.3 온라인 A/B 테스트 (HAUs)

UCB 기반 탐색 전략은 참여도를 훼손하지 않으면서 다양성 지표를 개선했습니다.

• 다양성: 쇼 태그/U(표시된 평균 고유 카테고리 태그) 에서 +2.1% 상승.
• 균형: Top1 태그 UV 비율에서 -0.42% 최적화 (단일 관심사에 대한 과도한 집중 감소).
• 참여도: 라이브 시청 시간은 안정적으로 유지 (+0.16%, 통계적으로 유의하지 않음) 되어 탐색이 사용자 경험을 저하시키지 않았음을 확인했습니다.

4.4 제거 분석 (Ablation Studies)

• 통합 프레임워크 vs 구성 요소: EPE 와 베이지안 불확실성을 결합한 것이 가장 좋은 결과를 낳았습니다. EPE 만 또는 베이지안 분산 만 사용한 경우 이득이 낮아 상호 보완적임을 확인했습니다.
• 베이스라인: 멀티헤드 앙상블 및 MC 드롭아웃과 같은 구조적 휴리스틱은 현저히 낮은 성능을 보였습니다 (예: MC 드롭아웃은 +0.036% HLT7 상승을 보인 반면 통합 프레임워크는 +0.0577% 상승). 이는 무작위 가중치 교란이나 단순 앙상블이 복잡한 DCN 아키텍처에서 인스턴스 수준의 인식적 위험을 효과적으로 포착하지 못함을 시사합니다.
• 무작위 베이스라인: 무작위로 항목을 위험한 것으로 플래그 지정하면 중립적이거나 부정적인 결과가 나왔으며, 개선은 불확실성 추정의 품질 에 의해 주도되며 단순히 디부스팅 행위 때문이 아님을 증명했습니다.

5. 중요성 및 주장

이 논문은 명시적 불확실성 추정이 산업 규모 추천 시스템의 중요하지만 종종 간과되는 구성 요소라고 주장합니다. 인식적 불확실성을 LAUs 에 대한 위험으로, HAUs 에 대한 기회로 취급함으로써 프레임워크는 이중 목표를 달성합니다.

1. 안정화: 모델 취약성의 부정적 영향으로부터 취약한 사용자를 보호하여 유지율과 만족도를 직접적으로 향상시킵니다.
2. 활력: 활발한 사용자를 위해 추천 생태계를 체계적으로 확장하여 필터 버블을 방지하고 콘텐츠 발견을 장려합니다.

저자들은 이론적 불확실성 정량화와 실용적 저지연 배포 간의 간극을 메우는 접근법을 강조합니다. 값비싼 샘플링 방법을 피하고 대신 학습된 비평가와 경험적 베이지안을 사용하여 항목별 단위로 신뢰도를 정량화하는 확장 가능한 솔루션을 제공합니다. 결과는 불확실성 인식 순위가 단순한 이론적 개선이 아니라, 고위험 환경에서 더 안전하고 투명하며 신뢰할 수 있는 추천 생태계를 구축하기 위한 실용적 필수사항임을 강조합니다.

저자가 인정하는 한계점:

• EPE 샘플을 위한 안정적인 일일 재훈련 파이프라인에 대한 의존성.
• 복잡한 다중 모달 환경에서 베타 사전 분포에 의한 행동 변이성의 과도한 단순화 가능성.
• 실제 라벨 (ground-truth labels) 부재로 인한 인식적 불확실성의 간접적 평가.
• 단기적 안전 (디부스팅) 과 장기적 데이터 획득 간의 트레이드오프.
• 이질적인 LAU 하위 세그먼트 내 명시적 차별화의 부재.