기술 요약: BACH (Bayesian Admixture of Contrastive Heads)

1. 문제 정의

두 개의 타워(Two-tower) 리트리버는 대규모 후보 생성(candidate generation)을 위한 추천 시스템의 표준으로, 사용자(user)와 아이템(item)을 공유 임베딩 공간으로 매핑하여 내적(inner product)으로 점수를 계산합니다. 그러나 표준적인 단일 벡터 모델은 다양하고 약하게 연관된 관심을 가진 사용자를 표현하는 데 어려움을 겪으며, 종종 모든 관심사를 임베딩 공간의 단일 지점으로 붕괴(collapse)시킵니다. 이는 결과적으로 지배적인 관심사는 과잉 대표하고 다른 관심사는 과소 서비스하는 리트리벌 슬레이트(retrieval slate)를 초래합니다.

멀티 인터레스트(Multi-interest) 모델은 $k$개의 사용자 임베딩(헤드)을 생성하고, 이 헤드들 중 최대 내적 값을 기준으로 아이템을 스코어링함으로써 이 문제를 해결하려고 시도합니다. 그러나 기존 방식들은 두 가지 결정적인 한계를 가집니다:

1. 라우팅 붕괴 (Routing Collapse): "하드 라우팅(hard-routing)"(양의 아이템에 대해 가장 높은 점수를 받은 헤드에만 그래디언트가 전달되는 방식)을 통한 학습은 승자 독식(winner-take-all) 역학을 생성합니다. 초기 상태가 약간 더 좋지 않은 헤드는 선택 빈도가 낮아지고 업데이트를 적게 받게 되어, 점진적으로 지배적인 헤드의 복사본으로 붕괴하며 실질적인 용량(capacity)이 $k$ 미만으로 줄어듭니다.
2. 사용자별 관심도 가중치 결여: 기존 방법들은 $k$개의 헤드를 대칭적으로 취급하며, 특정 사용자의 다음 아이템을 설명할 가능성이 각 헤드별로 얼마나 되는지에 대한 추정치를 제공하지 않습니다. 결과적으로 서빙 규칙은 최대 점수 헤드를 선택하거나 암묵적인 균등 사전 확률(uniform prior) 하에 상위 리스트들의 합집합을 취하게 되는데, 이는 특정 사용자의 이질적인 중요도를 반영하지 못합니다.

2. 방법론: BACH

저자들은 BACH(Bayesian Admixture of Contrastive Heads)를 제안하며, 멀티 인터레스트 투 타워 리트리벌을 변분 추론(variational inference)을 통해 피팅된 사용자별 소프트맥스 혼합 모델(per-user mixture of softmaxes)로 재정의합니다.

생성 모델 (Generative Model)

BACH는 $k$개의 사용자 헤드를 유한 혼합 모델(finite mixture model)의 구성 요소로 취급합니다. 사용자 $u$와 아이템 $i$에 대하여:

• 사용자별 사전 분포 $\pi_u$(혼합 가중치 벡터)를 갖는 잠재 구성 지표(latent component indicator) $z_n \in \{1, \dots, k\}$가 도입됩니다.
• $z_n = r$인 조건 하에서, 아이템은 $r$번째 사용자 임베딩 $u^{(r)}$에 의해 정의된 샘플드-소프트맥스(sampled-softmax) 분포로부터 생성됩니다.
• 관측 데이터의 로그 가능도(log-likelihood)는 잠재 헤드들에 대한 주변화(marginal)입니다: $p(i|u) = \sum_r \pi_u^{(r)} p_r(i|u)$.

변분 추론 및 인식 사후 분포 (Variational Inference and Recognition Posterior)

로그-합(log-of-sum) 항으로 인해 로그 가능도의 직접적인 최적화는 어렵습니다. BACH는 증거 하한(Evidence Lower Bound, ELBO)을 최대화하기 위해 변분 추론을 채택합니다.

• 인식 사후 분포 (Recognition Posterior): 서빙 시점에 다루기 어려운 모델 자체의 음의 의존적 사후 분포(negative-dependent posterior) 대신, BACH는 헤드들에 대한 구형 인식 사후 분포(spherical recognition posterior) $\gamma_n$을 도입합니다.
• 커널 선택: 사후 분포는 구형 밀도(기본값은 Power-Spherical, 대안으로 von Mises-Fisher)를 사용하여 모델링됩니다. 이 밀도는 헤드 방향 $u^{(r)}$과 집중 매개변수(concentration parameter) $\kappa_r$에 의해 매개변수화됩니다.
• 책임도 (Responsibilities): 변분 분포(책임도) $\gamma_n^{(r)}$은 다음과 같이 계산됩니다:
  $$\gamma_n^{(r)} = \frac{\pi_u^{(r)} \sigma_r(n)}{\sum_{r'} \pi_u^{(r')} \sigma_{r'}(n)}$$
  여기서 $\sigma_r(n)$은 헤드와 양의 아이템 사이의 정렬(alignment)에 기반한 구형 밀도 값입니다.

최적화 (Optimization)

모델은 다음 항목들에 대해 ELBO를 공동으로 최대화합니다:

1. 임베딩 ($\theta, \phi$): 사용자 헤드와 아이템 타워는 **책임도 가중 대비 학습 손실(responsibility-weighted contrastive loss)**을 통해 훈련됩니다. 하드 라우팅과 달리, 그래디언트는 책임도 $\gamma_n^{(r)}$에 따라 모든 $k$개 헤드로 흐르며, 이를 통해 라우팅 붕괴를 완화합니다.
2. 혼합 가중치 ($\pi_u$): 게이팅 타워 $\pi_\xi(x_u)$가 사용자별 가중치를 생성합니다. 이 가중치는 ELBO의 사전 분포 역할을 하며, 서빙 시점에 각 헤드의 리트리벌에 가중치를 부여하기 위해 재사용됩니다.
3. 집중도 ($\psi$): 집중 매개변수 $\kappa_r$은 대비적 사후 분포(contrastive posterior)의 날카로움(sharpness)을 맞추기 위해 학습됩니다. 결정적으로, $\kappa_r$은 KL-발산(KL-divergence) 항을 통해서만 ELBO에 영향을 미치므로, **자기 규제(self-regularized)**되며 별도의 사전 분포나 클리핑(clipping)이 필요하지 않습니다.

서빙 (Serving)

서빙 시점에 BACH는 자기 정규화된 혼합 밀도(self-normalized mixture density)에 의해 아이템을 랭킹합니다:
$$m(i|u) = \sum_{r=1}^k \pi_u^{(r)} C_d(\kappa_r) \omega_{\kappa_r}(\langle u^{(r)}, v_i \rangle)$$
이를 통해 효율적인 리트리벌이 가능합니다:

• 소프트 랭킹 (Soft Ranking): 아이템은 하드 max가 아닌 소프트 혼합에 의해 랭킹되어, 붕괴되었거나 질량이 낮은 헤드가 최소한으로 기여하도록 합니다.
• 글로벌 코드북 변형 (Global Codebook Variant): BACH는 헤드가 모든 사용자에 대해 공유되는(고정된 토픽 코드북) "글로벌" 모드를 지원하며, 이때 $\pi_u$는 개인화된 상태를 유지합니다. 이는 각 헤드별 후보 리스트를 오프라인에서 계산한 뒤 서빙 시 $\pi_u$에 의해 재가중치 할 수 있게 하여, 사용자별 최근접 이웃(nearest-neighbor) 쿼리를 제거하고 효율적인 **사전 계산 가능한 리트리벌(precomputable retrieval)**을 가능하게 합니다.

3. 주요 기여

• 변분 공식화 (Variational Formulation): 멀티 인터레스트 리트리벌을 하드 라우팅 방식의 구조적 결함을 직접 해결하는 사용자별 소프트맥스 혼합 모델로 정립하고, 이를 하드 arg-max 라우팅 대신 소프트 책임도를 사용하여 변분 추론으로 피팅했습니다.
• 라우팅 붕괴 완화: 모든 헤드에 소프트 책임도에 따라 그래디언트를 분산시킴으로써, 기존의 "승자 독식" 역학을 방지하고 헤드 붕괴를 막았습니다.
• 사용자별 관심도 가중치: 모델은 헤드의 중요도를 정량화하는 명시적인 사용자별 혼합 가중치($\pi_u$)를 학습하며, 이를 서빙 시 리트리벌 가중치로 재사용하여 관심의 이질성을 해결합니다.
• 자기 규제되는 집중도: 집중 매개변수 $\kappa_r$은 ELBO의 KL 항을 통해 데이터에 맞춰 피팅되므로, 외부 사전 분포 없이도 자연스럽게 경계 내에 머물며 자기 규제됩니다.
• 서빙 일관성 있는 스코어링: "모든 후보를 최적의 헤드로 스코어링"하는 방식이 전통적인 "타겟 라우팅"보다 성능이 우수함을 입증하여, 서빙 일관성이 높은 학습 목표를 제시했습니다.

4. 실험 결과

저자들은 MovieLens-20M, Taobao, Netflix의 세 가지 대규모 벤치마크에서 BACH를 평가했습니다.

• 성능: BACH는 모든 지표(Recall@K, NDCG@K, AUPRC)와 모든 헤드 수($k \in \{8, 16, 32\}$)에서 모든 베이스라인(단일 벡터, MIND/ComiRec과 같은 하드 라우팅 멀티-인터레스트, max-routing 변형 모델)을 능가했습니다.
• 상위 랭킹 이득: 개선 효과는 랭킹 상단(AUPRC, R@10)에서 가장 두드러졌으며, 이는 사용자 의도와의 더 나은 정렬을 나타냅니다.
• 라우팅 절제 연구 (Routing Ablation): "all-multihead"(모든 후보를 최적의 헤드로 스코어링) 방식이 "pos-multihead"(타겟 라우팅)보다 유의미하게 우수했으며, $k$가 증가할수록 그 격차가 커짐을 발견했습니다. BACH는 이러한 all-multihead 베이스라인보다 더욱 향상된 성능을 보였습니다.
• 커널 변형: Power-Spherical (p-BACH)와 von Mises-Fisher (v-BACH) 변형은 서로 유사한 성능을 보였으며, 성능 향상은 특정 구형 커널보다는 변분 혼합 구조 자체에 기인함을 확인했습니다.
• 글로벌 코드북: 글로벌 코드북 변형(공유 헤드, 개인화된 가중치)은 인기 기반 베이스라인보다 2~5배 높은 성능을 보이면서도, 사전 계산 가능한 저지연 서빙과 콜드 스타트 강건성을 제공했습니다. 다만, 완전히 개인화된 헤드에 비해서는 정확도 측면에서 일부 트레이드오프가 있었습니다.

5. 의의 및 주장

본 논문은 BACH가 하드 라우팅 방식의 구조적 결함을 직접 해결하는 원칙적인 확률적 프레임워크를 제공한다고 주장합니다. 변분 혼합 모델로서 BACH는 다음을 달성합니다:

1. 강건성 (Robustness): 복잡한 규제 휴리스틱 없이 헤드 붕괴를 제거합니다.
2. 보정 (Calibration): 리트리벌 가중치를 개선할 수 있는 보정된 사용자별 관심 가중치를 생성합니다.
3. 유연성 (Flexibility): 완전히 개인화된 헤드부터 사전 계산 가능한 글로벌 코드북에 이르기까지 다양한 배포 옵션을 제공하여, 정확도와 서빙 효율성 사이의 트레이드오프를 조절할 수 있게 합니다.

저자들은 이 방법이 실세계의 대규모 데이터셋에서 리트리벌 품질을 향상시키는 동시에, 트랙터블(tractable)한 서빙 아키텍처를 유지한다는 점을 강조합니다.